W 1901 roku grupa założycielska zgłosiła się w ratuszu u burmistrza z prośbą o wskazanie gruntu na założenie ogrodu. Taki teren otrzymali, za miastem, za północno-wschodnimi rogatkami. Z 55 hektarów ziemi, wydzielono 5 hektarów i wskazano, że na tym miejscu może powstać ogród. W Państwowym Archiwum w Bydgoszczy istnieje mapa – obręb 2, działka 235, nr rejestru gruntu 469, 7 części, nr KW 1177 gdzie Towarzystwu, gmina Bydgoszcz w dniu 2 kwietnia 1901 roku przekazała ziemię na założenie ogrodu. Bydgoszcz wówczas liczyła 80 tyś. mieszkańców.
Od tej chwili komitet organizacyjny rozpoczął werbować przyszłych działkowców. Musiał jeszcze upłynąć czas ponad jednego roku, aby w dniu 25 marca 1903 roku zwołać zebranie założycielskie ogrodu. Na zebraniu tym ogrodowi nadano nazwę „Schrebersgarten-Freicheit, gegrindet im Jahre 1903” (Ogród Schrebrowski-Wolność, założony w roku 1903) Pierwszym prezesem wybrano Franza Flathe, wytwórcę i destylatora wódek gatunkowych z ul.Poznańskiej. Użytkownikami działek byli Niemcy, ale można było też spotkać nazwiska polskie: dr.Kretowicz, dr.Wiecki, Krasnowski, Raciborski, Wiśniewscy, Augustyn. Działki były o powierzchni 200 m/2 i przydzielano użytkownikom z obowiązkiem uprawy ziemi i wybudowania altany. Obowiązek pobudowania altany wpisano już do pierwszego statutu w Lipsku i rozpisano konkurs na najpiękniejszą postawioną altanę, jednak tylko o wielkości do 12 m/2 powieżchni.
W ówczesnym czasie w ogrodzie prezesowali : 1903r.-1905r. – F.Flathe, 1905r.-1910r. - Hugo Gundlach właściciel drogerii z ul.Poznańskiej. 1910r.-1914r. – Paul Stenzel właściciel cukierni z ul.Gdańskiej. 1914r.-1920r. – Egon Bartz restaurator z ul.Fredry.
Zaraz po zakończeniu I wojny światowej, dużo Niemców opuszczało Bydgoszcz. Ich działki nabywali Polacy, jak: Fischer, Kowalski, Ludwikowski, Buzalski.
Tu pytanie ? Dlaczego ogrodowi nadano nazwę „SWOBODA”.
Na zebraniu 1920 roku Julian Augustyn, urzędnik pocztowy, wybrany prezesem stwierdził i zaproponował, że nazwa „Freicheit” to po polsku słowo „Wolność”, „Niepodległość”. Natomiast milsze dla ucha, nie pompatyczne i nie upolityczniane będzie słowo „ Swoboda”.
Wielce zasłużonym dla ogrodu był Feliks Kowalski, który pełnił funkcję sekretarza od roku 1930 do 1950. On to protokułował wszystkie zebrania, zapisał kilka brulionów – kroniki ogrodu. Spisywane protokuły przetrwały i są w posiadaniu Zarządu. Prezesami POD SWOBODA w czasie między wojennym byli: 1920r.-1922r. Julian Augustyn, 1922r.-1926r. dr Wacław Wiecki, 1926r.-1930r. Wiktor Raciborski, urzędnik warsztatów kolejowych, 1930r.-1931r. Antoni Krasnowski, kolejarz, 1931r.-1939r. Michał Pytlewicz, 1939 do wybuchu wojny Stanisław Góralczyk, profesor gimnazjalny. Z czasów przedwojennych zachował się statut POD Swoboda, sądownie zarejestrowany. Podpisy pod rejestrem sądowym w dniu 27 marca 1931r. złożyli: Michał Pytlewicz- prezes, Zdzisław Rybicki- skarbnik, Feliks Kowalski- sekretarz, Bogumił Assmann z-ca prezesa.
Wydarzeniem, w pięknie rozwijającym się ogrodzie , było zabranie Zarządowi ogrodu, połowy jego powierzchni, pod budowę niemieckiego gimnazjum, które wybudowano w 1932 roku, i obiekt ten stoi po dzień dzisiejszy przy ul.Chodkiewicza 30, jako : Wyższa Szkoła Pedagogiczna. W sprawie odstąpienia od budowy szkoły na terenie ogrodu – Zarząd odwołał się do prezydenta miasta Bydgoszcz. Prezydent odwołania nie uwzględnił, a Zarząd ogrodu manifestacyjnie podał się do dymisji. Na zebraniu nie wybrano nowego prezesa i Zarządu. Władze miasta desygnowały na prezesa, profesora gimnazjum – Stanisława Góralczyka.
Po zakończeniu II wojny światowej, do Bydgoszczy powracali jej obywatele wysiedleni przez Niemców. Powracali do ogrodu, na swoje działki ci, którzy je opuścili w 1939 roku. W lecie 1945 roku, już uprawiający swoje działki użytkownicy, zostali pozbawieni prawa do ich uprawiania, bowiem dzielnica Bielawki, w której ogród jest zlokalizowany- z stała ewakułowana i do mieszkań tych wprowadziły się wojska radzieckie, i ich rodziny. Dopiero 14 kwietnia 1946 roku po opuszczeniu dzielnicy przez Rosjan, miasto przywróciło prawo do uprawy działek i desygnowano na prezesa Jana Fichera.
Prezesami po II wojnie światowej w ogrodzie byli: 1945r.-1949r. Jan Fischer, 1949r.-1950r. Kazimierz Koronka, 1950r.-1955r. Alojzy Fac, 1955r.-1957r. Michał Szumowski, 1957r.-1971r. Stanisław Majcher, 1971r.- 1976r. Stefan Kapelak, 1976r.-1980r. ponownie Stanisław Majcher, 1980r.-1992r. Marian Piotrowski, 1992 – Władysław Lasota.
W ogrodzie w 1903 roku, przy jego założeniu, było 126 działek.
W roku 1974 Zarząd został zobowiązany do oddania 24 działek i na tym terenie wybudowano rondo Wielkopolskie. W 1950 roku podjęto uchwałę aby wybudować świetlicę, którą postawiono i uroczyście otworzono w 1952 roku nadając jej nazwę „Nasz domek”. Projektantem i budowniczym jak również nadzór budowlany sprawował Antoni Maćkowiak.
Jeszcze jeden wstrząs w dziejach ogrodu odnotowano po zabraniu w 1974 roku działek. Zarząd otrzymał pismo z Urzędu Miasta o całkowitej likwidacji ogrodu. Na całym terenie działek zamierzano budować bibliotekę wojewódzką i trzy wieżowce , biura projektowe. Wysłano odwołania do wszystkich władz wojewódzkich i centralnych. Ogród obronił się a Zarząd otrzymał gwarancję z Krajowej Rady PZD, że do roku 2000 nie będą prowadzone działania wywłaszczające i ogród pozostanie w tym samym miejscu, w którym został założony w 1903 roku, to jest w czworoboku ulic : Powstańców Wielkopolskich, Ogińskiego, Szymanowskiego oraz Instytutu Naukowego Uprawy Roślin.
Niestety .........
Porozumieniem pomiędzy miastem Bydgoszcz a Polskim Związkiem Działkowców, reprezentowanym przez Okręgowy Zarząd PZD w Bydgoszczy, zawartym w dniu 19 października 2009 roku, przekazano miastu teren Rodzinnego Ogrodu Działkowego "SWOBODA" w Bydgoszczy, pod inwestycję celu publicznego tj. budowę Biblioteki Uniwersyteckiej dla Uniwersytetu Kazimierza Wielkiego w Bydgoszczy.
Miasto Bydgoszcz zobowiązało się odtworzyć ogród na nowych terenach.