Tartu Rahvaraamatukogu Selts avas 7. aprillil 1913 raamatukogu ühes lugemislauaga. Raamatukogus oli esiti ligi 2000 raamatut, mis olid saadud kingituseks eraisikutelt, puutööliste ja rätsepate ametiühingult ja Karskuse Sõbra Seltsilt. Raamatute juurde soetamiseks korraldati pidusid ja loteriisid. Raamatukogu ülesanne oli võimalikult paljudele tartlastele ja võimalikult odavalt lugemine kättesaadavaks teha.
Tartu Rahvaraamatukogu Selts andis 1920. aastal raamatukogu üle linnavalitsusele. 1926. moodustati esimene harukogu ning linna avalik raamatukogu nimetati ümber Tartu Linna Keskraamatukoguks. Teine harukogu avati 1928.
Esimene raamatukogu direktor oli oma ala entusiast Ivan Abarenkov, tema järel, aastatel 1924-1940, juhtis raamatukogu kunstnik ja kultuuritegelane Mart Pukits.
1941. aastal asutati Noorteraamatukogu, millest kasvas välja tänane laste- ja noorteosakond. Sõja aeg oli keeruline, hävisid kaks harukogu, pommitabamuse sai noorteraamatukogu. Paljud raamatud jäid lugejate kätte. 1940ndatel kustutati ka poliitilistel põhjustel fondist hulgaliselt raamatuid, eriti just esimese Eesti Vabariigi aegseid väljaandeid. 1953. aastal moodustati kindlate koosseisude ja ülesannetega osakonnad: laenutusosakond, lugemissaal ja komplekteerimisosakond. 1957. a. pandi alus iseseisvale bibliograafiaosakonnale. 1958. a. moodustati rändkoguosakond ja 1966. a. tehnikakirjanduse osakond. 1988. a. rajati pagulaseestlaste annetatud raamatute põhjal väliseesti kirjanduse osakond. Aastatel 1978-1980 valmis peahoonele juurdeehitis hoidla ja lugemissaalide tarbeks.
1952. aastast kuni 1987. aastani kandis raamatukogu N.V. Gogoli nime ja sealt edasi nimetati raamatukogu ümber Oskar Lutsu nimeliseks.
Asutamisest peale on raamatukogu kimbutanud suured ruumiprobleemid, nende lahendamisega on pidanud tegelema kõik juhatajad. Esimene juhataja Ivan Abarenkov püstitas juba 1923. aastal eesmärgi – ehitada raamatukogule spetsiaalne oma hoone, aga see eesmärk on tänaseni täitmata, 21. sajandi esimesel kümnendil tekkinud lootused on luhtusid. Aastal 2021 nimetati aga linnaraamatukogu ja Tartu Kunstimuuseumi ühishoone - Südalinna Kultuurikeskus - riiklikult tähtsate kultuuriobjektide nimekirja. Eeldatav ehituse algusaeg on aasta 2027.
Tänasel päeval on raamatukogul 5 teenindavat osakonda, 5 tugiosakonda ja 4 harukogu ning üks laenutuspunkt.