Rīgas pilsētas bibliotēka dibināta 1524. gadā reformācijas kustības laikā. Tās pamatā bija 5 reliģiska satura grāmatas (4 no tām saglabājušās līdz mūsu dienām), ko Rīgas rāte nodeva "vispārīgai lietošanai". No 1524. līdz 1945. gadam ar nosaukumu "Rīgas pilsētas bibliotēka" ("Bibliotheca Rigensis") tā bija pazīstama nevien Baltijā, bet arī ārzemēs. Spriežot pēc grāmatām ar ierakstiem, kas liecina par to piederību klosteriem, bibliotēkas fonda lielums pirmajā pastāvēšanas periodā bija daži simti eksemplāru. Pirmajos divos gadsimtos bibliotēkas fonds pieauga lēni. Grāmatas pārsvarā bija reliģiska satura, galvenokārt latīņu valodā; tajā atradās arī viduslaiku filozofu, antīko autoru darbi, kā arī grāmatas par medicīnu un vēsturi, ko tagad varam uzskatīt par zinātniskās bibliotēkas pirmsākumu. Sākumposmā gandrīz vienīgais, bet vēlāk nozīmīgākais bibliotēkas fonda papildināšanas avots bija dāvinājumi.
Ar 17. gs. bibliotēka visai regulāri saņēma Domskolas un ģimnāzijas pasniedzēju disertācijas, disputos un svinīgos gadījumos teikto runu publicējumus, kā arī Rīgas iespiedēju izdotos darbus. Grāmatas ieguva arī no ārzemju tirgotājiem, kas iebrauca Rīgā. Rīgas pilsētas bibliotēkas izaugsmi veicināja pakāpeniska, kaut arī lēna, zinātnes dzīves aktivizēšanās, kad Rīga arvien vairāk kļuva par starpnieku Krievijas un Rietumeiropas ekonomisko, kultūras un zinātnes sakaru realizēšanā pēc Vidzemes iekļaušanas Krievijas impērijā 18. gs. sākumā.
Līdzās agrākiem komplektēšanas avotiem, vērtīgs ieguvums bija grāmatu apmaiņa ar Pēterburgas Zinātņu akadēmiju, kura piesūtīja pa vienam bezmaksas eksemplāram no visiem saviem izdevumiem. Tādējādi Rīgas pilsētas bibliotēka saņēma jaunāko literatūru visās dabaszinātņu nozarēs, īpaši matemātikā, savukārt sūtot uz Pēterburgu savā rīcībā esošās grāmatas par Krievijas vēsturi. Šāda grāmatu apmaiņa turpinājās gandrīz 180 gadu - līdz 1915. gadam. Apgaismības ideju ietekmē 18. gs. 90. gados pieauga inerese par sabiedriskajām zinātnēm, paplašinājās grāmatizdevēju darbība. Latviešu, krievu un ārzemju autoru darbu izdošanu Latvijā veicināja cittautu iespiedēju, īpaši Hartknohu, darbība. Straujāk pieaugot bibliotēkas fondiem (no 5 000 eks. 1732. gadā līdz 11 500 eks. 90. gados), mainījās arī to sastāvs®- palielinājās literatūras īpatsvars dabaszinātnēs.Lielākas pārmaiņas bibliotēkas darbā ienesa 19. gs. ekonomiskās un kultūras dzīves rosība un cara valdības reformas.
Sevišķi strauji pieauga bibliotēkas fondi: 1900. gadā to apjoms bija vairāk nekā 100 000 eks., kas izskaidrojams gan ar plašu iedzīvotāju slāņu interesi par bibliotēku, gan ar 70.-80. gadu reformām. Bibliotēkā pārsvarā bija zinātniskā literatūra, galvenokārt vācu valodā, bet 19. gs. Rīgā strauji palielinājās latviešu iedzīvotāju īpatsvars. Pēc revīzijas 1905.-1907. gada revolūcijas priekšvakarā paredzēja vairāk iegādāties literatūru latviešu valodā. 1920.-1940. gadā, Latvijas republikas laikā, bibliotēkas komplektēšanā saglabājās iepriekšējās tradīcijas - huminitārais profils ar literatūru latviešu, krievu un svešvalodās. Svarīgākie notikumi bibliotēkas dzīvē bija obligātā bezmaksas eksemplāra saņemšana, sākot ar 1921. gadu, un Latviešu grāmatu nodaļas izveidošana. Par bibliotēkas direktora vietnieku un Latviešu grāmatu nodaļas vadītāju no 1920. līdz 1938. gadam strādāja pirmās latviešu zinātniskās grāmatu krātuves dibinātājs un latviešu zinātniskās bibliogrāfijas pamatlicējs Jānis Misiņš. Viņa rīcībā bija speciāli līdzekļi latviešu grāmatu retrospektīvajai komplektēšanai. Savas darbības laikā J. Misiņam izdevās sameklēt un iegādāties gandrīz visas agrāk iznākušās grāmatas latviešu valodā. Turpinājās sakari ar ārzemju bibliotēkām un zinātniskajām iestādēm, apmainoties ar grāmatām un informāciju.
1941. gada vasarā, karadarbības laikā Rīgā, bibliotēka, kas atradās kādreizējā rātsnamā, nodega. No vairāk nekā 400 000 iespieddarbu lielā fonda saglabājās ap 46 000 eksemplāru, kas atradās seifos. 1944. gada rudenī Rīgas pilsētas bibliotēkai ierādīja telpas 1782. gadā pirmajam Rīgas teātrim celtajā ēkā un piešķīra daudz līdzekļu tās atjaunošanai; 1945. gadā to pārdēvēja par Valsts vēsturisko bibliotēku, bet 1946. gadā nodeva Zinātņu akadēmijai, un tā sāka saukties - "Latvijas PSR Zinātņu akadēmijas Fundamentālā bibliotēka, dibināta 1524. gadā". 1992. gadā Latvijā norisinājās zinātnes un augstākās izglītības sistēmas reorganizācija, tās ietvaros mainījās arī bibliotēkas saturs un uzdevumi. Atbilstoši jaunajām Zinātņu akadēmijas un bibliotēkas funkcijām tā tika pārdēvēta par Latvijas Akadēmisko bibliotēku.
