Ķīmijas vēstures pētniecības aizsākumi Latvijā saistāmi ar zinātnieka, profesora, Pēterburgas Zinātņu Akadēmijas akadēmiķa un Latvijas Augstskolas rektora Paula Valdena (1863–1957) darbību. Viņš sarakstījis vairākus apcerējumus par ķīmiju Rīgas Politehniskajā institūtā (RPI). Savukārt viņa skolnieks Valdemārs Fišers, kura pētījumi aptvēra vairākus ķīmijas virzienus, bija Rīgas ķīmiķu slaveno tradīciju turpinātājs Latvijas Universitātē (LU). Tieši V. Fišers LU Ķīmijas fakultātes sēdē 1933. gada 25. oktobrī izteica ideju izveidot Ķīmijas vēstures muzeju un šim mērķim nodeva ķīmiķu Vilhelma Ostvalda un Karla Bišofa priekšmetus, kā arī ziedoja 100 latu lielu naudas summu. Kopā ar profesoru Alfredu Petrikalnu viņš vadīja muzeja organizēšanas komisiju. Ķīmijas fakultātes telpu otrā stāva kāpņu laukumā tikai izvietota neliela ekspozīcija ar atsevišķiem eksponātiem, taču turpinājums nesekoja, jo V. Fišera pāragrā nāve 1934. gadā neļāva izvērst ieceres un izveidot pastāvīgu muzeju. Tomēr šī ekspozīcija priecēja ķīmiķus līdz pat 1947. gadam, kad skapja stiklus aizklāja ar papīru un lielākā daļa eksponātu gāja zudumā. Tikai daļa no tiem vēlāk nonāca Ķīmijas vēstures muzejā.
Tomēr Latvijas ķīmijas vēstures muzeja neesamību daudzus gadus daļēji kompensēja kāds cits muzejs – Tehnoloģijas un preču zinātnes muzejs, ar ko lepojās LU Ķīmijas fakultāte, kura daļu no šī muzeja materiāliem bija mantojusi no agrākā RPI Ķīmijas nodaļas. Tajā plašu ķīmisko preču kolekciju bija savācis ķīmijas tehnoloģijas un prečzinību profesors Maksimiliāns Glāzenaps. 1900. gadā, kad RPI Ķīmijas nodaļa pārcēlās uz jauno laboratoriju korpusu Kronvalda bulvārī 4, profesora Glāzenapa ķīmijas tehnoloģijas izstrādājumu kolekcijai ierādīja atsevišķu telpu. Izveidojoties LU, šo kolekciju sāka dēvēt par Tehnoloģijas un preču zinātnes muzeju. To pārzināja preču zinātnes katedras vadītāji, un tā eksponātus studentiem demonstrēja lekcijās. Muzejs pastāvēja arī vairākus gadus pēc Ķīmijas fakultātes iekļaušanas RPI 1958. gadā. Daudzi eksponāti gan tika nozaudēti, tomēr neliela daļa paraugu vēlāk nonāca Latvijas Ķīmijas vēstures muzeja kolekcijās.
Neskatoties uz padomju pēckara laikam raksturīgo pagātnes mantojuma nonicināšanu, Rīgas ķīmiķi glabāja savu priekšgājēju atstātās mantas. LU profesors un Ķīmijas fakultātes dekāns Gustavs Vanags bija savācis plašus materiālus par ķīmijas attīstību vecajā RPI un LU; viņš arī glabāja no profesora Fišera mantojumā saņemtās seno kolikviju protokolu klades un citus materiālus.
Pēc profesora G. Vanaga aiziešanas aizsaulē radās doma iemūžināt viņa piemiņu. RPI Ķīmijas fakultātes zinātniskās padomes sēdē 1973. gadā nolēma kādreizējo profesora darba kabinetu iekārtot par memoriālo muzeju. Lai arī kabinetu tai laikā jau bija aizņēmis agrākais dekāns Pēteris Paukšs, tomēr 1974. gadā, kad par jauno dekānu tika ievēlēts Imants Meirovics, P. Paukšam ierādīja citu telpu. Kabinetu izremontēja un mēbeles restaurēja. Ņemot vērā, ka G. Vanags bija sakrājis vērtīgus materiālus, te paredzēja izvietot arī eksponātus, kas saistīti ar Ķīmijas fakultātes vēsturi un tās izcilāko zinātnieku darbību.
Muzeju atklāja G. Vanaga memoriālo lasījumu dienā 1975. gada 27. maijā. Par muzeja darba vadlīniju tika pieņemts J. Stradiņa novēlējums: „Novēlēsim jaunatklātajam senās un allaž jaunās Ķīmijas fakultātes muzejam kļūt par Rīgas ķīmijas skolu tradīciju glabātāju un sargu, saglabāt ķīmiķu pagātnes relikvijas nākamajām audzēm”.
G. Vanaga kabineta memoriālo stūrīti iekārtoja viņa skolniece asistente Agnese Zeltiņa. Vitrīnu, kur parādīta Ķīmijas fakultātes vēsture un tās izcilie pārstāvji, veidoja A. Zeltiņa kopā ar Ilgaru Grosvaldu. Savu padomu neliedza arī akadēmiķis Jānis Stradiņš. Telpas noformēšanā piedalījās mākslinieks Andris Ramats.
Sākotnēji muzejs bija RPI Ķīmijas fakultātes vēstures muzejs un atradās šīs fakultātes telpās.
Pirmajos darbības gados muzejs bija iekārtots vienā telpā, taču ar RPI Ķīmijas fakultātes dekāna I. Meirovica gādību 1978. gadā tas ieguva otru telpu. Radās iespēja paplašināt ekspozīciju, parādot jaunākos laikus – RPI Ķīmijas fakultāti (kopš 1958. gada) un Latvijas Valsts Universitātes (LVU) Ķīmijas fakultāti (no 1964. gada).
Laika gaitā muzejs iemantoja zināmu atzinību, un 1982. gada 22. decembrī ar Rīgas pilsētas Kirova rajona tautas deputātu padomes Izpildkomitejas lēmumu Nr. 331. tas tika apstiprināts par sabiedrisko muzeju.
Tagadējās telpas muzejs ieguva 1983. gada 19. aprīlī, kad RPI ēku Kronvalda bulvārī 4 nodeva LVU. Muzejam pievienoja 4 lielas un 3 mazas telpas. Varēja sākties Ķīmijas fakultātes vēstures muzeja pārtapšana par Latvijas ķīmijas vēstures muzeju.
Tika izveidota muzeja padome, par kuras priekšsēdētāju ievēlēja akadēmiķi Jāni Stradiņu, bet par viņa vietniekiem – RPI Ķīmijas fakultātes dekānu Imantu Meirovicu un LVU Ķīmijas fakultātes dekānu Jāni Drēģeri. Tā rezultātā LPSR Augstākās un vidējās speciālās izglītības ministrija 1986. gada 26. septembrī apstiprināja nolikumu, kurā teikts, ka muzeju pārvalda RPI Ķīmijas fakultāte kopā ar LVU Ķīmijas fakultāti, piedaloties Latvijas Lauksaimniecības akadēmijas Pārtikas tehnoloģijas fakultātei un Rīgas Medicīnas institūta Farmācijas fakultātei.
Bija nepieciešams arī telpu remonts, kas ieilga vairākus gadus. Vispirms iekārtoja arhīva telpu, kur izvietoja RPI Ķīmijas fakultātes bibliotēkas lasītavas memoriālos grāmatu plauktos, V. Fišera un G. Vanaga privātlaboratoriju. 1991. gadā muzeja nākamajās divās telpās iekārtoja plašu ekspozīciju „Latviešu ķīmiķi un tehniskā inteliģence pasaulē”. Visvairāk ieilga 2. klausītavas neorganiskās, fizikālās un analītiskās ķīmijas sagatavotavas remonts, kurā 1996. gadā iekārtoja Memoriālo laboratoriju.
2000. gada 7. aprīlī tika noslēgts sadarbības līgums par Latvijas Ķīmijas vēstures muzeju, ko parakstījuši LU rektors profesors Juris Zaķis un Rīgas Tehniskās universitātes (RTU) rektors profesors Ivars Knēts. Līgumā teikts, ka muzejs ir LU un RTU mācību, zinātniskās pētniecības un kultūrizglītojošā struktūrvienība un kopīpašums, tā operatīvo darbību veic LU un RTU uz līdztiesības kooperēšanās pamatiem.