Das GeoMuseum existiert in seiner heutigen Form seit dem Jahr 2000. Bis dahin bestanden zwei getrennte Museen, die in den 1967 fertiggestellten Institutsneubauten der Mineralogie und Geologie-Paläontologie eingerichtet worden waren.

Das GeoMuseum umfasst die Räume des vormaligen Mineralogischen Museums der Universität zu Köln. Nachdem das Museum des Geologisch-Paläontologischen Instituts dem Platzbedarf für die neugegründete GeoBibliothek weichen musste, wurden die wichtigsten erdgeschichtlichen Exponate mit den Mineralen und Kristallen zusammengeführt und die Ausstellung unter dem Namen GeoMuseum neu eröffnet.

Als Vorläufer des Museums kann eine in den 1920er Jahren angelegte und ab 1938 im Geologisch-Mineralogischen Institut im "Rundbau" (Festungsgebäude am Südbahnhof) ausgestellte mineralogisch-geologische Sammlung angesehen werden. Daneben bestand das Museum für Naturkunde der Stadt Köln, das von 1881 bis 1902 in der Severinstorburg und von 1902 bis 1945 im Stapelhaus untergebracht war. Beide Sammlungen wurden zwischen 1942 und 1945 durch Bombenangriffe weitgehend zerstört. In den 50er und 60er Jahren wurden unter den Institutsdirektoren Georg Kalb und Karl Jasmund (Mineralogie) und Martin Schwarzbach (Geologie) um die geretteten Reste der Sammlung im provisorisch hergerichteten "Rundbau" durch Ankäufe, Tausch und Exkursionsfunde neue mineralogische und geologisch-paläontologische Sammlungen aufgebaut.

1962 erhielt das Mineralogische Institut auch die aus dem zerstörten Stapelhaus geretteten Mineralien und Gesteine des Museums für Naturkunde als Leihgabe der Stadt Köln; das Geologische Institut erhielt einen Teil der Fossilien (der andere Teil der Fossilien ging zusammen mit Molluskengehäusen u. ä . an das Zoologische Institut). Obwohl das Material des Museums für Naturkunde kaum ausstellungswürdige Stücke enthält, befindet sich darunter ein sehr interessantes Objekt, das sich bis auf Ferdinand Franz Wallraf (1748 - 1824) zurück verfolgen lässt. Es handelt sich um ein Kalksinter-überkrustetes Vogelnest (siehe Foto). Als Kanonikus an der alten Universität besaß Wallraf eine eigene naturkundliche Lehrsammlung, die nach seinem Tode in die Bestände das Museums für Naturkunde überging. Leider wurden bei der Inventarisierung die Herkunft der Wallraf'schen Stücke nicht vermerkt. Da im Nachlass-Verzeichnis der Sammlung Wallraf aber unter der Kategorie "Incrustaten" ein mit Kalksinter überzogenes Vogelnest aufgeführt ist und sonst kein Exemplar aus dem Altbestand des Naturkundemuseums bekannt ist, darf man mit sehr großer Wahrscheinlichkeit annehmen, dass es sich tatsächlich um das genannte Stück und somit um das am weitesten zurück zu verfolgende Objekt des Museumsbestandes handelt. Bei einigen anderen Objekten liegt dieser Zusammenhang ebenfalls nahe, allerdings sind diese nicht so charakteristisch.