Krems ist einer der ältesten Lebensräume an der Donau überhaupt. Erhalten ist eine Urkunde von 995, die eine Burg namens „Chremisa“ erwähnt. Damit ist Krems die älteste Stadt Niederösterreichs.
Aber schon in der Altsteinzeit war die Gegend besiedelt, wie die „Venus vom Galgenberg“ (mehr als 32.000 Jahre alte Frauenstatuette) belegt. Das Original der zierlichen Figur wird im Naturhistorischen Museum gemeinsam mit der Venus von Willendorf, die übrigens einige tausend Jahre jünger ist, präsentiert. Eine Kopie davon erwartet die Besucher des museumkrems.
Nach den Römern siedelten in Stein um 48 n. Chr. die germanischen Rugier. Die Römer, die schon immer Sinn für Feines hatten, kultivierten um Krems den Weinbau.
Krems-Stein war der wichtigste Umschlagplatz zwischen Schiffs- und Landverkehr, bedeutender als Wien. Seit dem 13. Jahrhundert bilden Krems und Stein eine Städtegemeinschaft Die Wirtschaftshöfe, Kirchen und Bürgerhäuser wurden von besten Bauleuten des Landes errichtet und gestaltet, viele Künstler und Kunsthandwerker zogen seit dem Mittelalter in die prosperierende Donaustadt. Bildung war ein zentrales Anliegen der Handelsbürger, sie trachteten mit Erfolg, ihren Söhnen und Töchtern eine fundierte Schulbildung zu bieten und öffneten ihnen bald danach den Zugang zur universitären Bildung. Krems wurde florierende Handels-, Kultur- und Bildungsstadt. Diese Entwicklung wird bis heute fortgesetzt. Krems ist auch im 21. Jahrhundert eine florierende Wirtschafts-, Kultur-, Bildungs- und Universitätsstadt und natürlich europäische Weinstadt im Kremstal am Tor zur Wachau.
Mit gutem Grund schloss die UNESCO, als sie im Jahr 2000 die Wachau mitsamt den Stiften Göttweig und Melk in ihre Liste der schützenswerten Welterbestätten aufnahm, auch die Altstädte von Krems und Stein mit ein.