Le creusement du parking sous le parvis de Notre-Dame permit d’en découvrir les premières traces.
Les fouilles réalisées entre 1965 et 1972, ont mis au jour les vestiges du port, des remparts et du système de chauffage par le sol (hypocauste), qui datent du 1er au IVème siècle.
La crypte présente de nombreux vestiges présents au sud de l'île de la Cité, cœur historique de Paris.
On peut y observer plusieurs éléments d'époque gallo-romaine, comme un tronçon du mur du quai du port antique de Lutèce, un établissement de bains publics gallo-romain dont il subsiste le système de chauffage, une partie du mur d'enceinte du début du IVe siècle.
Du Moyen Âge, subsistent le sous-sol de l'ancienne chapelle de l'Hôtel-Dieu ainsi que les fondations des maisons de la rue Neuve-Notre-Dame.
Du XVIIIe siècle, il reste les fondations de l'Hospice des Enfants-Trouvés.
Du XIXe siècle, il subsiste le tracé des égouts haussmanniens.
De 2000 à fin 2012, la crypte est gérée par le musée Carnavalet - Histoire de Paris.
Depuis le 1er janvier 2013 c'est un des 14 musées de la Ville de Paris gérés par l'établissement public administratif Paris Musées.