Stensen hat erkannt, dass die sogenannten Zungensteine den von ihm frisch präparierten Haifischzähnen gleichen. 1667 wies er erstmals auf diese Zusammenhänge hin und belegte so, entgegen der bis dahin herrschenden Vorstellung, dass es sich bei den „Zungensteinen“ um biogene Bildungen handelt. Ein Jahrhundert zuvor hatte bereits der französische Naturforscher Rondelet vermutet, dass die „Zungensteine“ Zähne von Haifischen sein könnten. Auch der italienische Naturforscher Fabio Colonna hatte 1616 beschrieben, dass die „Zungensteine“ Haifischzähne seien. Beide hatten aber keine Erklärung dafür, wie die Haifischzähne vom Meer auf das Land gelangen und in Stein oder Sand eingebettet werden konnten. Die Ausführungen beider Forscher fanden zudem kaum Interesse.
Stensen hat dagegen als erster in seiner Schrift „Canis carchariae dissectum caput“ die Genese der Fossilien zurückhaltend und vorsichtig aber klar formuliert und darauf hingewiesen, dass die Sedimentschichten noch nicht verfestigt waren, als die heutigen Fossilien darin abgelagert wurden. Er hat seine Thesen auf Grund exakter Beobachtungen und Vergleiche in einen größeren Zusammenhang gestellt. Damit begründete Stensen die Wissenschaft von den Lebewesen der erdgeschichtlichen Vergangenheit, die später als Paläontologie bezeichnet wurde. Die toskanische Landschaft mit ihren vielen Funden an tierischen und pflanzlichen Fossilien begünstigte das zunehmende Interesse von Stensen an geologisch-paläontologischen Fragestellungen.
Auf der Basis dieser Erkenntnisse veröffentlichte Stensen 1669 sein berühmtes Werk „De solido intra solidum naturaliter contento dissertationis prodromus“. Es ist ein Vorläufer einer Abhandlung über Festes, das in der Natur von Festem eingeschlossen ist. Diese Publikation war lediglich als vorläufige kompakte Zusammenfassung seiner geowissenschaftlichen Forschungen gedacht. Ein ausführlicheres Werk sollte später folgen. Dennoch gibt Stensen in dieser Schrift grundlegende Informationen zur Geschichte der Erde und zu den Lagerungsformen der Schichtgesteine. Eine absolute Altersbestimmung der Erde, die sich allein auf biblische Aussagen stützt, lehnt Stensen ab. Er formuliert stattdessen das relative Alter der Gesteine, indem er darauf hinweist, dass bei ungestörter Lagerung die älteren Schichten unten und die jüngeren oben abgelagert werden nach dem sogenannten chronologischen Prinzip. Damit erläutert Stensen als erster das „Stratigraphische Grundgesetz“ (Ablagerungsgesetz / Superpositionsgesetz). Das ist bis heute ein wesentlicher Grundpfeiler der Geologie.
Stensen weist auch darauf hin, dass die ursprünglich horizontalen Sedimente durch Erosion und andere Ereignisse, beispielsweise grabenartige Einbrüche, verändert werden können. Damit öffnet Stensen auch die Türe zur Tektonik, die heute mit ihren unterschiedlichen Prozessen ebenfalls ein wesentlicher Teil der Geowissenschaften ist. Italienische Geologen haben diese Aussagen von Niels Stensen in einigen Tälern der Toskana weitgehend bestätigt. Der amerikanische Geologe Alan Cutler hat diesen Fragestellungen in seinem vielbeachteten Stensen-Buch „ Die Muschel auf dem Berg“ breiten Raum gewidmet. Leider ist die geplante ausführliche Fassung des „Prodromus“ nicht mehr realisiert worden, denn Stensen wandte sich gegen Ende der 1660er Jahre verstärkt theologischen Fragen zu. Auch über eine Forschungsreise von Stensen zwischen 1668 und 1670 zu Bergwerken und geowissenschaftlich interessanten Zielen in Österreich, Polen und Siebenbürgen und einem Abstecher in die Niederlande sind fast keine Aufzeichnungen erhalten geblieben. Sie gelten bis heute als verschollen.
Stensen führt auch genaue Messungen an Mineralien und Kristallen durch. Durch Forschungen am Bergkristall formuliert Stensen Theorien zur Genese und zum Wachsen der Kristalle. Er findet heraus, dass alle zur gleichen Kristallart gehörenden Einzelkristalle zwischen Flächen und Kanten immer gleiche Winkel bilden. Er entdeckt also die Winkelkonkordanz, ein bedeutendes Prinzip der Kristallographie und ein mineralogisches Grundgesetz. Auf einer Tafel im Anhang des „Prodromus“ stellt er dies Prinzip graphisch dar. Auch das war ein fundamentales Forschungsergebnis. Stensen wird daher als Wegbereiter der modernen Mineralogie und Kristallographie angesehen.