Heidemann galt als gewissenhafter Rechercheur, doch heute ist sein Name vor allem verbunden mit einem der größten Medienskandale Deutschlands. Der "Stern" hatte angebliche Tagebücher von Adolf Hitler im April 1983 als historische Sensation angekündigt. Es seien etwa 60 geheime Schriften aus der Zeit vom 22. Juni 1932 bis Mitte April 1945 entdeckt worden, erklärte das Magazin.

Die Chefredaktion präsentiere die vermeintlichen Tagebücher, aufgespürt von Reporter Heidemann. Nun müsse "die Biografie des Diktators und mit ihr die Geschichte des NS-Staates in großen Teilen neu geschrieben werden", hieß es. 
Heidemann gab an, die "Dokumente" seien an Bord einer Propellermaschine gewesen, die in den letzten Kriegstagen Material aus dem Führerbunker in Berlin ausfliegen sollte und südlich von Dresden abgestürzt sei.

Namhafte deutsche Professoren waren skeptisch und bezweifelten die Echtheit der Notizen. Anfang Mai 1983 gab das Bundesarchiv in Koblenz bekannt: "Diesen Unterlagen kann keine Authentizität zugesprochen werden". 

Heidemann war auf den Fälscher Konrad Kujau hereingefallen. Der Hamburger Verlag Gruner + Jahr hatte umgerechnet knapp 4,8 Millionen Euro in bar für die vermeintliche Sensation ausgegeben. Kujau kassierte viereinhalb Jahre Haft für den Riesenschwindel, von denen er drei absaß. Mitte September 2000 starb er schließlich. Auch Heidemann wurde verurteilt, zu vier Jahren und acht Monaten, weil ihm das Gericht nicht glaubte, dass er die Millionen komplett an Kujau weitergereicht hatte. Noch Jahrzehnte später betonte Heidemann, kein Geld unterschlagen zu haben.

1992 wurde der Skandal unter dem Titel "Schtonk" von Regisseur und Drehbuchautor Helmut Dietl verfilmt. (abrufbar in ARD-Mediathek) 2019 veröffentlichte der "Stern" den Podcast "Faking Hitler", der die Geschichte aus Sicht des reingelegten Heidemann und des Kunstfälschers Kujau anhand von Original-Mitschnitten von Telefonaten der beiden erzählt.

Nach dem Fälschungsskandal war Heidemanns journalistische Karriere beendet. Er widmete sich dem Aufbau seiner zeithistorischen Sammlung mit dem Schwerpunkt Zweiter Weltkrieg.