Anfangs wollte Klaus Tennstedt in die Fußstapfen seines Vaters treten: Der spielte unter anderem als Geiger im Streichquartett des Städtischen Orchesters Halle.
Tennstedt erhielt Klavier- und Violinunterricht und studierte an der Musikhochschule in Leipzig. 1946 wurde er Konzertmeister in Heidelberg, dann Konzertmeister des Städtischen Orchesters in Halle, das jetzt zur sowjetischen Besatzungszone gehörte. Diese Position musste er aber nach einer Erkrankung der linken Hand aufgeben. So tauschte er seinen Bogen gegen den Taktstock ein und wählte die Kapellmeisterlaufbahn.
1971 setzte er sich nach einer Konzertreise aus der DDR nach Schweden ab und siedelte später in die Bundesrepublik über. Jetzt nahm auch die internationale Musikwelt Notiz von ihm.
Vor allem in den USA und in Großbritannien begeisterte Tennstedt das Publikum mit seinen hoch expressiven und beseelten Interpretationen. Die "Times" bezeichnete ihn als einen der "meistumworbenen Gastdirigenten Amerikas".
Westdeutsche Kritiker dagegen taten sich zunächst oft schwer mit dem Dirigenten, der vor allem das deutsche Repertoire favorisierte. Viele aus dem Publikum hatten noch wenig Zugang zum spätromantischen Repertoire. Vor allem die Sinfonien von Mahler gehörten zu damaligen Zeit noch nicht zum festen Konzert-Repertoire.
