Einem breiten Publikum wurde er vor allem durch seine Rolle als Hauptkommissar Leo Kress in der ZDF-Reihe "Der Alte" bekannt. Nach "Derrick" war "Der Alte" der größte weltweite Exporterfolg des ZDF mit Verkäufen in mehr als hundert Ländern. Schimpf wirkte auch in zahlreichen anderen Serien mit. Seit den 50er Jahren hatte er auf der Bühne und vor der Kamera gestanden.