Gerhardt habe zu jenen Menschen gehört, die ihr Leben der Politik gewidmet hätten, heißt es in einem Kondolenzschreiben Steinmeiers. In Hessen und später über viele Jahrzehnte im Bund habe sich der überzeugte Liberale in den Dienst Deutschlands gestellt. FDP-Chef Lindner erklärte, Gerhardt habe die FDP in einer schwierigen Phase ihrer Geschichte zusammengehalten und wieder aufgerichtet.

Gerhardt starb im Alter von 80 Jahren in Wiesbaden. Er stand den Freien Demokraten von 1995 bis 2001 vor. Er war zudem Bundestagsfraktionschef und später Vorstandsvorsitzender der Friedrich-Naumann-Stiftung.