Das, was ihn immer begleitet hat, war zum Einen ein gewisses Misstrauen gegenüber einer extrem analytisch interpretierten Musik und zum Anderen ein Hadern mit den eigenen Fähigkeiten.
Rudolf Serkin war ein Skeptiker, und als künstlerische Antwort darauf hat er immer versucht, musikalische Größe am Klavier abzubilden. Schallplatteneinspielungen mochte er überhaupt nicht.
Sein Repertoire war breit gefächert, mit einem Schwerpunkt auf Klassik und Romantik. Er verfügte über ein großes Spektrum an Ausdrucksmöglichkeiten, sein Spiel war immer spannungsgeladen.
Arnold Schönberg war einer seiner wichtigsten Lehrer, Ferruccio Busoni hingegen hatte ihn als Schüler abgelehnt: Er sei schon zu weit fortgeschritten, um bei ihm zu studieren und solle lieber mehr Konzerte spielen. Bereits mit zwölf Jahren begann Serkin seine Konzertlaufbahn.
1933 mussten er und seine Familie das nationalsozialistische Deutschland verlassen, sie gingen zunächst in die Schweiz und ließen sich schließlich in den USA nieder.
Zu Serkins wichtigsten musikalischen Weggefährten wurde der Geiger Adolf Busch, dessen Tochter Serkin im Jahr 1935 heiratete. So wurde die Kammermusik zu einem Kernanliegen in Serkins Musiker-Laufbahn.