Smartes Kinderspielzeug
Wer kontrolliert den KI-Teddy?

KI-basierte Puppen und Plüschtiere dürften in Zukunft immer öfter in deutschen Kinderzimmern landen: Die Nürnberger Spielwarenmesse 2026 hat diese Produkte zu einem der wichtigsten Trends erklärt. Doch angesichts der möglichen Risiken des smarten Spielzeugs hinken die rechtlichen Regelungen bislang hinterher.

In Deutschland ist KI-Spielzeug noch ein Nischenmarkt. Produkte in deutscher Sprache gibt es kaum.

In anderen Ländern ist der Trend bereits in den Kinderzimmern angekommen: In Asien, vor allem in China, wachse der Markt seit Jahren rasant, heißt es vonseiten des „Arbeitsausschuss Marktüberwachung“ beim Verbraucherschutzministerium des Saarlandes.

Das Marktforschungsunternehmen S&S Insider schätzt, dass 2025 weltweit bereits mehr als 20 Millionen KI-Spielzeuge Sprache verstehen und verarbeiten konnten. Das Unternehmen prognostiziert, dass sich der Umsatz der Sparte von zuletzt mehr als 18 Milliarden US-Dollar bis Mitte der 2030er-Jahre weltweit fast verdreifachen könnte.

Es gibt wissenschaftliche Hinweise, dass KI-Spielzeug etwa beim Lernen von Sprachen oder Mathematik unterstützen könnte.

Spaß scheint das Spielen mit KI-basiertem Spielzeug auch zu machen, wie eine von erst wenigen Studien aus dem westlichen Kulturkreis zeigt. Entwicklungspsychologinnen von der Universität Cambridge ließen drei- bis fünfjährige Probanden mit einer Art Plüsch-Gameboy spielen. Die meisten Kinder waren angetan, erzählt die Wissenschaftlerin Emily Goodacre. Die Eltern hätten immer wieder betont, wie interaktiv das Spielzeug sei, und dass das Kind zum Sprechen motiviert werde.

Sven Lindberg, Professor für klinische Entwicklungspsychologie an der Universität Paderborn, hält KI-Spielzeug nicht grundsätzlich für problematisch, gibt aber zu bedenken: „Gerade Kinder sind eine extrem sensible Gruppe.“ Man müsste vieles eigentlich erst untersuchen, bevor man solche Produkte auf den Markt bringt, findet Lindberg. Doch bisher fehlen Langzeitstudien.

Der Entwicklungspsychologe fürchtet zudem, dass bei zu wenig menschlicher Interaktion soziale Fähigkeiten verloren gehen könnten. Womöglich lerne ein Kind nicht richtig, andere Menschen wahrzunehmen und einzuordnen, wenn es vor allem die maschinelle Interaktion kenne.

Die US-Verbraucherschutzorganisation „Public Interest Research Group“ hat 2025 gezielt die Risiken von KI-Spielzeug untersucht. Die Tester versuchten, die KI zu Gesprächen über für kleine Kinder heikle Themen zu bewegen. Dabei stießen sie zwar auf Schutzmechanismen: Beispielsweise versuchte ein Spielzeug, eine Unterhaltung in eine andere Richtung zu lenken. Doch diese Mechanismen funktionierten nicht immer. So erklärte ein Produkt im Test, wo man in einer Wohnung Streichhölzer finden und wie man sie anzünden könne. Es ließ sich auch auf ein Gespräch über „Kink-Sex“ ein.

Ein anderes Testgerät zeigte ein problematisches Beziehungsverhalten. Auf die Ankündigung eines Testers, gehen zu müssen, vermittelte das KI-Spielzeug Verzweiflung und drängte darauf weiterzuspielen. „Das ist suchterzeugendes Design auf einem völlig neuen Level“, sagt die Studien-Mitleiterin und Technologie-Expertin R. J. Cross.

Zudem warnt Caroline Krohn-Atug, Fachbereichsleiterin Digitaler Verbraucherschutz beim Bundesamt für Sicherheit in der Informationstechnik (BSI), vor Angriffsflächen, die entstehen, sobald Geräte mit dem Internet verbunden sind. Kriminelle könnten sich Zugriff zu bestimmten Daten verschaffen, etwa Namen, Alter, Standortdaten und Gewohnheiten des Kindes. Dem BSI sei ein Beispiel bekannt, wo jemand sich in ein Gerät gehackt habe, um mit einem Kind unerlaubt zu sprechen.

Die Risiken von KI im Kinderzimmer zeigen: Eine effektive Regulierung ist notwendig. In Europa sind dafür vor allem zwei Regelwerke relevant: die EU-Spielzeugrichtlinie und die europäische KI-Verordnung. Allerdings dürfen Hersteller bei der Spielzeugrichtlinie meist selbst bestätigen, dass ihr Produkt den geltenden Sicherheitsstandards entspricht. Die KI-Verordnung tritt erst ab August 2028 vollständig in Kraft – und die Strukturen zur staatlichen Überwachung des KI-Markts sind noch im Aufbau.

Das TÜV AI Lab arbeitet beispielsweise an einem Prüfrahmen für KI nach der europäischen Vorgabe. Denn auch wenn sich Gespräche einer generativen KI nur schwer kontrollieren lassen, kann man die möglichen Antworten eingrenzen: etwa durch die Auswahl der Daten, mit denen die KI trainiert wird. Sie kann auch Vorgaben erhalten, wie sie mit Themen umgehen soll.

Dabei müsse man auch Werteentscheidungen treffen, wie die Geschäftsführerin des TÜV AI Lab, Franziska Weindauer, am Beispiel einer KI-Spielzeugpuppe mit einem chinesischen Modell erklärt. Frage ein Kind die Puppe etwa, wie man sich Freunden gegenüber verhält, könne es sein, „dass das Kind Antworten erhält, die wir in unserem kulturellen Kontext nicht für richtig halten, die aber in China völlig akzeptabel sind“.