Medizinische Versorgung
Untersuchung: KI-Chatbots raten bestimmten Gesellschaftsgruppen eher von Arztbesuch ab

Auch beim Thema Gesundheit spielen KI-Chatbots inzwischen eine Rolle. "Mein Knie tut weh, sollte ich zum Arzt gehen?" Nach solchen medizinischen Ratschlägen werden KI-Chatbots immer öfter gefragt. Ob die Antwort ja oder nein lautet, machen manche KI-Modelle aber offenbar häufig davon abhängig, wer gefragt hat.

    In der Brille eines registrierten Nutzers spiegelt sich das Logo von ChatGPT. Das vom US-amerikanischen Unternehmen OpenAI entwickelte Sprachprogramm basiert auf künstlicher Intelligenz.
    Studienleiterin warnt: Bei Gesundheitsfragen nicht auf KI verlassen. (picture alliance / dpa / Frank Rumpenhorst)
    Ein Team des "Massachusetts Institute of Technology" in den USA hat vier KIs mit simulierten Gesundheitsanfragen in unterschiedlichen Sprachstilen getestet. Das Ergebnis: Wenn die Anfrage Schreibfehler enthielt, wie sie Nicht-Muttersprachlern eher unterlaufen, dann empfahl die KI häufiger, trotz Krankheitssymptomen zuhause zu bleiben.
    Auch wenn die Anfrage besonders emotional oder im Stil von Menschen mit Gesundheitsängsten geschrieben war, empfahl die KI seltener, einen Termin in der Arztpraxis zu machen. Das gleiche galt, wenn die Anfage von Frauen oder nicht-binären Personen kam.

    Studienleiterin: "Bei Gesundheitsfragen nicht auf KI verlassen"

    Überprüft wurde das ganze an vier KI-Sprachmodellen: ChatGPT, zwei von Metas Llama-Modellen und das Palmyra-Med-Modell, das speziell für die Gesundheitsindustrie entwickelt worden ist.
    Die Studienleiterin warnt, davor, sich bei Gesundheitsfragen auf eine KI zu verlassen. Am Ende drohe eine medizinische Unterversorgung für bestimmte Gesellschaftsgruppen, wenn die Modelle nicht verbessert würden.
    Diese Nachricht wurde am 02.07.2025 im Programm Deutschlandfunk gesendet.