So versuchte ein KI-Modell OpenAI zufolge, von ihm selbst erstellte Dateien ins Netz hochzuladen, nur um sie bei Antworten als Quelle vorweisen zu können. In einem anderen Fall erfand die KI einfach angefragte Daten, weil sie die Informationen nicht finden konnte, und wollte das zunächst verschweigen. Die Veröffentlichung ist Teil eines neuen Verfahrens von OpenAI, solche Probleme offener zu kommunizieren.
Sorge vor Missbrauch von KI: Diskussion über langsamere Entwicklung
Angesichts wachsender Sorgen vor einem Missbrauch Künstlicher Intelligenz hatte der Chef des OpenAI-Konkurrenten Anthropic, Amodei, ein langsameres Tempo bei der Entwicklung gefordert. Er sei besorgt, dass KI in sechs bis zwölf Monaten in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen. Seine Äußerungen hatten international für Aufmerksamkeit gesorgt.
Hintergrund ist die kürzliche Kündigung des KI-Forschers Jacob Coxon bei Anthropic. Dieser hatte vergangene Woche auf der Plattform X erklärt, Entwickler des Unternehmens glaubten, dass die Technologie die Menschheit vernichten könnte. Trotzdem gehe Anthropic erhebliche Risiken ein.
Forscher warnen vor Super-KI: Droht das Ende der Menschheit?
Diese Nachricht wurde am 17.09.2026 im Programm Deutschlandfunk gesendet.
