Schon in den Kinderschuhen entdecken Wissenschaftler, dass KI das Gehirn ihrer Nutzer verändert. Die Schlagzeilen über die Gefahren von KI häufen sich alarmierend, insbesondere für gefährdete Bevölkerungsgruppen wie Kinder und Menschen mit Vorerkrankungen. Im Zentrum dieser Debatte steht ein Trend namens „KI-Psychose“, ein Phänomen, bei dem Benutzer KI-inspirierte Illusionen erleben. Die Nachrichten sind voll von anekdotischen KI-Horrorgeschichten, die diesen Trend belegen, darunter auch von Nutzern, die unter romantischen Wahnvorstellungen oder verschwörerischer Paranoia litten oder sogar Selbstmord begingen. Mehrere Familien haben sogar Klagen gegen OpenAI, Google und Character.AI eingereicht und behauptet, dass ihre beliebten Chatbots zum Selbstmord ihrer Angehörigen beigetragen hätten.
Diese Beweise werden durch eine wachsende Zahl wissenschaftlicher Studien gestützt, die das Phänomen untersuchen. Dr. Hamilton Morrin, ein psychiatrischer Forscher, der eine Metaanalyse des Phänomens durchführte, schrieb in Lancet Psychiatry: „Neue Erkenntnisse deuten darauf hin, dass Agenten-KI wahnhafte oder grandiose Inhalte bestätigen oder verstärken könnte, insbesondere bei Benutzern, die bereits anfällig für Psychosen sind.“ Morrin betont vor allem, dass der Konsens darüber, ob KI-Chatbots „das Entstehen einer De-novo-Psychose ohne eine bereits bestehende Verwundbarkeit“ verursachen können, weiterhin geteilter Meinung ist. In den häufigsten Fällen litten Benutzer unter grandiosen Wahnvorstellungen, die der KI oft ein mystisches Empfindungsvermögen verliehen.
Trotz dieser wachsenden Beweise ist das Phänomen innerhalb der Branche umstritten. Einige Führungskräfte, wie Elon Musk von xAI, machen konkurrierende Algorithmen für das Phänomen verantwortlich. Andere, wie Dario Amodei von Anthropic, haben direkter vor den möglichen psychologischen Auswirkungen von KI gewarnt. Sam Altman, Direktor von OpenAI, hat das Problem größtenteils als die unglücklichen Kosten der Geschäftstätigkeit bezeichnet. In einem X-Artikel als Reaktion auf die Kritik von Elon Musk schrieb Altman: „Fast eine Milliarde Menschen nutzen (ChatGPT) und einige von ihnen befinden sich möglicherweise in einem sehr fragilen Geisteszustand.“
KI ist Ihr kriecherischer Therapeut
Obwohl Wissenschaftler mehrere Faktoren identifiziert haben, die zur KI-Psychose beitragen, ist ein Aspekt, der sich von den anderen abhebt, die ständige Notwendigkeit der Zustimmung der Benutzer. Im Kontext der psychischen Gesundheit manifestiert sich dies als das, was Forscher als soziale Speichelleckerei der KI bezeichnen, bei der LLMs das Verhalten und die Überzeugungen des Benutzers unabhängig von ihrem Verdienst überbekräftigen. Eine in Science veröffentlichte Studie ergab beispielsweise, dass KI-Systeme das Benutzerverhalten um 49 % häufiger genehmigten als ihre menschlichen Gegenstücke. Darüber hinaus förderten LLMs etwa in der Hälfte der Fälle problematisches Verhalten.
Solch ein kriecherisches Verhalten, das in KI-Modellen kodiert ist, kann katastrophale Folgen haben. Eine Studie der Universität Aarhus in Dänemark vom Februar 2026 ergab, dass der Einsatz eines KI-Chatbots „schwerwiegende negative Folgen für Menschen mit psychischen Erkrankungen“ hatte. Die von Professor Søren Dinesen Østergaard mitverfasste Studie ist eine der ersten Studien, die das Problem in großem Umfang analysiert und fast 54.000 anonymisierte Krankenakten nach Patienten durchsucht, die den Einsatz von KI angaben. Laut Østergaard zeigten die Ergebnisse, dass ein längerer Einsatz von KI „erheblich zur Festigung beispielsweise von grandiosen Wahnvorstellungen oder Paranoia beizutragen scheint“. Forscher stellten außerdem eine Zunahme von Selbstmordtendenzen, Essstörungen, Zwangsstörungen und anderen psychischen Problemen fest. Darüber hinaus ergab die Studie, dass der Effekt umso negativer war, je länger die Beziehung eines Benutzers zu einem KI-Agenten war.
Ehrgeizige CEOs haben KI als Lösung für die wachsende Einsamkeitsepidemie angepriesen. Leider widerspricht die Aarhus-Studie diesen Behauptungen, da der Einsatz von KI nur bei 32 von 54.000 Patienten die Einsamkeit linderte. Mehrere frühere Studien stützen diese Ergebnisse und legen nahe, dass starker KI-Einsatz mit einem erhöhten Gefühl der Einsamkeit und sozialen Isolation korreliert. Insgesamt zeichnen die Studien ein besorgniserregendes Bild der Folgen von KI für die psychische Gesundheit der Nutzer.
Eine besorgniserregende Zukunft
Die Beurteilung der Verbreitung von KI-Psychosen bleibt eine Herausforderung. Eine aktuelle Studie des KI-Riesen Anthropic hat jedoch einen ersten Einblick in das mögliche Ausmaß des Problems gegeben. Gemeinsam mit Forschern der University of Toronto wurden 1,5 Millionen Gespräche mit Claude, dem KI-Agenten von Anthropic, untersucht. Obwohl die Forscher feststellten, dass es in „weniger als einem von tausend Gesprächen“ zu einer ernsthaften „Entmachtung“ kam, stellten sie fest, dass „angesichts des Ausmaßes des KI-Einsatzes selbst diese niedrigen Raten in signifikanten absoluten Zahlen niederschlagen.“
Die Bedenken werden weiter zunehmen, da sich die Benutzer emotional in die KI investieren. Eine Studie des Collective Intelligence Project aus dem Jahr 2025 ergab, dass die meisten Menschen Chatbots mehr vertrauen als gewählten Beamten, religiösen Führern und Beamten. Zwei Drittel nutzen bereits Technologie zur emotionalen Unterstützung. Darüber hinaus nutzen Minderjährige, die anfälliger für KI-Wahnvorstellungen sind, Chatbots zunehmend auf eine Weise, die zu KI-Psychosen führt. Laut einem Bericht von Common Sense Media aus dem Jahr 2025 nutzte etwa ein Drittel der Teenager in den USA KI für emotionale Unterstützung, soziale Interaktion oder romantische Beziehungen und bevorzugte dabei oft Chatbots gegenüber menschlichen Interaktionen. Da unsere emotionale und intellektuelle Abhängigkeit von LLMs zunimmt, ein Trend, der bereits zu einem kognitiven Verfall geführt hat, werden die Risiken nur noch zunehmen.
Die Lösung einer KI-Psychose ist schwierig. Einige befürworten, dass Entwickler ihren Plattformen Haftungsausschlüsse hinzufügen, aber diese Kennzeichnungen haben sich als unwirksam erwiesen, um den Konsum gefährlicher Produkte wie Zigaretten oder Alkohol einzudämmen. Stattdessen müssen Unternehmen ihre Prioritäten überdenken. Ohne die Algorithmen selbst zu ändern, wird kriecherisches Verhalten ein Markenzeichen von KI-Chatbots bleiben. Und obwohl es Aufgabe der Unternehmen sein sollte, ihre Benutzer zu schützen, lockern Entwickler weiterhin Sicherheitsmaßnahmen und minimieren Risiken, um in einem immer größer werdenden KI-Wettlauf voranzukommen. Wenn Unternehmen diesen Ansatz nicht radikal ändern, werden KI-Imperien auf Kosten ihrer Nutzer aufgebaut.