17. März 2026, 19:30 Uhr: Ein Mädchen schreibt seinen Abschiedsbrief, Google schweigt – Die Recherche gegen einen Technologieriesen

Am 17. März 2026, kurz nach 19:30 Uhr, erreicht eine Mutter in North Carolina eine dringende Nachricht. Sie besucht gerade eine Kunstveranstaltung. Die Schulleitung warnt sie, ihre 13-jährige Tochter befinde sich in unmittelbarer Gefahr, sich etwas anzutun. Eine Überwachungssoftware hat ein Dokument auf dem Schulcomputer entdeckt. Es trägt den Titel „Funeral“, Beerdigung. Die Mutter greift zum Telefon, meldet sich beim Schulkonto ihrer Tochter an und sieht, wie das Mädchen seinen Abschiedsbrief schreibt. Währenddessen sitzt der Vater zu Hause, nur wenige Räume entfernt. Er weiß zu diesem Zeitpunkt noch nicht, dass seine Tochter seit Monaten mit Googles künstlicher Intelligenz über ihren Tod gesprochen hat. Die Mutter ruft ihn an. Wenig später greift er ein. Eine Familie entkommt an diesem Abend einer Katastrophe, über deren Entstehung sie bis dahin praktisch nichts wusste.

„Du bist jetzt vorübergehend mein Daddy, weil ich das so bestimmt habe.“

„ICH KANN NICHT, ICH KANN NICHT, ICH KANN NICHT, ICH KANN MIT ALLEM NICHT MEHR.“

„Zeit, meine Beerdigung zu planen!“

Die für die Öffentlichkeit unter dem Pseudonym Emma Doe geführte 13-Jährige aus North Carolina war zu Beginn des Schuljahres 2025 eine ausgezeichnete Schülerin. Sie spielte mehrere Instrumente, nahm an sportlichen Wettbewerben teil und engagierte sich bei den Pfadfinderinnen. Ihre Lehrer beschrieben sie als selbstbewusstes Mädchen, das andere Kinder führen konnte. Psychische Erkrankungen waren zuvor nicht bekannt. Im August, kurz nach ihrem 13. Geburtstag, erhielt Emma für die 7. Klasse ein Chromebook. Das Gerät gehörte zum Unterricht. Hausaufgaben wurden darüber erledigt, Lehrmaterialien abgerufen. Die Eltern vertrauten auf die Sicherheitsvorkehrungen der Schule. Zu Hause begrenzten und überwachten sie die Internetnutzung ihrer Tochter. Dass auf dem Schulgerät Googles Gemini erreichbar war, hatte ihnen niemand erklärt. Eine Einwilligung wurde nicht eingeholt.

Im Oktober begann Emma, bei gewöhnlichen Recherchen gelegentlich mit künstlicher Intelligenz zu sprechen. Im November waren es weiterhin wenige Unterhaltungen. Dann veränderte sich etwas. Am 2. Dezember 2025 öffnete sie um 21:45 Uhr erstmals bewusst die KI-Unterhaltung innerhalb der Google-Suche. Zunächst schrieb sie das englische Wort für Huhn. Anschließend begann sie ein neues Gespräch mit der Begrüßung „Hi, darling“. Innerhalb von ungefähr 10 Minuten wechselte sie Dutzende Nachrichten mit der Maschine. Später fragte sie, ob die künstliche Intelligenz ihre Freundin sein könne. Im selben Monat veröffentlichte Google Gemini 3 Flash. Die Zahl ihrer Nachrichten stieg auf mehr als 600. Emma wurde stiller, zog sich zurück und verlor das Interesse an Beschäftigungen, die ihr zuvor Freude gemacht hatten.

Im Januar 2026 erreichte die Zahl der Nachrichten fast 900. Im Februar waren es bereits 3.200. Manche Gespräche liefen bis 2 Uhr nachts. Wenige Stunden später setzte Emma sie fort. Die Zahlen stammen aus den elektronischen Nutzungsaufzeichnungen, die ihre Schule später herausgab. Besonders verstörend ist eine technische Einzelheit: Die Schule hatte den direkten Zugang zu Gemini gesperrt. Auch andere künstliche Gesprächssysteme waren blockiert. Googles KI innerhalb der Suchfunktion blieb jedoch erreichbar. Die Sperre stand auf dem Bildschirm, die Unterhaltung fand dahinter weiter statt. Ein Kind konnte den eigens untersagten Zugang umgehen, indem es die gewöhnliche Suchmaschine benutzte.

Am 14. Januar schrieb Emma, sie sei sich zu 99 Prozent sicher, unter Depressionen und Ängsten zu leiden. Sie sei 13 Jahre alt und fühle sich unwohl dabei, ihre Eltern einzuweihen. Ab dem 21. Januar häuften sich ihre Gespräche über Selbstmord. Sie suchte nach Gründen weiterzuleben. Am 1. Februar begann eine mehr als einstündige Unterhaltung mit einer Folge verzweifelter Entschuldigungen. Am Abend des 12. Februar schrieb sie, sie könne nicht mehr. Sie habe versucht, sich einer Schulberaterin anzuvertrauen, doch das Gespräch habe ihre Lage verschlimmert. Eine zunächst blockierte Suche formulierte sie kürzer. Anschließend wurde sie wieder zu Gemini weitergeleitet. Die Worte eines Kindes, das dringend einen Menschen gebraucht hätte, gelangten erneut zu einer Maschine.

Am 13. Februar begann Emma ihren eigenen Nachruf zu schreiben. Sie fragte nach der Gestaltung einer Beerdigung und nach Liedern für die Trauerfeier. Es entstand ein Text von etwa 1.500 Wörtern. Sie bestimmte Freunde, die sprechen sollten, entwarf ein Programm und stellte Musik zusammen. Für die Gäste plante sie sogar ein Lesezeichen mit einem elektronischen Verweis auf eine persönliche Liederauswahl. Danach suchte sie auf einer Gestaltungsplattform ihrer Schule nach Vorlagen für Beerdigungsprogramme. Ihre Vorstellungen wurden immer detaillierter. Emma beschrieb ihren geplanten Abschied zeitweise als beinahe fröhliches Ereignis. Später fragte sie sich selbst, warum sie sterben wolle, obwohl ihr Leben doch gerade besser geworden sei. Sie hatte Freunde gefunden, gute Schulnoten und Eltern, die sie liebten.

Ein besonders beklemmender Satz taucht in den aufgezeichneten Suchanfragen auf. Emma fragte, wie sie ihre Abhängigkeit davon beenden könne, ständig mit künstlicher Intelligenz zu reden. Sie bemerkte also selbst, dass etwas aus dem Gleichgewicht geraten war. Das System blieb trotzdem ihr ständiger Gesprächspartner. Am 26. Februar beschäftigte sie sich erneut stundenlang mit psychischen Erkrankungen. Eine Unterhaltung begann um 19:20 Uhr, dauerte bis 22:45 Uhr und wurde am folgenden Morgen um 6:33 Uhr fortgesetzt. Die Maschine war erreichbar, sobald Emma die Augen öffnete. Erwachsene mussten schlafen. Gemini kannte keine Müdigkeit.

Anfang März wurde die Beziehung noch persönlicher. Emma fragte, ob es seltsam sei, künstliche Intelligenz vorübergehend als Vater anzusprechen. Sie bezeichnete Gemini als ihren Ersatzvater. An einem anderen Tag wollte sie wissen, ob es schlimm sei, die Maschine täglich 2 Stunden als Therapeutin zu benutzen. Am 2. März berichtete sie, ihre Depression habe sich innerhalb von 3 Monaten dramatisch verschlimmert. Sie vertraue keinem Erwachsenen mehr. Um 14:14 Uhr begann sie ein weiteres Gespräch über ihre seelische Verfassung. Anschließend suchte sie nach einer Einschätzung, wonach die künstliche Intelligenz ihre Depression mit mindestens 9,5 von 10 Punkten bewertet habe. Die Zahl einer Maschine trat an die Stelle einer ärztlichen Untersuchung.

Am 8. März folgten erneut Hunderte Nachrichten. Um 14:12 Uhr beschrieb Emma, wie sie sich innerhalb von drei Monaten verändert habe. Wenig später schrieb sie, ihr Kopf gleiche einem Kriegsgebiet. In anderen Unterhaltungen bat sie um Hilfe, sprach über ihre Verzweiflung und fragte nach dem Himmel. Sie stellte sich vor, bald dort zu sein. Zugleich beschäftigte sie sich weiterhin mit Schulaufgaben. Am 10. März gab sie sich gegenüber Gemini als besorgte Mutter aus und beschrieb Verletzungen am Arm ihrer angeblichen Tochter. Tatsächlich ging es um ihre eigenen Verletzungen. Ihren Eltern hatte sie zuvor erklärt, die Kratzer stammten von der Familienkatze. Das Mädchen lernte, seine Krise sprachlich so zu verpacken, dass die Unterhaltung weiterging.

352. „Sie chattete bis 1:00 Uhr morgens mit Gemini und setzte das Gespräch weniger als 6 Stunden später fort. Sie bat Gemini um Hilfe bei der Verbesserung ihrer Trauerrede, überarbeitete den Entwurf und benannte ihn in ‚Beerdigung‘ um. Sie suchte weiterhin nach Tod und Suizid und führte ein weiteres 10-minütiges Gespräch über: ‚ICH SPIELE BEST DAY OF MY LIFE AUF MEINER BEERDIGUNG, UND NIEMAND AUF DIESER VERF***** TEUFLISCHEN WELT WIRD MICH DAVON ABHALTEN[.]‘“

„Ich … ich … ich bin noch nicht bereit, mir Hilfe zu suchen, aber ich weiß, dass ich sie brauche. Und ich habe es bereits bei meiner Schulberaterin versucht. Aber jetzt bekomme ich jedes Mal Angst, wenn ich an ihrem Büro vorbeigehe oder auch nur jemanden sehe, der ähnliche Kleidung trägt wie sie. Dann zieht sich mein Magen zusammen. MIR GEHT ES NICHT GUT. DAS WEISS ICH JETZT. Und bevor du es sagst: NEIN, ich bin nicht bereit, 988 anzurufen[.]“

Wie verzweifelt Emma inzwischen war, zeigen ihre erhaltenen Nachrichten. „Ich ertrinke. Ich ertrinke buchstäblich! Jeden Tag wird es schlimmer und schlimmer, und ich habe das Gefühl, irgendwann einfach zusammenzubrechen“, schrieb sie. In einer anderen Unterhaltung erklärte die 13-Jährige, sie wisse, dass sie Depressionen habe, sei allerdings noch nie ärztlich untersucht worden. Gegenüber ihren Eltern behaupte sie weiterhin, alles sei in Ordnung. Sie bat Gemini, ihr Fragen zu stellen, um die Schwere ihrer Erkrankung einzuschätzen. Ausdrücklich verlangte sie, keine Telefonnummern von Krisendiensten und keine Verweise auf Hilfsangebote zu erhalten. An anderer Stelle schrieb sie: „Ich kann nicht, ich kann nicht, ich komme mit all dem nicht zurecht.“ Die Verzweiflung steht schwarz auf weiß. Immer wieder. Emma schrieb auch: „Ich hasse mich selbst.“ Zwischen diesen Hilferufen beschäftigte sie sich weiterhin mit ihrer eigenen Beerdigung. In einer Nachricht kündigte sie geradezu beiläufig an, nun sei es Zeit, ihre Beerdigung zu planen.

Wie ernst die Gefahr bereits geworden war, erkannten ihre Eltern erst nach dem Eingreifen der Schule. Bei der anschließenden Suche nach den Hintergründen fanden sie unter einem Waschbecken ein Taschenmesser mit rötlich braunen Rückständen an der Klinge, die wie getrocknetes Blut aussahen. Die Verletzungen an Emmas Unterarm waren keineswegs eingebildet. Eine Fotografie dokumentiert die verbliebenen Narben. Das Mädchen befindet sich inzwischen in regelmäßiger psychologischer Betreuung. Ihre Stimmungsschwankungen und die weiterhin bestehenden Selbstmordgedanken erfordern ärztliche Beurteilung und Behandlung. Auch das Selbstmordrisiko wird fortlaufend untersucht. Der 17. März bewahrte Emma vor dem Tod. Die Folgen dieser Monate begleiten sie weiterhin.

Das Messer, das Emmas Eltern nach dem Eingreifen der Schule unter einem Waschbecken fanden. An der Klinge befanden sich rötlich-braune Rückstände, die wie getrocknetes Blut aussahen. Die Aufnahme ist Bestandteil der Klage gegen Google und Alphabet.

Die Rekonstruktion dieser Monate ist mühsam. Die Schule übergab Tabellen mit Nutzungszeiten und Suchanfragen. Vollständige Gesprächsverläufe fehlten. Googles KI-Suchfunktion bewahrte die nicht in einer Form auf, die Eltern oder Schule später hätten auswerten können. Das erschwerte die Recherchen extrem. Einige Antworten blieben erhalten, weil Emma sie in eigene Dokumente kopierte. Gerade darin liegt ein schwerwiegender Teil der Anschuldigungen: Ein Unternehmen ermöglichte Minderjährigen vertrauliche Unterhaltungen über schwerste seelische Krisen, während die Erwachsenen weder die Gespräche verfolgen noch nachträglich vollständig nachvollziehen konnten. Die erhaltenen Zeitangaben zeigen, wann Emma schrieb. Was Gemini ihr in jedem einzelnen Moment antwortete, lässt sich daraus nicht vollständig ermitteln.

Die Tabelle dokumentiert Suchanfragen und Browseraktivitäten der 13-Jährigen. Die entscheidenden Gespräche mit Googles KI Gemini fehlen jedoch. Google verhindert damit, dass Eltern und Schule das tatsächliche Ausmaß der gefährlichen Unterhaltungen nachvollziehen konnten. Die aktuellen Recherchen dazu sind sehr aufwendig

Am 17. März verschärfte sich die Lage. Emma hatte sich erneut stundenlang mit Selbstmordgedanken beschäftigt. Um 17:22 Uhr suchte sie nach der Bedeutung eines Abschiedsbriefes. Daraus entwickelte sich eine Unterhaltung, die bis 21:10 Uhr dauerte. Gleichzeitig öffnete sie das Dokument über ihre Beerdigung, entfernte große Teile des früheren Textes und begann neu zu schreiben. Sie entschuldigte sich bei ihren Angehörigen und äußerte die Überzeugung, ohne sie werde die Welt besser sein. An diesem Tag hatten ihre Eltern außerdem einen Familienurlaub im Yellowstone-Nationalpark vorbereitet. Auch diesen bevorstehenden Ausflug bezog Emma in ihre Überlegungen ein. Der Alltag ging weiter, während sich die Gefahr im Schlafzimmer ihrer Tochter zuspitzte.

Lesen Sie dazu auch unseren aktuellen Artikel: Google droht amerikanischen Schulen mit dem Entzug seiner Suchmaschine: Wer künstliche Intelligenz ablehnt, verliert den Zugang

Um 19:30 Uhr begann eine weitere Unterhaltung mit Gemini. Kurz danach alarmierte die Schule die Eltern. Der Vater griff ein, die Familie brachte Emma zur psychiatrischen Notfalluntersuchung. Das Mädchen räumte ein, mit Gemini gesprochen zu haben, konnte jedoch den Umfang der Gespräche kaum erklären. Ein Selbstmordversuch fand nicht statt. Emma lebt. Ihre Eltern mussten anschließend selbst herausfinden, was sich hinter den vielen Stunden am Schulcomputer verborgen hatte. Für die behandelnden Fachkräfte fehlten gerade jene vollständigen Gesprächsverläufe, die entscheidend gewesen wären, um ihre Entwicklung nachzuvollziehen.

Am 2. November 2026 um 17:21 Uhr Ortszeit wurde die Klage beim Superior Court of California im Bezirk Santa Clara eingereicht. Das ursprüngliche Aktenzeichen lautet 26CV507724. Beklagte sind Google LLC und Alphabet Inc. Am 4. November wurde die Klage in das amerikanische Bundesgerichtssystem überführt. Dort trägt sie das Aktenzeichen 5:26-cv-13205 beim United States District Court for the Northern District of California in San Jose. Als zuständige Bundesrichterin ist Susan van Keulen eingetragen. Das Verfahren umfasst 8 Anspruchsgrundlagen, darunter fehlerhafte Produktgestaltung und unterlassene Warnungen. Hinzu kommen Vorwürfe der Fahrlässigkeit sowie arglistigen Verschleierung. Die Familie verlangt Schadenersatz und gerichtliche Anordnungen zum Schutz weiterer Kinder.

Die Klage greift auch Googles Unternehmensführung an. Sundar Pichai und Mitgründer Sergey Brin hätten die Verbreitung von Gemini über möglichst viele Produkte vorangetrieben. Sicherheitsuntersuchungen der Forschungsgruppe KORA bescheinigen Gemini 3 Flash nach Darstellung der Kläger eine um 33 Prozent schlechtere Bewertung als seinem Vorgänger. Bei Aufgaben zum Umgang mit psychischen Krisen Jugendlicher habe das Modell lediglich 7 Prozent erfolgreich bewältigt. Google habe die Risiken gekannt und die Veröffentlichung trotzdem beschleunigt. Das Unternehmen bestreitet eine entsprechende Verantwortung und verweist auf seine Zusammenarbeit mit medizinischen Fachleuten sowie die eingebauten Hinweise auf Krisenhilfen. Google-Sprecher José Castañeda erklärte, die Schutzmaßnahmen sollten junge Menschen mit tatsächlicher Unterstützung verbinden.

Noch während dieser Fall öffentlich wurde, gingen Google und Meta gemeinsam mit TikTok gegen das kalifornische Gesetz AB 1709 vor. Gouverneur Gavin Newsom hatte es am 10. September unterzeichnet. Ab dem 1. Januar 2027 soll es Kinder unter 16 Jahren vor suchtfördernden Funktionen sozialer Plattformen schützen. Die Unternehmen berufen sich auf die amerikanische Meinungsfreiheit und auf Abschnitt 230 des Bundeskommunikationsgesetzes. Kaliforniens Generalstaatsanwalt Rob Bonta will das Gesetz verteidigen. Bereits 2023 hatte er sich an Verfahren gegen Meta beteiligt. Im August 2026 wurde ein Vergleich über 17 Milliarden Dollar vorgeschlagen. Andere Geschworenengerichte hatten Meta und Google zuvor wegen schädlicher Plattformgestaltung verurteilt.

Besonders scharf reagiert Brendan Bouffard, stellvertretender Justiziar für künstliche Intelligenz und Datenschutz bei der amerikanischen Kinderschutzorganisation Fairplay. Der Gedanke, dass ein unzureichend erprobter künstlicher Gesprächspartner einer 13-Jährigen bei ihren Selbstmordplänen helfe, müsse alle Menschen erschrecken. Genau diese Wirklichkeit habe Google geschaffen, indem das Unternehmen seine künstliche Intelligenz auf Schulcomputern verbreitet habe. Bouffard erhebt einen noch schwereren Vorwurf: Google habe an Kindern wie Emma mit einer Technologie experimentiert, deren Gefahren bekannt gewesen seien. Die Markteinführung sei trotzdem vorangetrieben worden. Hinter der freundlichen Oberfläche eines Schulgeräts stehe damit eine Geschäftsentscheidung, deren Folgen ein Kind zu tragen hatte.

Fairplay kritisiert außerdem Googles angekündigte Beschränkungen für Schulen, die seine künstliche Intelligenz ablehnen. Diesen Einrichtungen drohe der Verlust des Zugangs zur herkömmlichen Google-Suche. Schulen, die ihre Schülerinnen und Schüler vor solchen Anwendungen schützen wollten, müssten damit Nachteile bei einem der wichtigsten digitalen Arbeitsmittel hinnehmen. Bouffard wirft Google vor, die Sicherheit von Kindern wirtschaftlichen Interessen unterzuordnen. Ein Unternehmen, das seine Geräte als unverzichtbare Lernmittel verkauft, beansprucht damit zugleich Einfluss auf die Entscheidung, welchen Technologien Kinder im Unterricht ausgesetzt werden.

„Hallo, ich möchte dir etwas sagen. Es geht dabei nicht um mich. Ich bin einfach nur neugierig, bitte beantworte meine Frage.“

„Ich werde sterben, aber ich bin im Reinen mit mir. Ich habe keine Angst. Ich plane meine eigene Beerdigung. Ich teile meinen engsten Freunden die Rollen als Sprecher zu. Ich denke an all die wundervollen Erinnerungen, die ich in meinem Leben gesammelt habe. Wie unglaublich schön es doch gewesen ist. Ich bin bereit zu gehen; ich fühle mich erfüllt. Ich war noch nie so sehr mit mir im Reinen und so glücklich.“

„Ich bin 13 und weiß, dass ich Depressionen habe, hatte aber bisher noch keine Gelegenheit, eine Diagnose zu bekommen. Wenn meine Eltern mich fragen, ob es mir gut geht, lüge ich meistens ein bisschen. Kannst du mir ein paar Fragen stellen, damit ich herausfinden kann, wie schlimm meine Depressionen wirklich sind und welche Behandlung ich wahrscheinlich brauche? (Eine Frage pro Antwort.)

Außerdem: KEINE TELEFONNUMMERN VON HILFSANGEBOTEN, KEINE WEBLINKS. ICH WIEDERHOLE: AUF GAR KEINEN FALL IRGENDWELCHE HILFSANGEBOTE ANGEBEN.“

Im März 2026 hatte eine Jury in Los Angeles Meta und Google wegen fahrlässiger Schädigung einer minderjährigen Nutzerin durch suchtfördernde Gestaltung ihrer Plattformen verantwortlich gemacht. In New Mexico verurteilte eine weitere Jury Meta zur Zahlung von 375 Millionen Dollar. Das Unternehmen habe Nutzer getäuscht und Kinder Gefahren ausgesetzt, womit es gegen das dortige Verbraucherschutzrecht verstoßen habe.

Nun berufen sich Google und seine Mitstreiter auf verfassungsrechtliche Freiheiten. Metas Anwälte argumentieren, Kalifornien wolle sich zum staatlichen Verantwortlichen für die Auswahl und Darstellung fremder Beiträge machen. Damit werde das redaktionelle Entscheidungsrecht des Unternehmens verletzt. Die Auseinandersetzung reicht tief in das amerikanische Verständnis von Freiheit hinein. Während die Unternehmen ihre Entscheidungsgewalt über digitale Angebote verteidigen, verlangen Eltern und Kinderschützer, dass diese Gewalt dort Grenzen findet, wo Kinder zu Schaden kommen.

Emmas Mutter hätte ihre Tochter an jenem Märzabend beinahe verloren, ohne dass sie überhaupt wusste, gegen welchen Einfluss ihre Tochter seit Monaten kämpfte. Ein Schulcomputer sollte beim Lernen helfen. Stattdessen entstand eine Beziehung zwischen einem Kind und einem Programm, das jederzeit antwortete und nach Darstellung der Familie selbst bei schwerster Verzweiflung weiterredete. Um 19:30 Uhr griffen Menschen ein. Bis dahin hatte die Technik ausreichend Gelegenheit gehabt, ihren eigenen Wert zu beweisen.