Bild: Iryna Imago / Shuttestock.com

Ein Mann aus Florida vertraut seiner Ex-Freundin gegenüber niemandem seine dunkelsten Gedanken an – wohl aber einem Chatbot. Monatelang schreibt er ChatGPT, wie er sie zurückgewinnen, notfalls aber auch erschießen will. Was er nicht ahnt: OpenAI liest mit. Und irgendwann drückt der Konzern selbst den Alarmknopf. Ein Fall, der zeigt, dass ein Chat mit einer KI heute juristisch weit weniger privat ist, als viele Nutzer glauben.

Von Blumen und Versöhnung bis zum Mordplan

Darren Shida Zhou, ein damals 25-jähriger Finanzanalyst aus West Palm Beach, der bei Goldman Sachs arbeitete, wandte sich nach dem Ende einer sechsmonatigen Beziehung an ChatGPT. Zunächst ging es um Liebeskummer, um Eifersucht, um den Wunsch nach einer Versöhnung. Mit der Zeit wurden die Nachrichten jedoch konkreter: Er beschrieb einen genauen Plan, seine Ex-Partnerin mit Blumen auf dem Parkplatz ihres Fitnessstudios abzupassen. Sollte sie ihn abweisen, wollte er laut Ermittlungsunterlagen eine Waffe ziehen, sie erschießen und sich anschließend selbst töten. Später soll er gegenüber dem Chatbot sogar über Entführung und Gewalt gegen ihre Angehörigen gesprochen haben.

Parallel dazu bombardierte er die junge Frau nach eigenen Angaben der Ermittler mit Anrufen und Nachrichten – teils über wechselnde Telefonnummern, die er sich über Apps besorgte, nachdem sie ihn blockiert hatte. Sie beschrieb ihn gegenüber der Polizei als unberechenbar, eifersüchtig und kontrollierend.

Der Moment, in dem die KI zur Zeugin wird

Genau hier wird die Geschichte juristisch spannend. OpenAI setzt automatisierte Systeme ein, die Chatverläufe auf Hinweise für Gewalt oder Regelverstöße durchsuchen. Werden Nachrichten auffällig, prüfen geschulte Mitarbeiter den Zusammenhang genauer. In den allermeisten Fällen endet das mit einer Kontosperrung – Schluss, aus, nächster Nutzer.

Doch wenn OpenAI ein „unmittelbares und glaubwürdiges Risiko“ für einen Menschen erkennt, geht der Fall einen Schritt weiter: an die Strafverfolgungsbehörden. Genau das geschah hier. Das FBI erhielt rund zwei Monate an Chatprotokollen – wohlgemerkt nur die Nachrichten des Mannes selbst, nicht die Antworten der KI – und reichte sie an die Ermittler in Palm Beach County weiter. Eine Sichtung durch die Polizei kam zu dem Schluss, dass es sich nicht um vages Wutgerede nach einer Trennung handelte, sondern um ein wiederkehrendes Muster aus Planung und Vorbereitung. Die Beamten glichen die Aussagen zusätzlich mit Nachrichten ab, die der Mann direkt an seine Ex-Freundin geschickt hatte.

Sechs Tage später, Ende Mai, wurde der Mann festgenommen. Zwei Tage saß er in Untersuchungshaft, dann kam er gegen eine Kaution von 100.000 US-Dollar frei. Sein Arbeitgeber Goldman Sachs trennte sich im Juni von ihm.

Milde Strafe trotz schwerer Vorwürfe

Die Staatsanwaltschaft warf ihm schwere Nachstellung, schriftliche Morddrohungen und den missbräuchlichen Einsatz von Kommunikationsgeräten vor – Straftatbestände, die in den USA theoretisch mit langen Haftstrafen bewehrt sind. Am 13. August bekannte er sich in allen Punkten schuldig. Der zuständige Richter verhängte dennoch „nur“ acht Jahre Bewährung, in den ersten beiden Jahren mit elektronischer Fußfessel, ein Kontakt- und Waffenverbot inklusive. Eine förmliche Verurteilung wurde ausgesetzt – ein in Florida bekanntes Verfahren, dem die Ex-Partnerin zugestimmt hatte. Damit bleibt ihm, jedenfalls formal, eine Vorstrafe erspart.

Wenn die Maschine zum Kronzeugen wird

Wer glaubt, ein Chat mit einer KI sei wie ein Tagebuch unter dem Kopfkissen, irrt gewaltig. Für uns ist dieser Fall ein Weckruf gleich in zwei Richtungen. Erstens: Eine KI, die aktiv Ermittlungsbehörden einschaltet, ist keine Grauzonentechnologie mehr, sondern faktisch ein Akteur im Strafverfahren – ganz ohne Richtervorbehalt, ganz ohne klassische Beweisregeln, allein auf Basis firmeninterner Kriterien. Das kann Leben retten, keine Frage. Es wirft aber auch die unbequeme Frage auf, wer eigentlich kontrolliert, wann ein Konzern wie OpenAI die Schwelle zum „glaubwürdigen Risiko“ als überschritten ansieht – und wann nicht. Genau daran ist das Unternehmen in einem anderen, tragischeren Fall in Kanada nachweislich gescheitert.

Zweitens, und das ist aus unserer Sicht der eigentliche Skandal im Kleingedruckten: Die Bequemlichkeit, mit der Menschen heute ihre gefährlichsten Gedanken einer Maschine anvertrauen, verändert die Beweislage in Strafverfahren fundamental. Was früher nur mühsam rekonstruiert werden musste, liegt heute fein säuberlich protokolliert und zeitgestempelt vor. Unsere Prognose: In den kommenden Jahren werden Chatverläufe mit KI-Systemen so selbstverständlich zu Beweismitteln wie heute schon WhatsApp-Nachrichten oder E-Mails.