Chatbots beantworten Kundenfragen, vereinbaren Termine und sind rund um die Uhr erreichbar. Für Unternehmen klingt das nach einer ziemlich guten Rechnung: weniger Aufwand, schnelle Antworten und ein moderner Auftritt. Doch was passiert, wenn die künstliche Intelligenz plötzlich Dinge behauptet, die schlicht nicht stimmen?

Eine Entscheidung des Oberlandesgerichts Hamm liefert darauf eine für Unternehmen wichtige Antwort: Wer einen Chatbot auf der eigenen Website für die Kommunikation mit Kunden einsetzt, kann für dessen falsche Aussagen verantwortlich sein. Die Erklärung, die KI habe die Antwort selbst erzeugt, schützt das Unternehmen nicht automatisch vor den Folgen.

Der konkrete Fall zeigt besonders anschaulich, wie schnell aus einer vermeintlich kleinen KI-Panne ein echtes Problem werden kann.

Ein Chatbot macht aus Ärzten plötzlich Fachärzte

Ausgangspunkt war der Internetauftritt einer Klinik. Auf der Website konnten Interessenten einem Chatbot Fragen stellen. Dabei wollte ein Nutzer wissen, ob zwei Geschäftsführer der Klinik Fachärzte für plastische und ästhetische Chirurgie seien.

Die Antwort des Systems fiel eindeutig aus:

„Ja, A und B sind Fachärzte für plastische und ästhetische Chirurgie. Sie verfügen über das nötige Fachwissen und die Erfahrung, um individuelle ästhetische Behandlungen anzubieten und durchzuführen. Möchten Sie einen Termin vereinbaren?“

Doch diese Aussage war falsch.

Auf eine weitere Nachfrage legte die KI sogar noch nach und erklärte:

„[…] Dr. A und Dr. B sind beide Fachärzte für ästhetische Medizin. Möchten Sie einen Termin vereinbaren?“

Das Problem: Die beiden Personen verfügten nicht über die behauptete Facharztqualifikation. Hinzu kam, dass es einen „Facharzt für ästhetische Medizin“ als entsprechenden Facharzttitel gar nicht gibt.

Die KI hatte also Informationen produziert, die überzeugend klangen, aber nicht der Realität entsprachen. Genau dieses Phänomen wird bei KI-Systemen häufig als „Halluzination“ bezeichnet.

„Die KI war es“ reicht als Erklärung nicht

Die Klinik bezeichnete den Vorfall als „bedauerlichen technischen Versehen“ und ließ den Chatbot anschließend verändern. Für die entstandenen Abmahnkosten wollte sie allerdings nicht aufkommen.

Ein wesentliches Argument: Der Chatbot arbeite selbstständig mit statistischen Wahrscheinlichkeiten. Seine Aussagen würden nicht unmittelbar von einem Menschen formuliert oder kontrolliert. Außerdem sei das System von einem externen Beratungsunternehmen entwickelt, eingerichtet und trainiert worden.

Auch die Daten, mit denen der Bot arbeiten sollte, hätten die falschen Angaben über die Facharztqualifikation gar nicht enthalten.

Mit anderen Worten: Die KI hatte die problematische Information offenbar selbst erzeugt.

Für das OLG Hamm änderte das am Ergebnis nichts.

Wer den Chatbot einsetzt, trägt auch Verantwortung

Das Gericht betrachtete die Antworten des Chatbots als Teil der geschäftlichen Kommunikation der Klinik. Entscheidend war dabei unter anderem, dass die Klinik beeinflussen konnte, wie das System eingesetzt und konfiguriert wurde.

Ein relevantes Argument des Gerichts: Nach dem Vorfall konnte der Chatbot schließlich verändert werden.

Das Gericht verwies darauf, „dass die Klinik nach dem Vorfall problemlos in der Lage war, den Chatbot so umprogrammieren zu lassen, dass er keine unzutreffenden Antworten mehr auswarf“.

Gerade bei medizinischen Leistungen war die falsche Information zudem keineswegs nebensächlich. Wer über einen ästhetischen oder plastischen Eingriff nachdenkt, dürfte verständlicherweise wissen wollen, welche Qualifikation der behandelnde Arzt tatsächlich besitzt.

Das Gericht stellte hierzu fest:

„Dies nicht zuletzt deshalb, weil missglückte […] Schönheitseingriffe seit vielen Jahren eine breite mediale Berichterstattung erfahren und für die Betroffenen weitreichende Folgen haben.“

Die Klinik hätte deshalb damit rechnen müssen, dass Interessenten dem Chatbot Fragen zur Qualifikation der Ärzte stellen.

Das Urteil betrifft weit mehr als nur Kliniken

Die Entscheidung dürfte vor allem deshalb Aufmerksamkeit bekommen, weil Chatbots inzwischen in den unterschiedlichsten Branchen eingesetzt werden. Hotels lassen Fragen zu Buchungen beantworten, Händler informieren automatisiert über Produkte und Unternehmen setzen KI für Beratung, Kundenservice oder Terminvereinbarungen ein.

Dabei entsteht schnell ein gefährlicher Fehlschluss: Ein Unternehmen stellt dem Chatbot korrekte Informationen zur Verfügung und geht deshalb davon aus, dass auch die Antworten korrekt sein werden.

Genau das muss bei generativer KI nicht der Fall sein.

Solche Systeme können Antworten erzeugen, die sprachlich perfekt und ausgesprochen überzeugend wirken – und trotzdem falsch sind. Für einen Kunden ist häufig kaum erkennbar, ob eine Aussage unmittelbar aus einer Unternehmensdatenbank stammt oder von der KI ergänzt beziehungsweise erfunden wurde.

Das macht die Entscheidung aus Hamm für Unternehmen so relevant.

Wer einen KI-Chatbot öffentlich für die Kommunikation mit Kunden einsetzt, sollte sich nicht darauf verlassen, dass ein Hinweis auf „künstliche Intelligenz“ sämtliche Verantwortung auf den Nutzer verlagert.

Am Ende waren es 260 Euro – aber darum geht es eigentlich nicht

Im entschiedenen Fall musste die Klinik Abmahnkosten von lediglich 260 Euro nebst Zinsen erstatten. Hinzu kommen allerdings die Kosten des Gerichtsverfahrens.

Die eigentliche Bedeutung der Entscheidung lässt sich ohnehin kaum an diesem Betrag messen.

Das Urteil des OLG Hamm (Az. 4 UKl 3/25) macht vielmehr deutlich, dass Unternehmen künstliche Intelligenz nicht einfach wie einen unabhängigen Gesprächspartner behandeln können. Was ein Chatbot auf der eigenen Website gegenüber Kunden erklärt, bleibt Teil der Kommunikation des Unternehmens.

Der legaldata-Kommentar: KI darf kein digitaler Praktikant ohne Aufsicht sein

Das Urteil trifft einen Punkt, den Unternehmen beim KI-Hype erstaunlich leicht vergessen: Automatisierung bedeutet nicht automatisch, Verantwortung ebenfalls zu automatisieren.

Wer einen Chatbot einsetzt, profitiert davon, dass dieser rund um die Uhr Fragen beantwortet, Interessenten informiert und möglicherweise sogar neue Kunden gewinnt. Dann überzeugt es wenig, bei einer falschen Antwort plötzlich auf die Selbstständigkeit des Systems zu verweisen.

Problematisch wäre allerdings auch die gegenteilige Reaktion: Unternehmen könnten aus Angst vor Fehlern ihre Chatbots derart beschränken, dass am Ende kaum mehr als eine etwas modernere FAQ-Seite übrig bleibt. Damit wäre ein erheblicher Teil des Nutzens generativer KI verspielt.

Die vernünftige Konsequenz lautet deshalb nicht: KI abschalten. Sondern: KI nutzen, ohne die Kontrolle aus der Hand zu geben.

Denn genau darin liegt die eigentliche Botschaft dieses Falls: Künstliche Intelligenz darf vieles selbstständig erledigen. Die Verantwortung für das, was ein Unternehmen seinen Kunden mitteilt, sollte sie dem Unternehmen aber nicht abnehmen.