Wer haftet für die Fehler des Chatbots? OLG Hamm verurteilt Unternehmen zu Falschangaben über Facharzttitel

Die Beklagte hatte argumentiert, ihr seien die Falschangaben des Chatbots nicht als eigene geschäftliche Handlung zuzurechnen. Sinngemäß stand dahinter der Einwand, der Chatbot habe die Antworten selbst erzeugt oder möglicherweise „halluziniert“. Das OLG Hamm ließ diese Argumentation nicht gelten. Selbst wenn die Beklagte den Chatbot ausschließlich mit korrekten Datensätzen hätte programmieren lassen, trage sie die Verantwortung für die Falschangaben zu den Facharzttiteln ihrer Geschäftsführer. Der Senat begründete die Zurechnung unter anderem mit folgenden Umständen: - Der Chatbot wurde zu einem geschäftlichen Zweck eingesetzt. Seine Antworten standen jeweils im Zusammenhang mit der Möglichkeit, einen Termin zu buchen. - Die Frage nach der Facharztqualifikation der behandelnden Ärzte war für den Anbieter vorhersehbar. Gerade im Gesundheitsbereich ist damit zu rechnen, dass Interessenten nach Qualifikationen und Berufsbezeichnungen fragen. - Die Aesthetify GmbH hatte Einfluss auf das Verhalten des Chatbots. Nachdem sie von den Falschangaben erfahren hatte, konnte sie diese unmittelbar abstellen, indem sie den Chatbot deaktivierte. - Die Kommunikation über die Website diente der Kundengewinnung und Anbahnung von Behandlungsverhältnissen. Die Aussagen waren daher nicht als rein private oder technische Äußerungen eines außenstehenden Systems einzuordnen. Nach Auffassung des OLG Hamm ist der Chatbot in dieser Konstellation kein „Dritter“ im Sinne des Gesetzes. Die Beklagte haftet daher nicht lediglich deshalb, weil sie eine Verkehrssicherungspflicht gegenüber einem fremden Verhalten verletzt haben könnte. Vielmehr wird ihr der Einsatz des Chatbots als eigenes geschäftliches Verhalten zugerechnet. Die von dem System ausgegebenen Aussagen sind damit rechtlich wie eigene Angaben des Unternehmens zu behandeln. Für den wettbewerbsrechtlichen Unterlassungsanspruch kam es außerdem nicht auf ein Verschulden der Aesthetify GmbH an. Entscheidend war, dass eine irreführende geschäftliche Handlung vorlag und die Wiederholungsgefahr nicht durch eine strafbewehrte Unterlassungserklärung ausgeräumt worden war. Ein Nachweis, dass das Unternehmen die konkrete Falschantwort vorsätzlich oder fahrlässig herbeigeführt hatte, war für den Unterlassungsanspruch deshalb nicht erforderlich.

Die Entscheidung hat über den konkreten Fall hinaus erhebliche praktische Bedeutung. Unternehmen können sich grundsätzlich nicht darauf zurückziehen, der Chatbot sei fehlerhaft trainiert worden, habe eine unzutreffende Antwort aus einer Datenquelle übernommen oder habe schlicht „halluziniert“. Wer ein solches System zur Kommunikation mit Kunden einsetzt, muss damit rechnen, dass seine Antworten dem Unternehmen zugerechnet werden. Besonders relevant ist der geschäftliche Kontext. Ein Chatbot, der lediglich allgemeine technische Hilfe leistet, steht zwar ebenfalls vor rechtlichen Anforderungen. Noch näher liegt eine Zurechnung aber dort, wo das System unmittelbar in Vertrieb, Kundenberatung oder Vertrags- und Behandlungsanbahnung eingebunden ist, etwa durch eine Verknüpfung mit einer Terminbuchung, einer Verkaufsfunktion oder einer konkreten Dienstleistungsanfrage. Unternehmen sollten deshalb nicht nur die Trainingsdaten kontrollieren. Erforderlich ist vielmehr ein laufendes Risikomanagement, das auch die tatsächlich ausgegebenen Antworten erfasst. Gerade bei Angaben zu Qualifikationen, Zulassungen, Zertifizierungen, Preisen, Garantien oder rechtlichen Voraussetzungen können einzelne falsche Antworten unmittelbar wettbewerbsrechtliche Folgen haben.

Aus der Entscheidung lassen sich insbesondere folgende Maßnahmen ableiten:

Ein Disclaimer kann dabei sinnvoll sein, ersetzt aber keine inhaltliche Kontrolle. Der Hinweis, dass ein Chatbot Fehler machen könne oder keine verbindliche Beratung erteile, schließt eine Haftung nicht zwingend aus. Nach der Argumentation des OLG Hamm folgt die Zurechnung gerade aus dem geschäftlichen Einsatz des Systems, seiner Einbindung in die Kundenkommunikation und der Einflussmöglichkeit des Unternehmens. Ein Disclaimer nimmt dem Unternehmen daher nicht automatisch die Verantwortung für objektiv irreführende Angaben. Allerdings ist die Rechtslage noch nicht endgültig höchstrichterlich geklärt. Das OLG Hamm hat wegen der neuen Rechtsfragen zur Zurechnung von Falschangaben eines KI-Chatbots die Revision zum Bundesgerichtshof zugelassen. Ob und in welchem Umfang der BGH die Begründung des OLG Hamm bestätigt, bleibt daher abzuwarten. Für Unternehmen empfiehlt es sich dennoch, die Entscheidung bereits jetzt als deutlichen Hinweis auf die Anforderungen an den Einsatz generativer KI zu behandeln.

Unternehmen, die KI-Chatbots zur Kundenkommunikation einsetzen, sollten ihre Systeme nicht als rechtlich eigenständige Akteure behandeln. Werden Chatbots für Marketing, Vertrieb, Terminbuchungen oder die Anbahnung von Dienstleistungen eingesetzt, können ihre Aussagen dem Unternehmen als eigenes geschäftliches Verhalten zugerechnet werden. Besonders sorgfältige Kontrollen sind bei Angaben zu Qualifikationen, Berufsbezeichnungen, Zulassungen und sonstigen vertrauensbildenden Eigenschaften erforderlich. Fehlerhafte Chatbot-Angaben können Abmahnungen und Unterlassungsklagen auslösen. Im Gesundheitsbereich können zusätzlich berufsrechtliche Konsequenzen und besondere Risiken für das Vertrauen der Patienten hinzutreten. Unternehmen sollten deshalb klare Verantwortlichkeiten, regelmäßige Tests und technische Kontrollmechanismen einrichten. Sie sollten außerdem dokumentieren, welche Daten und Vorgaben dem Chatbot zugrunde liegen, wie Antworten überwacht werden und wie Fehler schnell abgestellt werden können. Ein Disclaimer kann diese Maßnahmen ergänzen, wird die Zurechnung aber nicht zuverlässig ausschließen. Das Urteil des OLG Hamm zeigt damit: Wer einen KI-Chatbot im geschäftlichen Verkehr einsetzt, trägt auch Verantwortung für dessen Kommunikation. Die technische Eigenständigkeit des Systems ändert nicht automatisch etwas an der rechtlichen Verantwortlichkeit des Unternehmens.