Wenn der Praxis-Chatbot irrt: Warum Ärzte für die Aussagen ihrer KI haften
Wenn der Praxis-Chatbot irrt: Warum Ärzte für die Aussagen ihrer KI haften
Künstliche Intelligenz verändert die Patientenkommunikation – doch mit den neuen Möglichkeiten entstehen auch neue Haftungsrisiken. Ein aktuelles Urteil des Oberlandesgerichts Hamm macht deutlich: Wer einen Chatbot auf seiner Website einsetzt, kann sich bei falschen Informationen nicht hinter der Technik verstecken.
KI in Arztpraxen: Komfortgewinn mit rechtlichen Risiken
Immer mehr Arztpraxen und Kliniken setzen auf KI-gestützte Chatbots. Sie beantworten Terminanfragen, informieren über Behandlungsmöglichkeiten oder geben erste Orientierungshilfen für Patienten. Die Vorteile liegen auf der Hand: schnellere Kommunikation, höhere Erreichbarkeit und eine Entlastung des Praxispersonals.
Doch was passiert, wenn die künstliche Intelligenz falsche Informationen verbreitet?
Mit genau dieser Frage hatte sich das Oberlandesgericht Hamm zu beschäftigen. Seine Entscheidung dürfte weit über den konkreten Einzelfall hinaus Bedeutung haben.
Der Fall: Ein Chatbot macht Ärzte zu Fachärzten
Gegenstand des Verfahrens war die Website eines Anbieters ästhetischer Behandlungen. Dort stand Interessenten neben den üblichen Informationen ein KI-gestützter Chatbot zur Verfügung.
Ein Nutzer fragte das System, ob die Geschäftsführer des Unternehmens Fachärzte für Plastische und Ästhetische Chirurgie seien.
Die Antwort des Chatbots war eindeutig:
„Ja.“
Das Problem: Tatsächlich verfügten die Ärzte über keine entsprechende Facharztanerkennung. Der Chatbot ging sogar noch weiter und bezeichnete sie als „Fachärzte für ästhetische Medizin“ und „Fachärzte für ästhetische Behandlungen“ – Bezeichnungen, die im deutschen Weiterbildungsrecht überhaupt nicht existieren.
Die Verbraucherzentrale Nordrhein-Westfalen sah darin eine irreführende Werbung und klagte.
Kann sich ein Unternehmen hinter der KI verstecken?
Die spannende juristische Frage war nicht, ob die Angaben falsch waren. Das stand außer Zweifel.
Vielmehr ging es um die Frage:
Sind die Aussagen eines autonom arbeitenden Chatbots dem Betreiber der Website rechtlich zuzurechnen?
Das OLG Hamm beantwortete diese Frage mit einem klaren Ja.
Nach Auffassung der Richter ist ein Chatbot kein eigenständiger Akteur, sondern lediglich ein technisches Werkzeug. Wer ein solches System in seine Unternehmenskommunikation integriert, muss sich die dadurch vermittelten Aussagen zurechnen lassen.
Mit anderen Worten:
Die Maschine spricht zwar selbst – rechtlich spricht sie jedoch für den Betreiber.
Das „Black-Box-Argument“ überzeugt die Gerichte nicht
Das Unternehmen verteidigte sich damit, dass moderne KI-Systeme eigenständig arbeiten und ihre Antworten dynamisch erzeugen. Deshalb sei die konkrete Falschaussage nicht vorhersehbar gewesen.
Doch auch dieses Argument ließ das Gericht nicht gelten.
Entscheidend sei nicht, ob jede einzelne Antwort im Voraus vorhersehbar sei. Maßgeblich sei vielmehr, dass die Entscheidung zum Einsatz des Systems vom Betreiber getroffen wurde. Wer KI zur Kommunikation mit Patienten einsetzt, übernimmt auch die Verantwortung für deren Aussagen.
Besonders bemerkenswert:
Nachdem die fehlerhaften Antworten bekannt geworden waren, konnten diese durch entsprechende Vorgaben und Filtermechanismen problemlos korrigiert werden. Gerade dies wertete das Gericht als Beleg dafür, dass ausreichende Steuerungsmöglichkeiten bestehen.
Warum das Urteil gerade für Ärzte und Kliniken wichtig ist
Die Entscheidung betrifft keineswegs nur unzutreffende Facharztbezeichnungen.
Im Gesundheitswesen gehören Angaben über Qualifikation, Erfahrung und Spezialisierung zu den sensibelsten Informationen überhaupt. Patienten treffen ihre Entscheidungen häufig gerade auf Grundlage dieser Angaben.
Die vom OLG Hamm entwickelten Grundsätze lassen sich daher auf zahlreiche weitere Bereiche übertragen:
- Facharztanerkennungen und Zusatzbezeichnungen,
- Spezialisierungen und operative Erfahrung,
- Behandlungserfolge und Erfolgsquoten,
- Risiken medizinischer Eingriffe,
- Kosten und Erstattungsmöglichkeiten.
Gerade weil KI-Systeme ihre Antworten mit großer sprachlicher Sicherheit formulieren, besteht die Gefahr, dass Patienten diesen Aussagen besonderes Vertrauen entgegenbringen.
Neue Sorgfaltspflichten für Praxisbetreiber
Das Urteil macht deutlich:
Der Einsatz künstlicher Intelligenz schafft keine rechtliche Sonderzone.
Für Ärzte und Praxisinhaber bedeutet dies, dass die Implementierung eines Chatbots nicht mit dessen Freischaltung endet.
Erforderlich sind vielmehr:
✔ regelmäßige Testabfragen,
✔ laufende Überwachung der Antworten,
✔ technische Schutzmechanismen,
✔ klare Vorgaben für zulässige Aussagen,
✔ eine kontinuierliche Qualitätssicherung.
Die Kontrolle von KI-Systemen wird damit zunehmend nicht nur zu einer technischen, sondern auch zu einer rechtlichen Pflicht.
Fazit: Wer KI einsetzt, bleibt verantwortlich
Die Entscheidung des OLG Hamm markiert einen wichtigen Meilenstein für den Einsatz künstlicher Intelligenz im Gesundheitswesen.
Sie macht deutlich:
Die Verantwortung für Patienteninformationen lässt sich nicht an eine Maschine delegieren.
Für Ärzte, Kliniken und andere Gesundheitsdienstleister lautet die Botschaft daher ebenso einfach wie weitreichend:
Wer einen Chatbot sprechen lässt, muss für dessen Aussagen einstehen.
Sie setzen in Ihrer Praxis bereits KI-gestützte Kommunikationssysteme ein oder planen deren Einführung?
Eine rechtssichere Gestaltung von Chatbots und digitalen Patienteninformationen wird künftig ein wesentlicher Bestandteil des Praxis- und Risikomanagements sein. Gerne unterstützen wir Sie bei der rechtlichen Bewertung und Compliance Ihres digitalen Auftritts.