Firmen haften für falsche Antworten der KI
Ein Chatbot generierte falsche medizinische Berufsbezeichnungen. Die Richter stuften dies als klare Wettbewerbsverzerrung ein.
Betreiber von Webseiten tragen die volle rechtliche Verantwortung für die Aussagen ihrer integrierten KI-Modelle. Das Oberlandesgericht Hamm verurteilt einen Klinikbetreiber wegen irreführender Falschaussagen eines Chatbots. Damit wandert ein grundlegender Rechtsstreit über künstliche Intelligenz nun womöglich vor den Bundesgerichtshof.
Erfundene medizinische Titel
Auf der Website einer Schönheitsklinik half ein KI-Modell bei der Terminvergabe und beantwortete Patientenfragen. Die Software generierte dabei eigenständig falsche Qualifikationen für die beiden Geschäftsführer.
Das KI-Modell bezeichnete die Mediziner unter anderem als Fachärzte für plastische und ästhetische Chirurgie sowie für ästhetische Medizin. Diese spezifischen Fachgebietstitel existieren in der realen medizinischen Welt jedoch teilweise gar nicht.
Die Verbraucherzentrale NRW bewertete diese Halluzinationen als Täuschung und forderte eine strafbewehrte Unterlassungserklärung. Das Unternehmen schaltete das Dialogsystem daraufhin ab, verweigerte jedoch die geforderte Unterschrift.
Anzeige
KI gilt rechtlich nicht als Dritter
Die Richter am Oberlandesgericht Hamm ordnen die automatisierten Textausgaben als unzulässige geschäftliche Handlungen ein. Das Unternehmen muss die Verbreitung dieser speziellen Berufsbezeichnungen künftig rechtssicher verhindern.
Der Betreiber argumentierte vor Gericht vergeblich, dass die fehlerhaften Behauptungen allein der Software zuzurechnen seien. Die Richter wiesen diese Verteidigungsstrategie deutlich zurück.
Rechtlich gesehen fungiert ein solches KI-Modell als fester Teil der Unternehmensorganisation und nicht als unabhängiger Dritter. Deshalb schützt auch die anfängliche Programmierung mit korrekten Datensätzen das Unternehmen nicht vor der Haftung.
Der Weg zum Bundesgerichtshof
Der Fall wirft tiefgreifende juristische Fragen zur Zurechnung von Falschangaben durch autonom agierende KI-Modelle auf. Deshalb ließ das Oberlandesgericht direkt die Revision zu.
Nun liegt der juristische Ball beim Bundesgerichtshof. Die höchste deutsche Zivilinstanz entscheidet voraussichtlich über den endgültigen Haftungsrahmen für computergenerierte Falschbehauptungen im geschäftlichen Verkehr.
