Wer haftet, wenn dein KI-Agent einen Fehler macht?

Was das Gericht entschieden hat

Simon Willison hat den Fall aufgegriffen: ein deutsches Gericht hat Google für eine falsche Aussage in seinen AI Overviews haftbar gemacht, also für Text, den die KI automatisch erzeugt hat. Der Sicherheitsforscher Bruce Schneier zieht daraus die Linie, die für jeden Betrieb zählt. Ein KI-System wird rechtlich behandelt wie ein Mitarbeiter, den du beschäftigst. Was ein Angestellter im Job sagt, verantwortest du. Was dein Agent im Namen deines Betriebs tut, eben auch.

Ich bin kein Anwalt, und ein einzelnes Urteil ist noch keine gefestigte Rechtsprechung. Aber die Richtung ist deutlich, und sie passt zu dem, was ohnehin Sinn ergibt. Wer den Nutzen einer Sache einstreicht, trägt auch das Risiko. Das gilt für die Bohrmaschine im Betrieb genauso wie für den Agenten, der Mails beantwortet.

„Die KI war's" zählt nicht

Der bequeme Reflex, wenn etwas schiefgeht: das hat die KI gemacht, nicht ich. Genau das funktioniert nicht. Du kannst dich hinter dem Modell so wenig verstecken wie hinter einem Mitarbeiter. Wenn dein Azubi einem Kunden am Telefon einen falschen Preis zusagt, sagst du auch nicht „dafür kann ich nichts, das war der Azubi". Du stehst dafür gerade und regelst es intern.

Beim Agenten ist es dasselbe, mit einem Unterschied. Der Agent ist schneller und wird nie müde. Er kann denselben Fehler in einer Stunde an fünfzig Kunden ausliefern, während der Azubi ihn einmal macht und dann gebremst wird. Die Verantwortung ändert sich nicht, das Tempo, mit dem ein ungebremster Fehler Schaden anrichtet, schon.

Was sich für ein KMU wirklich ändert

Zuerst die Entwarnung. Das ist kein Grund, KI aus dem Betrieb zu verbannen, und es ist nichts grundsätzlich Neues. Du haftest längst für alles, was dein Betrieb nach außen tut, egal ob ein Mensch oder eine Maschine es getan hat. Neu ist nur, dass jetzt ein Gericht ausgesprochen hat, was viele gehofft hatten zu umgehen.

Die praktische Konsequenz ist deshalb nicht „weniger KI", sondern „KI wie einen neuen Mitarbeiter behandeln". Du gibst ihm einen klaren Aufgabenbereich, du schaust ihm am Anfang über die Schulter, und du kannst hinterher nachvollziehen, was er getan hat. Niemand würde einem neuen Mitarbeiter am ersten Tag den Schlüssel zur Kasse geben und ihn unbeaufsichtigt mit Kunden telefonieren lassen. Beim Agenten gilt dieselbe Vorsicht, aus demselben Grund.

Wie ich das bei meinen Kundensystemen handhabe

Ich liefere gerade die ersten Agenten aus, die nicht nur intern bei mir laufen, sondern bei Kunden im echten Betrieb. Genau da wird die Frage konkret, und ich gehe nach drei Regeln vor.

• Jeder Agent hat einen Verantwortlichen mit Namen. Nicht „die Firma" betreibt den Agenten, sondern eine bestimmte Person ist dafür zuständig, dass er das Richtige tut. Ohne benannten Menschen kein Agent im Kundeneinsatz.
• Was nach außen geht, hat einen Haltepunkt. Bei kundengerichteten Aktionen, einer Mail, einem Angebot, einer Auskunft, ist entweder ein Mensch im Spiel, bevor es rausgeht, oder die Aktion ist so eng umrissen, dass sie nichts kaputt machen kann.
• Es gibt ein Protokoll. Jeder Schritt wird mitgeschrieben, sodass ich hinterher rekonstruieren kann, was der Agent wann auf welcher Grundlage getan hat. Wenn doch mal etwas schiefläuft, ist der Unterschied zwischen „wir wissen genau, was passiert ist" und „keine Ahnung" der ganze Unterschied.

Was ein KMU jetzt tun sollte

• Benenne einen Verantwortlichen. Für jeden Agenten, der nach außen wirkt, eine Person, die den Hut aufhat.
• Halte kundengerichtete Aktionen an. Auskünfte, Zusagen, Versand. Das braucht entweder eine Freigabe oder eine so enge Grenze, dass nichts Falsches durchgeht.
• Führe ein Protokoll. Schreib mit, was der Agent tut. Du brauchst es nicht jeden Tag, aber an dem einen Tag brauchst du es wirklich.
• Sei ehrlich zu Kunden. Wo eine KI antwortet oder entscheidet, darf der Kunde das wissen. Verdeckt eingesetzt wird aus einem Fehler schnell ein Vertrauensschaden.
• Lass einen Blick auf die Verträge werfen. Wo dein Agent verbindliche Zusagen macht, Preise nennt, Termine bestätigt, gehört das einmal anwaltlich angeschaut. Das ist der Punkt, an dem ich aufhöre und an einen Fachanwalt verweise.

Fazit

Das Urteil erfindet kein neues Risiko, es macht ein altes sichtbar. Du haftest für deinen Betrieb, und dein Agent ist Teil deines Betriebs. Wer das von Anfang an so behandelt, einen Verantwortlichen benennt, die Ausgänge sichert und mitschreibt, hat keinen Grund, vor dem Urteil nervös zu werden. Wer einen Agenten unbeaufsichtigt auf Kunden loslässt und hofft, im Zweifel „die KI war's" sagen zu können, hat gerade von einem Gericht gehört, dass das nicht zieht.

Quellen: Simon Willison, AI and Liability (25. Juni 2026), mit Bezug auf ein deutsches Gerichtsurteil zu Googles AI Overviews und Bruce Schneiers Einordnung, KI-Systeme rechtlich als Agenten ihrer Betreiber zu behandeln. Eigene Erfahrung aus der Auslieferung erster Agenten in den Kundenbetrieb, Juni 2026. Dieser Text ist keine Rechtsberatung.