Meine zwei Cent zu etwas, das kaum jemand wahrnimmt: Alle großen KI-Anbieter haben sich still auf ein gemeinsames Prinzip geeinigt. Nicht in einer Pressemitteilung, sondern in den AGB und im Kleingedruckten.
Das Prinzip lautet: KI darf unterstützen. Entscheiden und haften? Nein.
Das ist nicht nur juristisches Kleingedrucktes, sondern ein fundamentaler Designentscheid, den alle teilen. Microsoft, OpenAI, Google, Anthropic, alle vier sagen dasselbe, nur in anderen Worten.
Vier Aussagen, ein Muster
- „Kann falsch sein.” Ergebnisse können ungenau, unvollständig oder irreführend sein.
- „Nicht darauf verlassen.” Kein Ersatz für medizinische, rechtliche oder finanzielle Entscheidungen.
- „Du trägst die Verantwortung.” Für alles, was du mit den Outputs machst.
- „Keine Gewährleistung.” As is, ohne Garantie auf Richtigkeit oder Funktion.
Das Marketing nennt es „deinen KI-Copiloten”. Die AGB nennen es „ein probabilistisches Tool”. Am offensten ist der Hinweis in der Standardversion des Consumer-Copilot von Microsoft: „Copilot is for entertainment purposes only.”
Warum das ein Governance-Problem ist
Viele Unternehmen verlagern gerade Entscheidungsprozesse auf genau diese Systeme. Deren eigene Anbieter sagen explizit: nicht darauf verlassen. Das ist kein Technologieproblem, das ist ein Governance-Problem.
Solange Unternehmen das nicht trennen, übernehmen sie stillschweigend die Haftung, die die Anbieter bewusst abgegeben haben.
Wo liegt bei euch die Grenze zwischen KI als Assistenz und KI als Entscheidungsgrundlage?