Vor einiger Zeit habe ich über das KI-Anbieter-Prinzip geschrieben: KI unterstützt, entscheiden und haften tust ausschließlich du. Die Frage danach war: Wo liegt bei euch die Grenze, wenn ihr sie prozessual überhaupt bestimmt habt?
Die ehrlichste Antwort kam mehrmals: „Wir wissen es nicht genau.”
Das kenne ich aus zwei Perspektiven. Als Senior Sales Manager bei ThinkOwl habe ich diese Systeme an Unternehmenskunden übergeben. Als Head of Customer Service bei ESN habe ich dasselbe als Auftraggeber selbst eingeführt. Die erste Frage war in beiden Rollen identisch: Wer haftet, wenn das System sich irrt?
Jedes Mal dieselbe Unsicherheit, und trotz sommerlicher Temperaturen dünnes Eis. Fehlende Policies und oft schlicht eine fehlende Digitalstrategie waren der Hauptgrund.
Drei Fragen vor der Produktivsetzung
Diese Frage kommt nie aus dem Tool selbst. Sie muss gestellt werden, bevor auch nur eine Zeile konfiguriert ist. In der Praxis haben wir vor jeder Produktivsetzung drei Fragen schriftlich festgehalten:
- Was darf das Modell empfehlen?
- Was muss ein Mensch entscheiden?
- Wer unterschreibt, wenn das Ergebnis falsch ist?
Das klingt bürokratisch, ist aber das Gegenteil. Teams, die diese Grenzen kennen, entscheiden schneller, nicht langsamer, weil niemand in einer grauen Verantwortungszone feststeckt.
Was passiert, wenn die Fragen fehlen
Wo diese Grenzen fehlen, schlägt das Modell vor, der Prozess übernimmt, und niemand hat dazwischen persönlich entschieden. Stillschweigend übernimmt das Unternehmen die Haftung, die die Anbieter bewusst abgegeben haben. Das ist keine Kritik an den Anbietern, das ist ein Problem, das Organisationen zuerst intern lösen müssen.
Habt ihr diese drei Fragen für eure KI schon beantwortet?