KI-Governance gestalten, wenn Systeme nicht mehr in alte Kategorien passen

KI-Governance gestalten, wenn Systeme nicht mehr in alte Kategorien passen

Produkt- und Beratungsteams mögen klare Kategorien. Ein System ist ein Tool, eine Plattform, ein Service, eine API oder ein Agent. Doch KI und Robotik verwischen diese Kategorien zunehmend. David J. Gunkels Person, Thing, Robot ist – ausgehend von Titel, Inhaltsverzeichnis und Auszug – für Technologieführung nützlich, weil es zeigt, warum Klassifikation kein philosophischer Luxus ist. Sie ist eine Governance-Anforderung.

Das Buch untersucht die moralische und rechtliche Ontologie von Robotern. Der Auszug erklärt das zentrale Problem: Roboter sind technologische Artefakte, aber nicht ganz wie gewöhnliche Dinge. Sie interagieren sozial, sprechen, simulieren Intelligenz und bringen Menschen dazu, sie als mehr als Objekte zu behandeln. Gleichzeitig passen sie nicht leicht in die Kategorie der Personen. Dadurch wird die traditionelle Unterscheidung zwischen Person und Sache herausgefordert, die Recht und Ethik seit Jahrhunderten prägt.

In der KI-Produktisierung erscheint dieselbe Spannung praktisch. Ein generativer KI-Assistent wird als Tool verkauft, als Kollaborateur gebrandet, als Gesprächspartner erlebt und als halbautonome Workflow-Komponente implementiert. Ein Robotiksystem kann gleichzeitig Maschine, Benutzeroberfläche, Sicherheitsrisiko, Datensammler und Entscheidungsknoten sein. Wenn Governance nur eine Kategorie annimmt, entstehen Blind Spots.

Besonders wichtig wird das, wenn KI-Systeme über Grenzen hinweg handeln. Ein Customer-Service-Bot kann Aussagen machen, die vertragliche Erwartungen erzeugen. Ein Coding-Agent kann Sicherheitslücken einführen. Ein Einkaufsagent kann Bestellungen auslösen. Ein Lagerroboter kann Arbeitssicherheit beeinflussen. Ein Empfehlungssystem kann Zugang zu Leistungen prägen. In jedem Fall muss technisches Design mit einer Rollendefinition gekoppelt sein.

Das Inhaltsverzeichnis des Buches signalisiert eine hilfreiche Struktur für Berater: Dinge, Personen, natürliche Personen, künstliche/juristische Personen, both/and und die Dekonstruktion von Dingen. Das sind keine Implementierungskategorien, aber sie helfen Teams, bessere Fragen zu stellen. Ist das System nur ein Instrument? Repräsentiert es die Organisation? Schafft es Verpflichtungen? Braucht es partielle Fähigkeiten unter Recht oder Policy? Führt sein soziales Interface zu Overtrust? Ermutigt sein Design die Organisation, menschliche Verantwortung hinter maschineller Autonomie zu verstecken?

Für die Zielgruppe von ozycore.de ist die Produktisierungslektion klar: KI-Governance gehört in die Systemarchitektur. Ein Produkt sollte Berechtigungsgrenzen, Audit Trails, Offenlegungsmechanismen, Eskalationspfade, menschliche Freigabepunkte, Incident Ownership und Dokumentation des Modellverhaltens enthalten. Das sind keine Add-ons. Sie drücken aus, welche Art von „Entität“ das System in der Organisation sein darf.

Ein praktischer Rahmen definiert jedes KI-System über fünf Rollendimensionen. Erstens Agency: Kann es handeln oder nur empfehlen? Zweitens Autorität: Wessen Autorität nutzt es? Drittens Verantwortlichkeit: Wer besitzt Ergebnisse und Fehler? Viertens Sichtbarkeit: Wissen Nutzer, dass sie mit KI interagieren? Fünftens Reversibilität: Können Entscheidungen oder Aktionen gestoppt, überprüft oder korrigiert werden? Diese Dimensionen übersetzen abstrakte Ontologie in Produktanforderungen.

Gunkel liefert keinen fertigen operativen Rahmen, und der Auszug sagt ausdrücklich, dass das Buch eher eine Einladung als ein Endpunkt ist. Genau deshalb ist es wertvoll. Technologie bewegt sich schneller als unsere geerbten Kategorien. Beratungsteams, die Kunden helfen, diese Kategorien zu definieren, bauen sicherere und langlebigere KI-Systeme.

Die Zukunft der KI-Governance wird nicht nur durch bessere Modelle gelöst. Sie wird durch bessere institutionelle Gestaltung um Modelle herum gelöst. Vor dem Deployment eines KI-Agenten steht eine einfache Frage: Was darf dieses System sein?