KI-Governance

KI-Governance ist die Gesamtheit von Entscheidungsrechten, Verantwortlichkeiten, Richtlinien und Kontrollmechanismen, die steuern, wie eine Organisation künstliche Intelligenz entwickelt, beschafft und nutzt. Sie stellt klar, wer eine Nutzung genehmigen darf, welche Grenzen gelten und wie Bedenken während des gesamten Lebenszyklus eines Systems eskaliert werden.

Gute Governance beginnt, bevor ein System ausgewählt wird. Führungskräfte sollten sich fragen, ob KI für die Aufgabe geeignet ist, welche Personen oder Dienste betroffen sein könnten und ob die Organisation die daraus resultierenden Risiken bewältigen kann. Die Antworten bestimmen den zulässigen Zweck, das akzeptable Risikoniveau, die Prüfungsanforderungen und die Bedingungen für die Einstellung der Nutzung. Governance sollte auch Systeme berücksichtigen, die von Lieferanten gekauft wurden, sowie Tools, die von Mitarbeitern informell eingeführt wurden.

Verantwortlichkeit braucht eine Person

Ausschüsse können Richtlinien festlegen, Beweise prüfen und Probleme lösen, aber die Verantwortung kann nicht in einem Ausschuss liegen. Jedes eingesetzte KI-System sollte einen benannten Menschen haben, der für seine Nutzung verantwortlich ist. Dieser Verantwortliche muss über ausreichend Befugnisse verfügen, um die Leistung zu hinterfragen, Änderungen anzufordern, die Nutzung auszusetzen und sicherzustellen, dass Zwischenfälle die richtigen Personen erreichen. Jemanden zu benennen, ohne ihm Zugang zu Beweisen oder Entscheidungsmacht zu geben, schafft nur Rechenschaftspflicht auf dem Papier.

Auf organisatorischer Ebene bleibt der Vorstand letztlich für die Risikoüberwachung verantwortlich. Führungskräfte übersetzen diese Verantwortung in eine praktikable Governance-Struktur: wer genehmigt die Nutzung mit hoher Wirkung, wer überwacht die Einhaltung interner Richtlinien, wer überprüft die technische Leistung und wer kann eingreifen. Von einem Systemverantwortlichen wird nicht erwartet, dass er jede Aufgabe persönlich erledigt, aber er sollte wissen, welche Teams sie ausführen, und für den Betrieb des Systems rechenschaftspflichtig bleiben.

Governance und Compliance

Compliance fragt, ob eine Organisation eine bestimmte rechtliche oder politische Anforderung erfüllt. Governance ist umfassender. Sie legt die Ziele, die Risikobereitschaft, die Entscheidungsrechte und die Überwachung der Organisation für KI fest, einschließlich Bereichen, in denen Regeln unvollständig sind oder mehr als ein Gesetz gilt. Compliance-Nachweise können in die Governance einfließen, aber eine ausgefüllte Checkliste beweist nicht, dass ein System geeignet, fair oder unter wirksamer Kontrolle ist.

Nützliche Governance ist verhältnismäßig und mit echten Entscheidungen verknüpft. Sie dokumentiert, warum ein System verwendet wird, welche Risiken akzeptiert wurden, wer seinen Zweck ändern kann und welche Signale eine Überprüfung auslösen. Sie gibt Mitarbeiterinnen und Mitarbeitern auch einen Weg, unerwartetes Verhalten zu melden, ohne vorher einen Schaden nachweisen zu müssen. Wenn Verantwortlichkeiten, Schwellenwerte und Eskalationspfade explizit sind, ist eine Organisation besser in der Lage, zu lernen und zu reagieren, wenn sich ein System oder sein Kontext ändert.