EINE VERSTÄNDLICHE REFERENZ
KI-Risiko, erklärt
KI-Risiko ist die Möglichkeit von Schäden, Verlusten oder unbeabsichtigten Ergebnissen, die aus der Entwicklung, dem Einsatz oder der Nutzung von Systemen der künstlichen Intelligenz entstehen. Es umfasst Risiken für Menschen, Organisationen und die Systeme, von denen sie abhängen.
Die Referenzbibliothek durchsuchenEin Ausgangspunkt
Drei große Familien von KI-Risiken
Drei Familien bieten einen Ausgangspunkt; ein Ereignis kann mehrere Ebenen gleichzeitig betreffen.
Strategisches Risiko
Strategisches Risiko betrifft die Frage, ob eine Organisation KI einsetzen sollte, ob sie bereit ist und ob die erwarteten Vorteile das Risiko rechtfertigen. Es umfasst die Fehlsteuerung bei Zielen, ungeeignete Anwendungen, schwache Verantwortlichkeit und inakzeptable Abhängigkeiten.
Operationelles Risiko
Operationelle Risiken entstehen bei der Entwicklung, dem Erwerb, dem Einsatz und der Nutzung von KI. Dazu gehören unzuverlässige Ergebnisse, voreingenommene oder unvollständige Daten, Datenschutz- und Sicherheitsmängel, Missbrauch, mangelhafte Überprüfung und Störungen. Kontrollen müssen Modelle, Menschen, Anbieter und Prozesse gemeinsam berücksichtigen.
Systemische Risiken und KI-Black-Swan-Ereignisse
Systemische Risiken verbreiten sich durch gemeinsame Modelle, Infrastrukturen, Daten oder Anreize über Organisationen oder die Gesellschaft hinweg. Einige Risiken mit hoher Auswirkung liegen außerhalb einer operationellen Taxonomie. Resilienzplanung fragt danach, wie man wahrnehmen und reagieren kann, ohne vorzugeben, jedes Unbekannte vorhersagen zu können.
Warum sich KI-Risiken von herkömmlichen Technologierisiken unterscheiden
Von herkömmlicher Software wird erwartet, dass sie im Voraus geschriebenen Regeln folgt. KI-Systeme erzeugen Ergebnisse aus gelernten Mustern, daher können die Ergebnisse je nach Kontext und Aktualisierung variieren. Das Verhalten kann schwer zu erklären, zu reproduzieren oder umfassend zu testen sein, insbesondere wenn Modelle mit Daten, Menschen und anderen Systemen kombiniert werden.
Dies kann den Weg von einer Entscheidung bis hin zu einem Schaden schwerer nachvollziehbar machen. Ein Output kann eine menschliche Entscheidung formen, eine Aktion auslösen oder zwischen Agenten weitergegeben werden. Die Risikoanalyse sollte das Modell, das weitere System, den Zweck, die Betriebsbedingungen und die verantwortlichen Personen untersuchen. Ziel ist es, Annahmen, Verantwortlichkeiten und Reaktionspläne explizit zu machen.
Referenzbibliothek
KI-Risikobegriffe erkunden
Jeder Eintrag beginnt mit einer kurzen Definition und erklärt dann, wie die Idee in der Praxis angewendet wird.
Häufige Fragen
KI-Risiko: Kurze Antworten
- Ist KI-Risiko dasselbe wie Cybersicherheitsrisiko?
- Nein. Cybersicherheit ist ein Teil des KI-Risikos, und beide überschneiden sich, aber das KI-Risiko umfasst auch verhaltensbezogene, ethische und systemische Dimensionen.
- Wer ist in einer Organisation für das KI-Risiko verantwortlich?
- Letztendlich ist der Vorstand für die Risikoüberwachung der Organisation verantwortlich. Jedes eingesetzte KI-System sollte zudem einen benannten menschlichen Eigentümer haben, der die Befugnis hat, es zu überwachen und bei veränderten Bedingungen zu handeln.
- Was ist der Unterschied zwischen KI-Risikomanagement und KI-Governance?
- Governance legt Verantwortlichkeiten, Entscheidungsrechte und die Risikobereitschaft fest. Risikomanagement ist die operative Disziplin, die Risiken innerhalb dieser Governance identifiziert, bewertet und behandelt.