KI-Kennzeichnung in der Verwaltung
Transparenz beim KI-Einsatz
Mission
- Transparenz über KI-Systeme schaffen
- Vertrauen in digitale Services stärken
- Einheitliche Kennzeichnung etablieren
- Verständliche Informationen bereitstellen
- Verantwortungsvolle KI-Nutzung fördern
Ziele
- KI-Systeme sichtbar machen
- Einheitliche Standards anwenden
- Verwaltungsverfahren nachvollziehbarer gestalten
- Orientierung für Nutzerinnen und Nutzer bieten
- Bundesweite Umsetzung unterstützen
Warum KI gekennzeichnet wird?
Die Bundesverwaltung setzt bereits heute KI-Systeme in unterschiedlichen Bereichen ein. Die KI-Kennzeichnung informiert Nutzerinnen und Nutzer darüber, wenn sie direkt oder indirekt mit KI-Systemen in Berührung kommen.
Ziel ist es, Transparenz zu schaffen und gleichzeitig zusätzliche Informationen über die Ausmaß der KI-Unterstützung bereitzustellen. Die Kennzeichnung versteht sich dabei ausdrücklich nicht als Qualitäts- oder Gütesiegel.
Wie werden KI-Systeme eingestuft?
Die KI-Kennzeichnung informiert nicht nur darüber, dass Künstliche Intelligenz eingesetzt wird. Sie liefert auch zusätzliche Informationen über die Ausmaß der KI-Unterstützung. Dafür werden KI-Systeme anhand der Kriterien Eigenständigkeit und Wirkung bewertet. Aus der Kombination dieser beiden Bewertungen ergibt sich die jeweilige KI-Kategorie. Die Bewertung wird durch die Verfahrensverantwortlichen auf Basis einer Checkliste durchgeführt.
.png)
Eigenständigkeit von KI-Systemen
Der Mensch trifft alle Entscheidungen selbst. Die KI unterstützt lediglich bei einzelnen Tätigkeiten.
Die KI liefert Vorschläge oder Informationen. Die Entscheidung trifft weiterhin der Mensch.
Die KI handelt weitgehend eigenständig. Der Mensch überwacht das Verfahren und kann eingreifen.
Die KI übernimmt den Prozess weitgehend autonom und trifft Entscheidungen selbstständig.
Wirkung von KI-Systemen
Entscheidungen haben keine oder nur sehr geringe Auswirkungen auf Nutzerinnen und Nutzer.
Entscheidungen können Leistungen oder Angebote beeinflussen, haben jedoch nur moderate Auswirkungen.
Entscheidungen können wesentliche Auswirkungen auf die Lebensumstände von Betroffenen haben.
Entscheidungen können erhebliche und nachhaltige Folgen für Betroffene verursachen.
Bewertung des KI-Systems beispielhaft und fiktiv.
Die vier KI-Kategorien
Leichte Unterstützung
KI unterstützt Prozesse, während Entscheidungen überwiegend durch Menschen getroffen werden.
Moderate Unterstützung
KI unterstützt Entscheidungen und Abläufe in einem begrenzten Umfang.
Starke Unterstützung
KI übernimmt wesentliche Aufgaben innerhalb eines Verfahrens und beeinflusst Ergebnisse stärker.
Intensive Unterstützung
KI-Systeme handeln weitgehend eigenständig und haben einen hohen Einfluss auf das Verfahren.
So funktioniert die Kennzeichnung
-
1
System identifizieren
Prüfung, ob ein KI-System zu kennzeichnen ist.
-
2
Bewertung durchführen
Einstufung von Eigenständigkeit und Wirkung.
-
3
Freigabe erhalten
Bestätigung der Kennzeichnung und Kategorie.
-
4
Kennzeichnung umsetzen
Integration in das jeweilige System.
-
5
Aktualisierung bei Änderungen
Neubewertung bei wesentlichen Änderungen.
Einheitliche Umsetzung in digitalen Services
Die KI-Kennzeichnung wird direkt in digitalen Anwendungen integriert. Nutzerinnen und Nutzer erhalten über einen Info-Button Hinweise auf den Einsatz von KI sowie Informationen zur jeweiligen KI-Kategorie.
Die Kennzeichnung kann sowohl in Web-Anwendungen als auch in mobilen Anwendungen eingesetzt werden und soll barrierefrei wahrnehmbar sein.
