Methode
Orientierung an den Anforderungen des EU AI Act
Der Check orientiert sich an wichtigen Fragen des EU AI Act. Dabei geht es zunächst um die Art des Einsatzes, anschließend um mögliche besondere Anforderungen und schließlich um Transparenz, Kontrolle und Dokumentation. Das Ergebnis ist keine formale Einstufung nach dem EU AI Act und keine rechtliche Bewertung. Es zeigt lediglich, welche Themen bei der weiteren Prüfung relevant werden können.
-
Welche Art von KI-Einsatz liegt vor?
Zunächst wird betrachtet, was die KI tatsächlich tun soll. Unterstützt sie lediglich Mitarbeitende oder beeinflusst sie Entscheidungen über Personen?
-
Gibt es einen besonders sensiblen Einsatzbereich?
Dazu gehören beispielsweise bestimmte Anwendungen in Personalwesen, Bildung, kritischen Bereichen oder bei biometrischen Systemen. Entscheidend ist immer der konkrete Anwendungsfall.
-
Welche Rolle spielt der Mensch?
Eine KI, die einen Entwurf erstellt und auf Freigabe wartet, ist anders zu bewerten als ein System, das automatisch Entscheidungen ausführt oder Personen bewertet.
-
Welche Daten werden verarbeitet?
Personenbezogene Daten, Gesundheitsdaten, Finanzdaten oder vertrauliche Unternehmensinformationen erfordern besondere Aufmerksamkeit. Auch Zugriffsrechte und Speicherorte gehören dazu.
-
Welche Kontrolle bleibt notwendig?
Auch wenn kein Hochrisiko-Einsatz vorliegt, können Anforderungen an Transparenz, KI-Kompetenz, Datenschutz, Dokumentation oder menschliche Kontrolle bestehen.
Die konkrete Einstufung nach dem EU AI Act hängt vom tatsächlichen Einsatz, der Rolle des Unternehmens und weiteren Umständen ab. Der Online-Check ersetzt deshalb keine formale Prüfung.