KI-Risikoklassen einfach erklärt

Der risikobasierte Ansatz ist das Herzstück des EU AI Act. Die Idee: Nicht jedes KI-System birgt die gleichen Gefahren. Ein Spamfilter ist weniger riskant als ein KI-System, das über Kreditvergabe entscheidet. Durch die Einteilung in Risikoklassen werden die Anforderungen proportional zum Risiko gestaltet – Unternehmen mit harmlosen KI-Anwendungen werden nicht unnötig belastet, während kritische Systeme streng kontrolliert werden.

Diese KI-Systeme sind vollständig verboten. Dazu gehören: • Social-Scoring-Systeme durch Behörden • KI, die menschliches Verhalten unterschwellig manipuliert • Systeme, die Schwächen von Personen gezielt ausnutzen • Biometrische Echtzeit-Fernidentifizierung in öffentlichen Räumen (mit Ausnahmen) Unternehmen, die solche Systeme einsetzen, müssen sie sofort einstellen. Es gibt keine Übergangsfrist.

Hochrisiko-KI-Systeme unterliegen den strengsten Anforderungen. Beispiele: • Personalauswahl und HR-Entscheidungen • Bonitätsbewertungen und Kreditvergabe • Bildung und Prüfungsbewertung • Medizinische Diagnostik • Strafverfolgung und Justiz Pflichten: Technische Dokumentation, Risikomanagement, Konformitätsbewertung, menschliche Aufsicht, Qualitätsmanagementsystem.

Begrenztes Risiko betrifft hauptsächlich Transparenzpflichten (Art. 50): • Chatbots müssen als KI gekennzeichnet werden • KI-generierte Inhalte (Text, Bild, Video, Audio) müssen als solche markiert werden • Deepfakes müssen offengelegt werden Minimales Risiko umfasst die Mehrheit aller KI-Anwendungen (z. B. Spamfilter, Empfehlungssysteme). Hier gelten nur freiwillige Verhaltenskodizes.