EU AI Act
GovernanceDie EU-Verordnung klassifiziert KI-Systeme nach Risiko und legt verbindliche Pflichten für Anbieter und Betreiber fest.
Was ist der EU AI Act?
Der EU AI Act (Verordnung EU 2024/1689) ist die erste rechtsverbindliche KI-Verordnung weltweit. Sie trat im August 2024 in Kraft und gilt stufenweise: Verbote für inakzeptables Risiko ab Februar 2025, Pflichten für Hochrisiko-KI ab August 2026. Der Ansatz ist risikobasiert — je höher das Gefährdungspotenzial, desto strenger die Anforderungen.
Die Verordnung unterscheidet vier Risikoklassen: unannehmbares Risiko (verboten, z. B. Social Scoring), hohes Risiko (umfangreiche Pflichten, z. B. KI in Recruiting oder Kreditvergabe), begrenztes Risiko (Transparenzpflichten, z. B. Chatbots) sowie minimales Risiko (keine speziellen Vorgaben). Für Allzweck-KI-Modelle wie große Sprachmodelle gelten zusätzliche Anforderungen ab einer bestimmten Rechenleistungsschwelle.
Pflichten für Anbieter und Betreiber
Unternehmen, die Hochrisiko-KI in der EU anbieten oder einsetzen, müssen konkrete Anforderungen erfüllen:
- Risikomanagementsystem einrichten und dokumentieren
- Qualität der Trainingsdaten sicherstellen und nachweisen
- Technische Dokumentation und Konformitätsbewertung durchführen
- Menschliche Aufsicht (Human Oversight) gewährleisten
- Registrierung in der EU-Datenbank für Hochrisiko-Systeme
Praxisbeispiel
Ein Softwarehaus, das ein KI-gestütztes Bewerberscreening-Tool vertreibt, gilt als Anbieter eines Hochrisiko-Systems und muss vor Markteintritt eine vollständige Konformitätsbewertung sowie CE-Kennzeichnung vorweisen.
Relevanz für den Mittelstand
Viele mittelständische Unternehmen sind betroffen, auch wenn sie KI nur als Betreiber einsetzen. Wer Hochrisiko-KI eines Drittanbieters im eigenen Betrieb nutzt, übernimmt Pflichten wie die Sicherstellung menschlicher Aufsicht und die Führung von Nutzungsprotokollen. Empfehlenswert ist eine frühzeitige Bestandsaufnahme der eingesetzten KI-Systeme, Klassifizierung nach Risikoklasse und Einbindung der Rechts- und Compliance-Abteilung. Verstöße können mit Bußgeldern bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes geahndet werden.
← Zurück zum Glossar