Die Europäische Union hat mit dem AI Act (Artificial Intelligence Act) Geschichte geschrieben: Es ist das weltweit erste staatenübergreifende Regelwerk, das klare Prioritäten und Standards für den Einsatz künstlicher Intelligenz festlegt. Seit dem 1. August 2024 ist die Verordnung in Kraft – Was das das für Sie als Unternehmer bedeutet, erfahren Sie in diesem Artikel.
Was ist der EU AI Act?
Das KI-Gesetz ist der erste Rechtsrahmen für KI, der sich mit den Risiken von KI befasst.
Die Verordnung verfolgt einen sogenannten risikobasierten Ansatz: je höher das Risiko bei der Anwendung eingeschätzt wird, desto strenger sind auch die Vorgaben.
Die KI-Verordnung teilt KI-Systeme in vier Risikokategorien ein:
1. Inakzeptables Risiko (verboten)
- Social Scoring-Systeme
- Manipulation des Verhaltens vulnerabler Gruppen
- Emotionserkennung am Arbeitsplatz (ohne medizinische/sicherheitsrelevante Gründe)
2. Hohes Risiko
- KI in kritischen Infrastrukturen
- Bildungs- und Berufsbildungssysteme
- Personalmanagement und Recruiting
- Biometrische Identifikationssysteme
3. Begrenztes Risiko
- Chatbots
- Emotionserkennungssysteme
- Deepfakes
- KI-generierte Inhalte
4. Minimales Risiko
- Die meisten KI-Anwendungen (z.B. Spam-Filter, Videospiele)
Der Zeitplan: Welche Teile treten wann in Kraft?
Die Umsetzung erfolgt schrittweise über mehrere Jahre.
Ab 2. Februar 2025 gilt:
- die Vorschrift über das Verbot von KI-Systemen mit inakzeptablem Risiko
- die Bestimmung, Mitarbeitern entsprechende Kompetenz im Umgang mit den eingesetzten KI-Tools zu vermitteln
Ab 2. August 2025 gelten:
- die Verpflichtungen in Bezug auf KI-Modelle mit allgemeinem Verwendungszweck (wie ChatGPT, Claude, etc.)
- Dokumentations- und Informationspflichten für Anbieter von General Purpose AI
- Governance-Regeln
Ab 2. August 2026 gelten:
- Transparenzpflichten für KI-generierte Inhalte
- Vorgaben für Hochrisiko-KI-Systeme (Anhang III)
- Vollständige Sanktionsbefugnisse der Behörden
Ab 2. August 2027 gelten:
- Regelungen für die in Anhang I der KI-Verordnung aufgeführten Hochrisikosysteme
- letzte Übergangsfristen für bereits bestehende Systeme
Was bedeutet das für Sie als Unternehmer?
Bereits verpflichtende Richtlinien
KI-Kompetenz vermitteln: Unternehmen und Organisationen, die KI-Systeme nutzen, müssen sicherstellen, dass Mitarbeiter über ausreichende Kenntnisse im Umgang mit KI verfügen. Das bedeutet:
- Schulung betroffener Mitarbeiter
- Dokumentation der Schulungsmaßnahmen
- Einführung interner Richtlinien zum KI-Einsatz
Verbotene Praktiken prüfen: Stellen Sie sicher, dass Sie keine verbotenen KI-Systeme einsetzen, insbesondere im HR-Bereich.
Wenn Sie KI-Modelle mit allgemeinem Verwendungszweck nutzen oder anbieten:
- technische Dokumentation erstellen
- Transparenzpflichten beachten
- urheberrechtliche Vorgaben einhalten
- bei Systemen mit systemischen Risiken eine Risikobewertung durchführen
Langfristige Planung bis 2026/2027
KI-Inventur durchführen:
- erfassen Sie alle in Ihrem Unternehmen eingesetzten KI-Systeme
- klassifizieren Sie diese nach Risikokategorien
- dokumentieren Sie Einsatzzwecke und betroffene Bereiche
Transparenz vorbereiten:
Künstlich erzeugte oder bearbeitete Inhalte (Audios, Bilder, Videos) müssen eindeutig als solche gekennzeichnet werden (Ausnahme: vorherige Überprüfung und redaktionelle Verantwortung wird übernommen).
Compliance-Maßnahmen für Hochrisiko-KI:
- Risikomanagementsystem aufbauen
- technische Dokumentation vorbereiten
- menschliche Aufsicht sicherstellen
- Konformitätsbewertung planen
Tipps für Unternehmen, die KI einsetzen wollen
- Wählen Sie den richtigen KI-Anbieter: Achten Sie darauf, dass Ihr KI-Anbieter AI Act-konform ist.
- Allgemein erhältliche Systeme wie ChatGPT sind meist konform und diese Verpflichten sich auch zu z.B: https://openai.com/de-DE/global-affairs/a-primer-on-the-eu-ai-act/ oder https://www.anthropic.com/news/eu-code-practice
- Definieren Sie klare Einsatzbereiche: Dokumentieren Sie genau, wofür Sie KI einsetzen wollen. Vermeiden Sie kritische Bereiche wie automatisierte Personalentscheidungen ohne menschliche Überprüfung.
- Etablieren Sie ein KI-Governance-System: Dies kann z.B. durch Ernennen eines KI Beauftragten erfolgen, welcher Richtlinien und Prozesse zur Nutzung von KI Systemen im Unternehmen einführt
- Schulen Sie Ihre Mitarbeiter und dokumentieren Sie dies (z.B. durch Absolvieren einer Schulung).
- Transparenz für Nutzer:
- informieren Sie Kunden / Nutzer proaktiv über KI-Einsatz
- kennzeichnen Sie KI-generierte Inhalte
- setzen Sie bei KI Generierten Inhalten auch eine vorherige menschliche Überprüfung ein
- Achtung bei Datenschutz und Urheberrecht:
- prüfen Sie die DSGVO-Konformität Ihrer KI-Anwendungen
- geben Sie keine Kundendaten in die Online Tools ein bzw prüfen Sie unbedingt davor, ob diese Daten für das Trainieren von Modellen genutzt werden
- dokumentieren Sie entsprechende Nutzung in Ihren Datenschutzbestimmungen
- Starten Sie mit risikoarmen Anwendungen:
- beginnen Sie mit internen Prozessoptimierungen
- sammeln Sie Erfahrungen mit unkritischen Use Cases
- skalieren Sie schrittweise zu komplexeren Anwendungen
Fazit
Mit dem AI Act hat die EU eine umfassende Regulierung über alle Branchen hinweg geschaffen.
Starten Sie unbedingt von Anfang an mit der Compliance und dokumentieren Sie wichtige Schritte.
Wenn Sie Hilfe bei der Umsetzung Ihrer KI-Strategie benötigen, bin Ich Ihnen gerne behilflich.