Die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates, bekannt als AI Act, ist am 1. August 2024 in Kraft getreten, und ihre Pflichten werden schrittweise anwendbar. Die Verbote bestimmter Praktiken und die Pflicht zur KI-Kompetenz gelten seit Februar 2025, die Regeln für KI-Modelle mit allgemeinem Verwendungszweck seit August 2025, die Transparenzpflichten und der Großteil der übrigen Bestimmungen seit dem 2. August 2026. Zwei neue Verbote gelten ab dem 2. Dezember 2026. Die Regeln für Hochrisiko-Systeme hat die Verordnung (EU) 2026/1744, der sogenannte Digital Omnibus, aufgeschoben; sie ist am 27. Juli 2026 in Kraft getreten. Für Systeme nach Anhang III, etwa für die Personalauswahl oder die Bonitätsprüfung, gelten diese Regeln ab dem 2. Dezember 2027, für Systeme, die Bestandteil von Produkten nach Anhang I sind, ab dem 2. August 2028. Die meisten tschechischen Unternehmen haben dennoch bis heute nicht geprüft, ob die Verordnung überhaupt für sie gilt.
Viele Unternehmen gehen nämlich davon aus, der AI Act reguliere nur diejenigen, die künstliche Intelligenz entwickeln. Das stimmt nicht. Die Verordnung erfasst auch sogenannte Betreiber (deployers), also Unternehmen, die KI-Systeme lediglich einsetzen.
¶ Anbieter und Betreiber
Der AI Act unterscheidet zwei zentrale Rollen. Der Anbieter (provider) entwickelt ein KI-System oder lässt es entwickeln und bringt es unter eigenem Namen in Verkehr. Der Betreiber (deployer) nutzt ein KI-System im Rahmen seiner beruflichen Tätigkeit.
Setzt Ihr Unternehmen ein KI-Tool zur Mitarbeiterbewertung, zum Kunden-Scoring, zur automatisierten Kreditentscheidung oder zur Vorauswahl von Bewerbungen ein, ist es Betreiber und hat Pflichten.
Die Rollen können sich zudem überschneiden. Ein Unternehmen, das ein Open-Source-Modell übernimmt, mit eigenen Daten nachtrainiert und intern einsetzt, kann zum Anbieter werden, auch wenn es KI ursprünglich nur „nutzen“ wollte.
¶ Vier Risikostufen: Wo Ihr System einzuordnen ist
Ganz oben stehen die verbotenen Praktiken, also KI-Systeme, die es überhaupt nicht geben darf: Social Scoring von Menschen (eine Bewertung nach ihrem sozialen Verhalten, die zu einer ungerechtfertigten Benachteiligung führt), manipulative Techniken, die Schwächen von Personen ausnutzen, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (außer aus medizinischen oder Sicherheitsgründen) sowie biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken. Für Letztere gelten enge Ausnahmen, etwa die Suche nach Entführungsopfern oder die drohende Gefahr eines Terroranschlags. Diese Verbote gelten seit Februar 2025. Ab dem 2. Dezember 2026 ergänzt die Verordnung (EU) 2026/1744 sie um ein Verbot von KI-Systemen, die ohne Einwilligung der betroffenen Person realistische intime Bilder, Videos oder Tonaufnahmen identifizierbarer Menschen erzeugen, sowie von Systemen, die Material über sexuellen Kindesmissbrauch erzeugen.
Hohes Risiko umfasst KI-Systeme in Bereichen, in denen eine Fehlentscheidung tief in das Leben eines Menschen eingreift. Dazu gehören unter anderem Personalrekrutierung und Mitarbeiterbewertung, Bonitätsprüfung, Zugang zu Bildung, kritische Infrastruktur und Medizinprodukte. Für diese Systeme gelten die strengsten Pflichten, darunter Risikomanagement, Dokumentation, menschliche Aufsicht und Transparenz. Anwendbar sind sie erst ab dem 2. Dezember 2027, bei Medizinprodukten und anderen Produkten nach Anhang I ab dem 2. August 2028.
Begrenztes Risiko betrifft Systeme, die mit Menschen interagieren, typischerweise Chatbots und Content-Generatoren. Die Hauptpflicht ist Transparenz: Nutzer müssen wissen, dass sie mit einer KI kommunizieren oder dass Inhalte KI-generiert sind. Diese Pflichten gelten seit dem 2. August 2026. Anbieter generativer KI-Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, haben für die maschinenlesbare Kennzeichnung der erzeugten Inhalte Zeit bis zum 2. Dezember 2026.
Minimales Risiko umfasst die meisten gängigen Anwendungen, etwa Spamfilter, Empfehlungsalgorithmen in Online-Shops oder Logistikoptimierung. Abgesehen von der allgemeinen Pflicht, die KI-Kompetenz der Mitarbeiter zu fördern, die mit KI arbeiten (Art. 4), stellt der AI Act hier keine besonderen Anforderungen und empfiehlt freiwillige Verhaltenskodizes.
¶ Was jetzt zu tun ist
Aus unserer Praxis empfehlen wir fünf Schritte.
Erfassen Sie die KI-Systeme im Unternehmen. Die meisten Unternehmen wissen nicht, wie viele KI-Tools sie tatsächlich einsetzen, denn dazu zählen auch SaaS-Tools, Cloud-Dienste und Analyseplattformen. Erstellen Sie ein Inventar: Was ist es, wer liefert es, wozu dient es und welche Daten verarbeitet es?
Bestimmen Sie die Risikostufe. Klären Sie für jedes System im Inventar, wohin es gehört. Im Zweifel gehen Sie von der höheren Stufe aus. Eine Unterschätzung kommt teurer als übertriebene Vorsicht.
Benennen Sie eine verantwortliche Person. Der AI Act verlangt nicht ausdrücklich einen „KI-Compliance-Beauftragten“, aber jemand im Unternehmen muss wissen, welche KI-Systeme eingesetzt werden und welche Pflichten daraus folgen. In kleineren Unternehmen kann das der bisherige Compliance-Manager oder Hausjurist sein.
Bereiten Sie die Dokumentation vor. Bei Hochrisiko-Systemen erstellt der Anbieter die technische Dokumentation. Sie als Betreiber müssen das System gemäß der Betriebsanleitung verwenden, die automatisch erzeugten Protokolle mindestens sechs Monate aufbewahren und die betroffenen Mitarbeiter vorab informieren. Eine Grundrechte-Folgenabschätzung müssen öffentliche Stellen, private Einrichtungen, die öffentliche Dienste erbringen, und jeder durchführen, der KI zur Kreditwürdigkeitsprüfung natürlicher Personen oder zur Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung einsetzt. Diese Pflichten gelten ab dem 2. Dezember 2027. Auch bei Systemen mit geringerem Risiko lohnt es sich festzuhalten, warum und wie das Unternehmen KI einsetzt, zumindest für den Fall einer Prüfung oder eines Rechtsstreits.
Stellen Sie die menschliche Aufsicht sicher. Bei Hochrisiko-Systemen muss ein Mensch tatsächlich in die Entscheidungen der KI eingreifen können. Eine automatisierte Entscheidung, die sich nicht überprüfen lässt, ist nach dem AI Act ebenso problematisch wie nach der DSGVO.
¶ Warum der AI Act eine Chance ist
Ich höre oft, der AI Act sei eine weitere regulatorische Belastung. In gewisser Hinsicht stimmt das.
Die Vorbereitung darauf zeigt einem Unternehmen aber, wie es selbst funktioniert. In der Praxis sehen wir, dass sie Ineffizienzen, Doppelarbeit und Risiken aufdeckt, von denen die Geschäftsleitung nichts wusste.
Für Unternehmen mit internationalen Ambitionen wird die Einhaltung des AI Act zudem ein Wettbewerbsvorteil. Bei der DSGVO war es genauso: Wer sie von Anfang an ernst genommen hat, muss heute nichts hektisch nachholen, und wer abgewartet hat, kämpft bis heute mit den Folgen.
Beim AI Act wird es ähnlich sein, und ein Teil der Pflichten gilt bereits. Ein Unternehmen, das sich jetzt vorbereitet, hat im Dezember 2027, wenn die Pflichten für Hochrisiko-Systeme greifen, einen Vorsprung vor denen, die sich erst nach der ersten behördlichen Prüfung mit dem AI Act befassen.
Wenn Sie unsicher sind, ob und wie der AI Act für Ihr Unternehmen gilt, sprechen Sie uns an. Ein Audit der KI-Systeme dauert Tage, nicht Monate, und die Verordnung zu ignorieren kann ein Vielfaches kosten. Betrifft der AI Act auch Ihre Lieferantenverträge, lesen Sie auch Fünf Vertragsklauseln, die niemand liest. Viele Pflichten landen nämlich in Auftragsverarbeitungsklauseln und Werkverträgen.
Setzen Sie KI-Tools in Ihrem Unternehmen ein und müssen wissen, ob und wie der AI Act für Sie gilt? In unserer Risikopräventionspraxis auditieren wir Ihre KI-Systeme und zeigen, wie Sie die bereits geltenden Pflichten erfüllen und sich auf die ab Dezember 2027 geltenden vorbereiten. Nehmen Sie Kontakt auf.
¶ Häufige Fragen
Gilt der AI Act auch für ein Unternehmen, das KI nur nutzt?
Ja. Die Verordnung verpflichtet auch Betreiber, also jeden, der ein KI-System beruflich einsetzt, etwa zur Mitarbeiterbewertung, zum Kunden-Scoring oder zur Vorauswahl von Bewerbungen.
Können wir Anbieter eines KI-Systems werden, obwohl wir es nicht selbst entwickelt haben?
Ja, das ist möglich. Wer ein Open-Source-Modell mit eigenen Daten nachtrainiert und intern einsetzt, kann zum Anbieter werden, auch wenn er KI eigentlich nur nutzen wollte.
Welche KI-Praktiken sind vollständig verboten?
Unter anderem Social Scoring von Menschen, also eine Bewertung nach ihrem sozialen Verhalten, die zu einer ungerechtfertigten Benachteiligung führt, manipulative Techniken, die Schwächen von Personen ausnutzen, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (außer aus medizinischen oder Sicherheitsgründen) sowie biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, mit engen Ausnahmen. Diese Verbote gelten seit Februar 2025. Ab dem 2. Dezember 2026 kommt ein Verbot von KI-Systemen hinzu, die ohne Einwilligung realistische intime Inhalte identifizierbarer Personen erzeugen, sowie von Systemen, die Material über sexuellen Kindesmissbrauch erzeugen.
Welche Pflichten hat ein Unternehmen, das einen Chatbot oder Content-Generator einsetzt?
Vor allem Transparenz. Nutzer müssen wissen, dass sie mit einer KI kommunizieren oder dass Inhalte KI-generiert sind; der AI Act ordnet solche Systeme dem begrenzten Risiko zu. Diese Pflichten gelten seit dem 2. August 2026. Anbieter generativer KI-Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, haben für die maschinenlesbare Kennzeichnung der erzeugten Inhalte Zeit bis zum 2. Dezember 2026.
Braucht ein Unternehmen wegen des AI Act einen eigenen KI-Compliance-Beauftragten?
Ausdrücklich verlangt die Verordnung das nicht. Jemand im Unternehmen muss aber den Überblick über die eingesetzten KI-Systeme und die daraus folgenden Pflichten haben; in kleineren Unternehmen kann das der Compliance-Manager oder Hausjurist sein. Seit Februar 2025 muss das Unternehmen außerdem Maßnahmen zur Förderung der KI-Kompetenz der Mitarbeiter ergreifen, die mit KI arbeiten.
Was verlangt der AI Act bei Hochrisiko-KI-Systemen?
Der Anbieter muss Risikomanagement, technische Dokumentation und die automatische Protokollierung des Systembetriebs sicherstellen. Der Betreiber muss das System gemäß der Betriebsanleitung verwenden, die menschliche Aufsicht kompetenten Personen übertragen, die automatisch erzeugten Protokolle mindestens sechs Monate aufbewahren und betroffene Mitarbeiter vorab informieren. Eine Grundrechte-Folgenabschätzung müssen nur öffentliche Stellen, private Einrichtungen, die öffentliche Dienste erbringen, und diejenigen durchführen, die KI zur Kreditwürdigkeitsprüfung natürlicher Personen oder zur Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung einsetzen. Diese Pflichten gelten ab dem 2. Dezember 2027, bei Produkten nach Anhang I ab dem 2. August 2028.