EU AI Act: Welche KI-Anwendungen seit Februar 2025 verboten sind

Seit dem 2. Februar 2025 gilt Artikel 5 der Verordnung (EU) 2024/1689, der erste verbindliche Abschnitt des EU AI Act. Er benennt acht KI-Praktiken, die in der Europäischen Union schlicht unzulässig sind. Kein Übergangszeitraum, keine Ausnahmeregelung für bestehende Systeme. Die Praxis zeigt bereits: Etliche Unternehmen haben diesen Stichtag unterschätzt.

Der Rechtsrahmen: Warum Art. 5 früher gilt als der Rest

Der EU AI Act trat am 1. August 2024 in Kraft. Er folgt einem gestaffelten Anwendungsplan: Verbote seit Februar 2025, Regeln für Hochrisiko-KI ab August 2026, Gesamtregelwerk vollständig ab August 2027 (Art. 113 VO (EU) 2024/1689).

Art. 5 nimmt dabei eine Sonderstellung ein. Die EU-Kommission stuft die dort erfassten Praktiken als so gravierend ein, dass sie keinen längeren Vorlauf rechtfertigten. Erwägungsgrund 43 nennt als Leitlinie: KI darf menschliche Autonomie weder untergraben noch die Würde des Einzelnen kompromittieren. Das ist keine Absichtserklärung. Es ist der Maßstab, an dem Aufsichtsbehörden Systeme messen.

Für Unternehmen, die KI im Personalbereich, im Marketing oder im Kundenmanagement einsetzen, ist das unmittelbar relevant. Der Mittelstand hat bislang eher auf die Hochrisiko-Regeln geschaut. Art. 5 lief dabei häufig unter dem Radar.

Die acht EU AI Act verbotenen Anwendungen nach Art. 5 Abs. 1

Die Verbote sind nicht als vage Grundsätze formuliert. Art. 5 Abs. 1 lit. a bis h listet konkrete Verhaltensweisen auf. Eine Übersicht mit je einem Praxisbezug:

(a) Manipulative Techniken unterhalb der Wahrnehmungsschwelle

Verboten sind KI-Systeme, die Techniken einsetzen, welche Personen unterschwellig oder täuschend beeinflussen, sodass sie Entscheidungen treffen, die sie bewusst nicht treffen würden. Gemeint sind etwa dynamische Preisgestaltungssysteme, die Kaufentscheidungen über wahrnehmungsfremde Reize erzwingen.

(b) Ausnutzung von Vulnerabilitäten

Systeme, die gezielt Schwächen bestimmter Gruppen ausnutzen, etwa ältere Menschen, Menschen mit Behinderungen oder Personen in wirtschaftlicher Notlage, fallen unter dieses Verbot. Ein Kreditscoring-Tool, das notleidende Schuldner mit gezielten Angeboten zu Hochzinsverträgen drängt, wäre ein klarer Fall.

(c) Social Scoring mit breiter gesellschaftlicher Wirkung

Das Scoring von Personen durch öffentliche Behörden oder private Akteure, wenn es zu einer allgemeinen Verhaltens- oder Vertrauensbewertung führt, ist untersagt. Das chinesische Sozialkredit-System diente als warnendes Referenzmodell für diese Norm.

(d) Kriminalitätsrisikoprognosen auf reiner Profilbasis

KI-gestützte Risikoeinschätzungen für Straftaten, die sich ausschließlich auf Profiling-Merkmale stützen, also ohne konkretes Verhalten der betroffenen Person, sind verboten. Prädiktive Polizeiarbeit nach diesem Muster ist in der EU nicht mehr zulässig.

(e) Ungezieltes Scraping von Gesichtsdaten

Der Aufbau oder die Erweiterung von Gesichtserkennungsdatenbanken durch ungezielte Massenerfassung aus dem Internet oder aus Videoüberwachungssystemen ist untersagt. Systeme wie Clearview AI, die Milliarden von Fotos ohne Zustimmung indexierten, sind das Paradebeispiel.

(f) Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen

KI, die Emotionen von Beschäftigten oder Schülerinnen und Schülern in diesen Kontexten erkennt, ist grundsätzlich verboten. Ausgenommen sind medizinische oder sicherheitsrelevante Anwendungen. Die Hürde dafür ist allerdings hoch. HR-Tools, die aus Mimik oder Stimmlage auf Arbeitsmotivation schließen, fallen direkt unter das Verbot.

(g) Biometrische Kategorisierung nach sensiblen Attributen

Systeme, die Personen anhand biometrischer Daten nach Rasse, politischer Überzeugung, Religion, sexueller Orientierung oder ähnlichen Merkmalen kategorisieren, sind verboten. Das gilt unabhängig davon, ob das System öffentlich oder intern genutzt wird.

(h) Biometrische Echtzeit-Fernidentifikation im öffentlichen Raum durch Strafverfolgungsbehörden

Der Einsatz von Echtzeit-Gesichtserkennung im öffentlichen Raum durch Strafverfolgungsbehörden ist grundsätzlich untersagt. Art. 5 Abs. 1 lit. h sieht enge Ausnahmen vor, etwa bei der gezielten Suche nach vermissten Kindern oder bei konkreten Terrorverdachtsfällen (Art. 5 Abs. 2). Diese Ausnahmen unterliegen vorheriger Genehmigungspflicht.

Wo der Mittelstand ungewollt in Grauzonen gerät

Die Verbote klingen auf den ersten Blick weit entfernt von der Realität eines produzierenden Unternehmens im deutschen Mittelstand. Das täuscht freilich.

HR-Software mit Stimmungsanalyse: Mehrere Anbieter von Videointerviewplattformen haben in den Jahren 2022 bis 2024 Emotionserkennungsfunktionen eingebaut, teils als optionales Feature, teils als Standard. Wer diese Systeme noch betreibt, hat seit Februar 2025 ein Problem. Lit. f ist eindeutig.

Kundensegmentierung mit Vulnerabilitätsmerkmalen: Marketing-Automatisierungstools, die Personas nach wirtschaftlicher Situation segmentieren und gezielt vulnerable Gruppen mit aggressiveren Angeboten bespielen, bewegen sich in unmittelbarer Nähe zu lit. b. Ob ein konkretes System die Schwelle überschreitet, hängt von der Konfiguration ab, nicht allein vom Produktnamen des Anbieters.

Internes Mitarbeiter-Monitoring: Systeme, die Produktivität über Verhaltensanalyse messen und dabei Stimmung oder emotionale Zustände ableiten, berühren lit. f. Auch wenn viele Anbieter solche Features als Engagement-Analytics vermarkten.

Drittanbieter-Verantwortung: Art. 5 richtet sich nicht nur an KI-Entwickler. Betreiber, also Unternehmen, die KI-Systeme einsetzen, haften für deren Einsatz. Wer ein Tool eines US-amerikanischen Anbieters nutzt, ist nicht automatisch schutzlos, aber auch nicht automatisch compliant.

Sanktionen und Aufsicht

Art. 99 VO (EU) 2024/1689 sieht für Verstöße gegen Art. 5 die schärfsten Strafen des gesamten Regelwerks vor: bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Für einen mittelständischen Maschinenbauer mit 200 Millionen Euro Umsatz wäre das theoretisch ein 14-Millionen-Euro-Risiko.

Zuständig für die Aufsicht sind in Deutschland die noch einzurichtenden nationalen Marktüberwachungsbehörden. Die Bundesnetzagentur ist als koordinierende Stelle vorgesehen; die genaue Behördenzuständigkeit ist noch in Abstimmung (Stand: Februar 2025). Auf EU-Ebene hat das AI Office bei der Kommission die übergreifende Rolle.

Zu ersten formellen Durchsetzungsverfahren unter Art. 5 lagen bis Redaktionsschluss keine öffentlich bestätigten Fälle vor. Mehrere europäische Datenschutzbehörden, darunter die CNIL in Frankreich und die Garante in Italien, haben freilich bereits Untersuchungen zu biometrischen KI-Systemen eingeleitet, die inhaltlich an die Verbotskategorien heranreichen. Ob diese Verfahren formal auf den AI Act oder die DSGVO gestützt werden, dürfte in den kommenden Monaten klarer werden.

Von Verbot zur Struktur: EU AI Act verbotene Anwendungen im AIMS verankern

Ein Verbot zu kennen ist nicht dasselbe wie sicherstellen zu können, dass man es einhält. Genau hier liegt das praktische Problem vieler Unternehmen heute: Sie wissen, dass Art. 5 gilt, aber sie haben keine Übersicht darüber, welche KI-Systeme intern und über Drittanbieter im Einsatz sind.

ISO 42001 adressiert genau das. Die Norm fordert eine systematische Bestandsaufnahme aller KI-Systeme, eine Risikoklassifikation und klare Verantwortlichkeiten. Ein nach ISO 42001 aufgebautes AI Management System (AIMS) liefert die Strukturen, um:

• alle eingesetzten KI-Anwendungen zu erfassen und zu dokumentieren,
• sie anhand des Verbotskatalogs nach Art. 5 zu prüfen,
• Hochrisiko-relevante Systeme für die ab August 2026 geltenden Anforderungen vorzubereiten,
• und gegenüber Aufsichtsbehörden Compliance-Nachweise führen zu können.

Wer ein AIMS aufbaut, sollte dabei die Schnittstellen zur bestehenden ISMS-Infrastruktur berücksichtigen. Unser Beitrag zu ISMS nach ISO 27001 zeigt, wie die beiden Managementsysteme zusammenspielen. Den Normvergleich von ISO 27001 und ISO 42001 behandeln wir in einem separaten Beitrag.

Das AIMS ist kein Selbstzweck. Es ist die Antwort auf eine regulatorische Frage, die heute schon gestellt wird.

FAQ: EU AI Act verbotene Anwendungen

Darf ich CV-Screening-KI noch einsetzen?

Das kommt auf die Funktion an. Systeme, die Lebensläufe nach Qualifikationsmerkmalen strukturieren, sind grundsätzlich zulässig. Sie fallen unter Art. 6 als Hochrisiko-KI (Anhang III, Nr. 4 lit. a), für die ab August 2026 besondere Anforderungen gelten. Verboten nach Art. 5 sind sie nicht, solange sie keine Emotionserkennung, keine biometrische Kategorisierung und kein Profiling nach sensiblen Attributen betreiben. Wichtig: Wer solche Systeme heute einsetzt, sollte prüfen, welche Features der Anbieter aktiviert hat.

Was gilt für bereits im Einsatz befindliche Systeme?

Art. 5 kennt keine Bestandsschutzklausel. Ein System, das am 1. Februar 2025 eine verbotene Praxis ausgeführt hat, verstieß ab dem 2. Februar gegen geltendes EU-Recht. Eine Übergangszeit existiert nicht. Betreiber müssen unzulässige Funktionen deaktivieren oder die Systeme abschalten.

Wer überwacht die Verbote in Deutschland?

Die genaue Behördenstruktur ist im April 2026 noch in Entstehung. Die Bundesnetzagentur hat eine koordinierende Rolle; die Zuständigkeit für bestimmte Sektoren (Finanzen, Gesundheit, Beschäftigung) dürfte bei den jeweiligen Fachaufsichtsbehörden liegen. Das AI Office der EU-Kommission übernimmt die übergreifende Koordination, insbesondere bei systemischen Risiken.

Ab wann gelten die anderen Vorschriften, etwa für Hochrisiko-KI?

Für Hochrisiko-KI-Systeme nach Anhang III (u. a. HR, kritische Infrastruktur, Bildung, Strafverfolgung) gelten die Pflichten ab dem 2. August 2026 (Art. 113 Abs. 1 lit. b VO (EU) 2024/1689). Systeme, die bereits vor dem Inkrafttreten in Betrieb waren, erhalten unter bestimmten Voraussetzungen eine Auslauffrist bis 2027.

Was ist der Unterschied zur DSGVO?

DSGVO schützt personenbezogene Daten im Verarbeitungsprozess. Der EU AI Act reguliert KI-Systeme als solche, unabhängig davon, ob sie personenbezogene Daten verarbeiten oder nicht. Beide Regelwerke können gleichzeitig greifen. Ein verbotenes Emotionserkennungssystem verstößt gegen Art. 5 AI Act und, bei Verarbeitung personenbezogener Daten ohne Rechtsgrundlage, zugleich gegen Art. 6 DSGVO. Für Unternehmen heißt das konkret, dass Compliance-Prüfungen beide Regelwerke gleichzeitig im Blick haben müssen.