AI Acceptable Use Policy
Englisch: AI Acceptable Use Policy (AI AUP)
AI Acceptable Use Policy Die AI Acceptable Use Policy (AI AUP) ist eine schriftliche, verbindliche Unternehmensrichtlinie, die festlegt, welche KI-Systeme und KI-Tools von welchen Mitarbeitenden, für welche Aufgaben und unter welchen Datenklassifikationsbedingungen genutzt werden dürfen. Sie definiert zugelassene Werkzeuge (Whitelist), unzulässige Nutzungsszenarien sowie Pflichten zur Meldung, Protokollierung und Schulung.
Normative Grundlage: ISO/IEC 42001:2023 Clause 5.2 und Annex A.2; EU AI Act Art. 4 (Verordnung (EU) 2024/1689)
Hintergrund und normative Einordnung
Der Bedarf an einer expliziten AI Acceptable Use Policy entstand mit der massenhaften Verbreitung cloud-basierter Generative-AI-Dienste ab 2022. Vor dieser Entwicklung regelte ein klassischer IT-Nutzungsvertrag den Umgang mit zugelassener Software ausreichend. KI-Tools waren Sonderlösungen einzelner Fachabteilungen. Die Situation hat sich grundlegend verändert: Mitarbeitende greifen heute ohne formale Freigabe auf ChatGPT, Claude, GitHub Copilot oder ähnliche Dienste zu und übermitteln dabei unternehmenskritische Inhalte an externe Provider (Schatten-KI-Phänomen). ISO/IEC 42001:2023 formalisiert das Gegenmittel: Clause 5.2 verlangt, dass die oberste Leitung eine KI-Policy einführt, die den KI-spezifischen Rahmen für die Organisation verbindlich beschreibt. Annex A.2 (Policies Related to AI) konkretisiert dies durch die Anforderung, bestehende Richtlinien auf KI-Relevanz zu prüfen und dedizierte KI-spezifische Policys, darunter eine Nutzungsrichtlinie, zu dokumentieren. Damit hat die AI Acceptable Use Policy erstmals einen zertifizierbaren normativen Anker.
In der deutschen Compliance-Landschaft wird die AI AUP durch mehrere Rechtspflichten untermauert. Artikel 4 EU AI Act (Verordnung (EU) 2024/1689) verpflichtet Deployer, also Unternehmen, die KI-Systeme betreiben oder einsetzen lassen, zu Maßnahmen, die ein ausreichendes Maß an AI Literacy beim Personal sicherstellen. Eine dokumentierte, kommunizierte und geschulte AI AUP ist die organisatorische Minimalmaßnahme zur Erfüllung dieser Pflicht. DSGVO Art. 32 fordert angemessene technische und organisatorische Maßnahmen zum Schutz personenbezogener Daten. Eine AI AUP, die den Umgang mit personenbezogenen Daten in KI-Tools regelt, ist Bestandteil dieser TOMs. Das NIST AI Risk Management Framework 1.0 adressiert die Policy-Anforderung in der GOVERN-Funktion: GOVERN 1.2 verlangt, dass Merkmale vertrauenswürdiger KI in Organisationsrichtlinien integriert werden; GOVERN 2.2 fordert AI-Risikomanagement-Schulungen für Personal und Partner. Welche KI-Tools im eigenen Unternehmen tatsächlich genutzt werden, genehmigt wie ungenehmigt, zeigt die Schatten-KI-Bestandsaufnahme von SECURAM als erster belastbarer Schritt zur strukturierten AI AUP. Die AI AUP verbindet alle diese Anforderungen in einem einzigen Governance-Dokument.
Normative Bezüge:
Vorgehen in der Praxis
Die Einführung einer AI Acceptable Use Policy folgt einem strukturierten Vier-Schritte-Prozess, der den Plan-Do-Check-Act-Zyklus nach ISO/IEC 42001:2023 widerspiegelt und die Anforderungen des EU AI Act Art. 4 operationalisiert.
Eine AI Acceptable Use Policy, die ausschließlich als Tool-Whitelist konzipiert ist und keine Datenklassifikations-Bezüge enthält, verfehlt ihre Schutzfunktion und erfüllt weder die Anforderungen der ISO/IEC 42001:2023 Annex A.2 noch die AI-Literacy-Pflicht nach EU AI Act Art. 4.
Abgrenzung zu verwandten Begriffen
| Begriff | Fokus | Verhältnis zu AI Acceptable Use Policy |
|---|---|---|
| IT-Nutzungsvertrag / IT-Nutzungsrichtlinie | Regelt die zulässige Nutzung aller IT-Systeme und -Ressourcen im Unternehmen (Hardware, Netzwerk, E-Mail, Internet) in einem generalistischen Rahmen. | Die AI AUP ist eine eigenständige, KI-spezifische Ergänzung, nicht ein Anhang, zum IT-Nutzungsvertrag. Beide Dokumente gelten parallel; die AI AUP ist vorrangig bei KI-spezifischen Fragen. Die Verbindung muss in beiden Dokumenten explizit hergestellt werden, um Doppel-Geltung und Widersprüche zu vermeiden. |
| AI Policy (ISO 42001 Clause 5.2) | Strategisches Top-Level-Dokument der obersten Leitung, das die übergeordneten KI-Ziele, Werte und Rahmenbedingungen der Organisation für künstliche Intelligenz definiert. | Die AI AUP ist ein operatives Ausführungsdokument unterhalb der AI Policy. Die AI Policy gibt die Richtung vor; die AI AUP übersetzt diese in konkrete Verhaltensregeln für Mitarbeitende. ISO/IEC 42001:2023 Annex A.2 fordert beide Ebenen explizit. |
| Schatten-KI-Richtlinie | Reaktives Instrument, das typischerweise auf das Verbot nicht autorisierter KI-Tools fokussiert, ohne konstruktive Alternativen oder Freigabepfade zu definieren. | Die AI AUP ist das konstruktive Gegenstück: Sie ersetzt das reine Verbot durch ein strukturiertes Freigabemodell mit Whitelist, Schulungspflicht und Review-Zyklus und adressiert damit die Ursache von Schatten-KI-Entstehung systematisch. |
Typische Fehler und wie ihr sie vermeidet
- AUP als reine Tool-Whitelist ohne Datenklassifikationsbezug: Viele Organisationen erstellen eine Liste zugelassener KI-Tools, ohne festzulegen, welche Datenkategorien in diese Tools eingebracht werden dürfen. Das Ergebnis ist eine Policy, die scheinbar Kontrolle vermittelt, in der Praxis aber den Transfer vertraulicher Daten an Cloud-Provider nicht verhindert. ISO/IEC 42001:2023 Annex A.7 und A.9 fordern explizit die Verknüpfung von Nutzungsregeln mit dem Datenschutzrahmen der Organisation.
- Fehlende Verbindung zum IT-Nutzungsvertrag: Wenn AI AUP und IT-Nutzungsvertrag unverbunden nebeneinander existieren, entsteht Unsicherheit über den Vorrang bei Konflikten, über die Sanktionsgrundlage und über den Anwendungsbereich. Mitarbeitende können sich auf Unklarheiten berufen; Datenschutzbehörden bewerten fehlende Konsistenz als mangelnde TOMs (DSGVO Art. 32). Beide Dokumente müssen wechselseitig aufeinander verweisen.
- Fehlende Sanktionen und unklare Verantwortlichkeiten: Eine Policy ohne Sanktionsmechanismus und ohne namentlich benannte Verantwortliche ist schwer durchsetzbar. NIST AI RMF GOVERN 2.1 fordert dokumentierte Rollen und Kommunikationswege für KI-Risikomanagement. Die AI AUP muss mindestens benennen: wer für die Pflege der Whitelist zuständig ist, welche Konsequenzen bei Verstoß gelten (Disziplinarrecht, Meldepflicht) und an wen Sicherheitsvorfälle zu melden sind.
- Statische Policy ohne definierten Review-Zyklus: Die KI-Landschaft verändert sich schneller als nahezu jeder andere Technologiebereich. Eine AI AUP ohne datierten Review-Zyklus verliert innerhalb von Monaten ihre Relevanz und Schutzwirkung. ISO/IEC 42001:2023 Clause 9 (Performance Evaluation) und Clause 10 (Improvement) machen regelmäßige Überprüfung zur normativen Pflicht. In der Praxis empfiehlt sich ein halbjährlicher Tool-Whitelist-Review und ein jährlicher vollständiger Policy-Review.
Relevanz im regulatorischen Kontext
Die AI Acceptable Use Policy ist das zentrale organisatorische Instrument zur Erfüllung mehrerer europäischer Rechtspflichten. Artikel 4 der Verordnung (EU) 2024/1689 (EU AI Act) verpflichtet Provider und Deployer von KI-Systemen, hinreichende AI Literacy beim Personal sicherzustellen. Die verbindliche Frist begann am 2. August 2025. Artikel 26 EU AI Act konkretisiert die Deployer-Pflichten: Sicherstellung regelkonformer Nutzung, Schutz personenbezogener Daten, Einhaltung von Protokollierungspflichten. Ohne eine dokumentierte AI AUP fehlt der Nachweis, dass ein Unternehmen diese Pflichten organisatorisch umgesetzt hat. DSGVO Art. 32 fordert technische und organisatorische Maßnahmen (TOMs) zur Datensicherheit. Die Regelung des Umgangs mit personenbezogenen Daten in KI-Tools ist eine direkte Anforderung an die AI AUP.
ISO/IEC 42001:2023 liefert den zertifizierbaren normativen Rahmen: Clause 5.2 verpflichtet die Unternehmensleitung zur Einführung einer übergeordneten AI Policy; Annex A.2 (Policies Related to AI) und Annex A.9 (Use of AI Systems) konkretisieren die Anforderungen an operative Nutzungsrichtlinien. Wer ISO/IEC 42001-Konformität anstrebt, muss die AI AUP als dokumentierten Beweis für Annex A.2 vorhalten. Das BSI empfiehlt in seiner Publikation „Management Blitzlicht — Generative KI für Unternehmen" (2024) explizit die Einführung klarer KI-Leitlinien als eine der grundlegenden Maßnahmen für Unternehmen ohne KI-Vorerfahrung. Für Organisationen, die NIS-2 oder DORA unterliegen, verstärkt sich die Anforderung: Informationssicherheits-Governance ohne KI-spezifische Nutzungsregeln ist angesichts des verbreiteten KI-Einsatzes in operativen Prozessen nicht mehr vollständig.
Häufige Fragen
Was ist der Unterschied zwischen einer AI AUP und einer ISO 42001 AI Policy?
Wer ist in einem Unternehmen für die AI AUP verantwortlich?
Was passiert, wenn ein Mitarbeitender gegen die AI AUP verstößt (Schatten-KI)?
Quellen & weiterführende Literatur
- Verordnung (EU) 2024/1689 — Artificial Intelligence Act, Art. 4 (KI-Kompetenz)
- ISO/IEC 42001:2023 — Information technology — Artificial intelligence — Management system (Clause 5.2, Annex A.2, A.9)
- NIST AI RMF 1.0 (NIST AI 100-1) — Artificial Intelligence Risk Management Framework, GOVERN Function
- BSI — Management Blitzlicht: Generative KI für Unternehmen (2024)