Startseite› Glossar› AI Acceptable Use Policy

AI Acceptable Use Policy

Englisch: AI Acceptable Use Policy (AI AUP)

AI Acceptable Use Policy Die AI Acceptable Use Policy (AI AUP) ist eine schriftliche, verbindliche Unternehmensrichtlinie, die festlegt, welche KI-Systeme und KI-Tools von welchen Mitarbeitenden, für welche Aufgaben und unter welchen Datenklassifikationsbedingungen genutzt werden dürfen. Sie definiert zugelassene Werkzeuge (Whitelist), unzulässige Nutzungsszenarien sowie Pflichten zur Meldung, Protokollierung und Schulung.

Normative Grundlage: ISO/IEC 42001:2023 Clause 5.2 und Annex A.2; EU AI Act Art. 4 (Verordnung (EU) 2024/1689)

Hintergrund und normative Einordnung

Der Bedarf an einer expliziten AI Acceptable Use Policy entstand mit der massenhaften Verbreitung cloud-basierter Generative-AI-Dienste ab 2022. Vor dieser Entwicklung regelte ein klassischer IT-Nutzungsvertrag den Umgang mit zugelassener Software ausreichend. KI-Tools waren Sonderlösungen einzelner Fachabteilungen. Die Situation hat sich grundlegend verändert: Mitarbeitende greifen heute ohne formale Freigabe auf ChatGPT, Claude, GitHub Copilot oder ähnliche Dienste zu und übermitteln dabei unternehmenskritische Inhalte an externe Provider (Schatten-KI-Phänomen). ISO/IEC 42001:2023 formalisiert das Gegenmittel: Clause 5.2 verlangt, dass die oberste Leitung eine KI-Policy einführt, die den KI-spezifischen Rahmen für die Organisation verbindlich beschreibt. Annex A.2 (Policies Related to AI) konkretisiert dies durch die Anforderung, bestehende Richtlinien auf KI-Relevanz zu prüfen und dedizierte KI-spezifische Policys, darunter eine Nutzungsrichtlinie, zu dokumentieren. Damit hat die AI Acceptable Use Policy erstmals einen zertifizierbaren normativen Anker.

In der deutschen Compliance-Landschaft wird die AI AUP durch mehrere Rechtspflichten untermauert. Artikel 4 EU AI Act (Verordnung (EU) 2024/1689) verpflichtet Deployer, also Unternehmen, die KI-Systeme betreiben oder einsetzen lassen, zu Maßnahmen, die ein ausreichendes Maß an AI Literacy beim Personal sicherstellen. Eine dokumentierte, kommunizierte und geschulte AI AUP ist die organisatorische Minimalmaßnahme zur Erfüllung dieser Pflicht. DSGVO Art. 32 fordert angemessene technische und organisatorische Maßnahmen zum Schutz personenbezogener Daten. Eine AI AUP, die den Umgang mit personenbezogenen Daten in KI-Tools regelt, ist Bestandteil dieser TOMs. Das NIST AI Risk Management Framework 1.0 adressiert die Policy-Anforderung in der GOVERN-Funktion: GOVERN 1.2 verlangt, dass Merkmale vertrauenswürdiger KI in Organisationsrichtlinien integriert werden; GOVERN 2.2 fordert AI-Risikomanagement-Schulungen für Personal und Partner. Welche KI-Tools im eigenen Unternehmen tatsächlich genutzt werden, genehmigt wie ungenehmigt, zeigt die Schatten-KI-Bestandsaufnahme von SECURAM als erster belastbarer Schritt zur strukturierten AI AUP. Die AI AUP verbindet alle diese Anforderungen in einem einzigen Governance-Dokument.

Normative Bezüge:

ISO/IEC 42001:2023 Clause 5.2 (AI Policy) ISO/IEC 42001:2023 Annex A.2 (Policies Related to AI) ISO/IEC 42001:2023 Annex A.9 (Use of AI Systems)

Vorgehen in der Praxis

Die Einführung einer AI Acceptable Use Policy folgt einem strukturierten Vier-Schritte-Prozess, der den Plan-Do-Check-Act-Zyklus nach ISO/IEC 42001:2023 widerspiegelt und die Anforderungen des EU AI Act Art. 4 operationalisiert.

1
Schritt 1: Stakeholder- und Scope-Definition Zunächst werden alle betroffenen Stakeholder identifiziert (IT, Datenschutz, Fachabteilungen, HR, Rechtsabteilung) und der Geltungsbereich der Policy festgelegt. Zu klären ist, welche KI-Klassen abgedeckt werden: Generative-AI-Dienste, KI-Agenten, automatisierte Entscheidungssysteme, KI-Funktionen in bestehenden Softwareprodukten. ISO/IEC 42001:2023 Annex A.3 (Internal Organization) liefert die Grundlage für die Rollenzuordnung. Das Ergebnis ist ein schriftlicher Scope, der den Geltungsbereich eindeutig definiert und mit der übergeordneten AI Policy aus Clause 5.2 konsistent ist.
2
Schritt 2: Datenklassifikation und KI-Tool-Whitelist Im zweiten Schritt wird festgelegt, welche Datenkategorien in welche KI-Tools eingebracht werden dürfen. Grundlage ist die bestehende Datenklassifikation (öffentlich, intern, vertraulich, geheim). Für jede Klassifikationsstufe wird definiert: zugelassene Tools (Whitelist), untersagte Nutzungsszenarien sowie Bedingungen (z. B. nur in Kombination mit einem Unternehmens-Tenant ohne Training-Opt-in). Diese Zuordnung schließt die Compliance-Lücke, die bei einer reinen Tool-Whitelist ohne Datenklassifikationsbezug entsteht. ISO/IEC 42001:2023 Annex A.7 (Data for AI Systems) und Annex A.9 (Use of AI Systems) liefern dafür die normativen Leitlinien.
3
Schritt 3: Schulungs- und Freigabeprozess Die AI AUP entfaltet ihre Wirkung erst durch Schulung und formale Kenntnisnahme. Alle Mitarbeitenden mit KI-Nutzungsrechten müssen nachweislich über den Inhalt der Policy informiert werden. Dies ist zugleich die organisatorische Maßnahme zur Erfüllung der AI-Literacy-Pflicht aus EU AI Act Art. 4 (verbindlich ab 2. August 2025). NIST AI RMF GOVERN 2.2 konkretisiert: Personal und Partner müssen AI-Risikomanagement-Schulungen erhalten, die ihre Aufgaben und die damit verbundenen Richtlinien abdecken. Das Freigabeverfahren regelt, unter welchen Bedingungen neue KI-Tools in die Whitelist aufgenommen werden und wer die Freigabe erteilt (typischerweise IT-Sicherheit und Datenschutz gemeinsam).
4
Schritt 4: Monitoring und Review-Zyklus KI-Tools und deren Risikoprofile verändern sich schnell; eine statische Policy verliert rasch ihre Schutzwirkung. ISO/IEC 42001:2023 folgt dem PDCA-Prinzip: Clause 9 (Performance Evaluation) und Clause 10 (Improvement) verlangen regelmäßige Überprüfung. Praktisch bedeutet dies: halbjährlicher Review der Tool-Whitelist, anlassbezogener Review bei neuen KI-Tools oder Datenpannen sowie jährliche vollständige Überarbeitung. NIST AI RMF GOVERN 1.5 fordert laufendes Monitoring und periodische Überprüfung des Risikomanagementprozesses mit klar definierten Rollen. Der Review-Zyklus ist in der Policy selbst zu verankern und einem Verantwortlichen zuzuordnen.

Eine AI Acceptable Use Policy, die ausschließlich als Tool-Whitelist konzipiert ist und keine Datenklassifikations-Bezüge enthält, verfehlt ihre Schutzfunktion und erfüllt weder die Anforderungen der ISO/IEC 42001:2023 Annex A.2 noch die AI-Literacy-Pflicht nach EU AI Act Art. 4.

Abgrenzung zu verwandten Begriffen

Begriff Fokus Verhältnis zu AI Acceptable Use Policy
IT-Nutzungsvertrag / IT-Nutzungsrichtlinie Regelt die zulässige Nutzung aller IT-Systeme und -Ressourcen im Unternehmen (Hardware, Netzwerk, E-Mail, Internet) in einem generalistischen Rahmen. Die AI AUP ist eine eigenständige, KI-spezifische Ergänzung, nicht ein Anhang, zum IT-Nutzungsvertrag. Beide Dokumente gelten parallel; die AI AUP ist vorrangig bei KI-spezifischen Fragen. Die Verbindung muss in beiden Dokumenten explizit hergestellt werden, um Doppel-Geltung und Widersprüche zu vermeiden.
AI Policy (ISO 42001 Clause 5.2) Strategisches Top-Level-Dokument der obersten Leitung, das die übergeordneten KI-Ziele, Werte und Rahmenbedingungen der Organisation für künstliche Intelligenz definiert. Die AI AUP ist ein operatives Ausführungsdokument unterhalb der AI Policy. Die AI Policy gibt die Richtung vor; die AI AUP übersetzt diese in konkrete Verhaltensregeln für Mitarbeitende. ISO/IEC 42001:2023 Annex A.2 fordert beide Ebenen explizit.
Schatten-KI-Richtlinie Reaktives Instrument, das typischerweise auf das Verbot nicht autorisierter KI-Tools fokussiert, ohne konstruktive Alternativen oder Freigabepfade zu definieren. Die AI AUP ist das konstruktive Gegenstück: Sie ersetzt das reine Verbot durch ein strukturiertes Freigabemodell mit Whitelist, Schulungspflicht und Review-Zyklus und adressiert damit die Ursache von Schatten-KI-Entstehung systematisch.

Typische Fehler und wie ihr sie vermeidet

  • AUP als reine Tool-Whitelist ohne Datenklassifikationsbezug: Viele Organisationen erstellen eine Liste zugelassener KI-Tools, ohne festzulegen, welche Datenkategorien in diese Tools eingebracht werden dürfen. Das Ergebnis ist eine Policy, die scheinbar Kontrolle vermittelt, in der Praxis aber den Transfer vertraulicher Daten an Cloud-Provider nicht verhindert. ISO/IEC 42001:2023 Annex A.7 und A.9 fordern explizit die Verknüpfung von Nutzungsregeln mit dem Datenschutzrahmen der Organisation.
  • Fehlende Verbindung zum IT-Nutzungsvertrag: Wenn AI AUP und IT-Nutzungsvertrag unverbunden nebeneinander existieren, entsteht Unsicherheit über den Vorrang bei Konflikten, über die Sanktionsgrundlage und über den Anwendungsbereich. Mitarbeitende können sich auf Unklarheiten berufen; Datenschutzbehörden bewerten fehlende Konsistenz als mangelnde TOMs (DSGVO Art. 32). Beide Dokumente müssen wechselseitig aufeinander verweisen.
  • Fehlende Sanktionen und unklare Verantwortlichkeiten: Eine Policy ohne Sanktionsmechanismus und ohne namentlich benannte Verantwortliche ist schwer durchsetzbar. NIST AI RMF GOVERN 2.1 fordert dokumentierte Rollen und Kommunikationswege für KI-Risikomanagement. Die AI AUP muss mindestens benennen: wer für die Pflege der Whitelist zuständig ist, welche Konsequenzen bei Verstoß gelten (Disziplinarrecht, Meldepflicht) und an wen Sicherheitsvorfälle zu melden sind.
  • Statische Policy ohne definierten Review-Zyklus: Die KI-Landschaft verändert sich schneller als nahezu jeder andere Technologiebereich. Eine AI AUP ohne datierten Review-Zyklus verliert innerhalb von Monaten ihre Relevanz und Schutzwirkung. ISO/IEC 42001:2023 Clause 9 (Performance Evaluation) und Clause 10 (Improvement) machen regelmäßige Überprüfung zur normativen Pflicht. In der Praxis empfiehlt sich ein halbjährlicher Tool-Whitelist-Review und ein jährlicher vollständiger Policy-Review.

Relevanz im regulatorischen Kontext

Die AI Acceptable Use Policy ist das zentrale organisatorische Instrument zur Erfüllung mehrerer europäischer Rechtspflichten. Artikel 4 der Verordnung (EU) 2024/1689 (EU AI Act) verpflichtet Provider und Deployer von KI-Systemen, hinreichende AI Literacy beim Personal sicherzustellen. Die verbindliche Frist begann am 2. August 2025. Artikel 26 EU AI Act konkretisiert die Deployer-Pflichten: Sicherstellung regelkonformer Nutzung, Schutz personenbezogener Daten, Einhaltung von Protokollierungspflichten. Ohne eine dokumentierte AI AUP fehlt der Nachweis, dass ein Unternehmen diese Pflichten organisatorisch umgesetzt hat. DSGVO Art. 32 fordert technische und organisatorische Maßnahmen (TOMs) zur Datensicherheit. Die Regelung des Umgangs mit personenbezogenen Daten in KI-Tools ist eine direkte Anforderung an die AI AUP.

ISO/IEC 42001:2023 liefert den zertifizierbaren normativen Rahmen: Clause 5.2 verpflichtet die Unternehmensleitung zur Einführung einer übergeordneten AI Policy; Annex A.2 (Policies Related to AI) und Annex A.9 (Use of AI Systems) konkretisieren die Anforderungen an operative Nutzungsrichtlinien. Wer ISO/IEC 42001-Konformität anstrebt, muss die AI AUP als dokumentierten Beweis für Annex A.2 vorhalten. Das BSI empfiehlt in seiner Publikation „Management Blitzlicht — Generative KI für Unternehmen" (2024) explizit die Einführung klarer KI-Leitlinien als eine der grundlegenden Maßnahmen für Unternehmen ohne KI-Vorerfahrung. Für Organisationen, die NIS-2 oder DORA unterliegen, verstärkt sich die Anforderung: Informationssicherheits-Governance ohne KI-spezifische Nutzungsregeln ist angesichts des verbreiteten KI-Einsatzes in operativen Prozessen nicht mehr vollständig.

Häufige Fragen

Was ist der Unterschied zwischen einer AI AUP und einer ISO 42001 AI Policy?
Die AI Policy nach ISO/IEC 42001:2023 Clause 5.2 ist ein strategisches Top-Level-Dokument der Unternehmensleitung, das übergeordnete KI-Ziele, Werte und Rahmenbedingungen festlegt. Die AI Acceptable Use Policy ist ein operatives Ausführungsdokument unterhalb dieser Ebene: Sie richtet sich direkt an Mitarbeitende und übersetzt die strategischen Vorgaben in konkrete Verhaltensregeln, Tool-Listen und Meldepflichten. ISO/IEC 42001:2023 Annex A.2 fordert beide Dokumentenebenen, Policy und operative Nutzungsregeln, explizit. In der Praxis bildet die AI Policy den Überbau, die AI AUP das operative Herzstück der KI-Nutzungsgoverance.
Wer ist in einem Unternehmen für die AI AUP verantwortlich?
ISO/IEC 42001:2023 Clause 5.2 legt die Verantwortung für die AI Policy bei der obersten Leitung; die operative Pflege der AI AUP obliegt typischerweise dem Informationssicherheitsbeauftragten (ISB) oder einem dedizierten AI Officer, gemeinsam mit der Datenschutzbeauftragten und der IT-Abteilung. NIST AI RMF GOVERN 2.3 verlangt, dass die Unternehmensführung ausdrücklich Verantwortung für KI-Risikoentscheidungen übernimmt. In der Praxis empfiehlt sich ein gemeinsames Ownership-Modell: strategische Verantwortung bei der Geschäftsführung, operative Pflege beim ISB, rechtliche Prüfung durch Datenschutz und Recht.
Was passiert, wenn ein Mitarbeitender gegen die AI AUP verstößt (Schatten-KI)?
Ein dokumentierter Verstoß gegen die AI AUP hat mehrere Konsequenzen: arbeitsrechtlich kann er je nach Schwere eine Abmahnung bis hin zur außerordentlichen Kündigung begründen, insbesondere wenn vertrauliche oder personenbezogene Daten an externe KI-Provider übermittelt wurden. Datenschutzrechtlich kann ein solcher Transfer eine meldepflichtige Datenpanne nach DSGVO Art. 33 darstellen (72-Stunden-Frist). Informationssicherheitsseitig kann der Transfer von Geschäftsgeheimnissen gegen das Gesetz zum Schutz von Geschäftsgeheimnissen (GeschGehG) verstoßen. Die AI AUP muss Sanktionen, Meldewege und das Verfahren bei Verdachtsfällen explizit benennen. Andernfalls ist sie als Governance-Instrument nicht vollständig wirksam.

Quellen & weiterführende Literatur

  1. Verordnung (EU) 2024/1689 — Artificial Intelligence Act, Art. 4 (KI-Kompetenz)
  2. ISO/IEC 42001:2023 — Information technology — Artificial intelligence — Management system (Clause 5.2, Annex A.2, A.9)
  3. NIST AI RMF 1.0 (NIST AI 100-1) — Artificial Intelligence Risk Management Framework, GOVERN Function
  4. BSI — Management Blitzlicht: Generative KI für Unternehmen (2024)