Editorial
Willkommen zur achten Ausgabe des KI-Security Briefing. Die europĂ€ische KI-Regulierung befindet sich in einer Phase politischer Nachsteuerung: Die Omnibus-Einigung vom 7. Mai 2026 sieht Vereinfachungen und Fristanpassungen vor, hebt den Handlungsbedarf aber nicht auf. Transparenzpflichten nach Art. 50 AI Act, GPAI-bezogene Anforderungen und die Vorbereitung auf Hochrisiko-Klassifikationen bleiben fĂŒr Unternehmen prĂŒfungsrelevant.
Parallel verschiebt sich die technische Lage. Neue Modellgenerationen, agentische Plattformen und KI-nahe Sicherheitsmechanismen machen Modellkarten, Datenresidenz, Berechtigungsmodelle, Protokollierung, Kostenkontrolle und Anbieter-Nachweise zu zentralen Beschaffungskriterien. KI wird damit von einem Werkzeug im Fachbereich zu einer regulierten Betriebsressource im IT- und Compliance-Stack.
Zugleich erreichen Prompt Injection, Shadow AI, Agenten-Workflows und KI-bezogene SaaS-Risiken die Ebene prĂŒfbarer Kontrollen. Die Zahlen aktueller Studien sind methodisch unterschiedlich zu bewerten; ihr gemeinsamer Befund ist eindeutig: KI-Sicherheit gehört in ISMS, AIMS, Incident Response und Procurement.
Diese Ausgabe ordnet sieben Themen-Cluster mit Fokus auf Fristen, Rollen, Nachweise und ManagementmaĂnahmen ein. Nutzen Sie die Tag-Filter, um gezielt nach Governance, Security oder Enterprise-Themen zu navigieren. Ich freue mich ĂŒber Ihre RĂŒckmeldungen per E-Mail.
Ihr
Florian Priegnitz
Information Security Consultant | ISO 27001 Lead Implementer
SECURAM Consulting GmbH
Themen dieser Ausgabe
01 EU AI Act im Umbruch: Omnibus-Verschiebung
02 Internationale Regulierungswelle: China verschÀrft anthropomorphe KI
03 Frontier-Modellgeneration: Claude Opus 4.7
04 Agentische KI wird Default: Google I/O 2026 hebt Antigravity
05 KI-Kosten als Betriebsrisiko: Anthropic
06 Operative AI-Risiken: Prompt Injection
07 SouverÀnitÀt und Beschaffungsstandards: BSI C3A
08 Hintergrund: KI, MenschenwĂŒrde und Verantwortung
đ·ïž Filter nach Thema
EU AI Act im Umbruch: Omnibus-Vereinfachung, Art.-50-Transparenzpflichten und Hochrisiko-Leitlinien
Der EU AI Act wird durch die Omnibus-Diskussion politisch nachjustiert, bleibt aber fĂŒr Unternehmen operativ relevant. Entscheidend ist die Trennung zwischen vorlĂ€ufiger politischer Einigung, finalem Rechtsakt, LeitlinienentwĂŒrfen und bereits vorzubereitenden Pflichten. Art.-50-Transparenz, GPAI-Nachweise und die Klassifikation potenzieller Hochrisiko-Systeme gehören weiterhin in die AI-Act-Roadmap.
Die KommissionsentwĂŒrfe zu Art. 50 und zur Hochrisiko-Klassifikation liefern bereits jetzt belastbare PrĂŒfraster, auch wenn sie noch nicht die QualitĂ€t eines finalen Leitlinienstands haben. Unternehmen sollten daher nicht auf eine vermeintliche regulatorische Pause setzen, sondern KI-Inventar, Anbieterunterlagen, Transparenztexte und Fristenmatrix aktualisieren.
- PrĂŒfen: KI-Inventar nach Art.-50-Relevanz, GPAI-AbhĂ€ngigkeiten und potenzieller Hochrisiko-Einstufung strukturieren.
- Nachweis: Anbieterunterlagen, Modellumfang, Sicherheits- und Compliance-Dokumentation sowie KlassifikationsbegrĂŒndung je System hinterlegen.
- Regulatorischer Bezug: AI Act mit Art. 50, GPAI-Pflichten und Hochrisiko-Klassifikation; DSGVO bei personenbezogenen Daten; NIS2 nur bei entsprechendem Sektorbezug.
Internationale Regulierungswelle: China, Vereinigtes Königreich und CNIL schÀrfen KI-Vorgaben nach
China, das Vereinigte Königreich und die CNIL konkretisieren 2026 KI-Vorgaben fĂŒr besonders sensible Nutzungsszenarien. Im Mittelpunkt stehen anthropomorphe und emotional interaktive Dienste, MinderjĂ€hrigenschutz, automatisierte Entscheidungen, Deepfakes, Cyberrisiken und Trainingsdaten aus öffentlich zugĂ€nglichen Quellen.
FĂŒr DACH-Unternehmen ist daraus vor allem die Szenario-PrĂŒfung relevant: Marktbezug, Zielgruppe, Datenkategorie und Interaktionsdesign entscheiden ĂŒber den Compliance-Aufwand. Berechtigtes Interesse beim Web-Scraping bleibt eine dokumentationspflichtige EinzelfallabwĂ€gung, kein pauschaler Freibrief fĂŒr Trainingsdatenprojekte.
- PrĂŒfen: Drittland-Marktexposition, jugendnahe Dienste, Avatar- und Likeness-Funktionen, ADM-Prozesse und Web-Scraping-Projekte identifizieren.
- Nachweis: Drittland-Compliance-Matrix, AI-DPIA, Einwilligungslogik, MinderjÀhrigenschutz und InteressenabwÀgung nach Art. 6 Abs. 1 lit. f DSGVO dokumentieren.
- Regulatorischer Bezug: Chinesische Vorgaben fĂŒr anthropomorphe KI, UK-Code-of-Practice-Verfahren, CNIL/DSGVO; AI Act und DSA je nach System- und Plattformkontext.
- Global Times/Xinhua: China issues interim measures to regulate AI anthropomorphic services
- Hogan Lovells: Chinaâs Interim Measures for Anthropomorphic AI Interaction Services
- UK Legislation: SI 2026/425
- ICO: Five steps to protect your organisation from AI-powered cyber threats
- CNIL: KI-Entwicklung, Web-Scraping und berechtigtes Interesse
- CNIL/VYV: IA conversationnelle et santé mentale des jeunes
Frontier-Modellgeneration: Claude Opus 4.7, GPT-5.5, Gemini 3.5 und Gemma 4 erhöhen den PrĂŒfbedarf
Neue Modellgenerationen von Anthropic, OpenAI und Google verschieben den PrĂŒfbedarf von reinen Leistungsbenchmarks zu Beschaffung, Sicherheit und Governance. Model Cards, Safety Reports, Datenresidenz, Lizenzbedingungen, Provenance-Funktionen, Tokenkosten und regionale Verarbeitung werden zu zentralen Bewertungskriterien.
FĂŒr produktive Workloads sollte ein Modellwechsel wie eine relevante Ănderung der Systemarchitektur behandelt werden. Anbieterangaben zu Safeguards oder Frontier-Safety ersetzen keine eigene PrĂŒfung; sie sind Due-Diligence-Artefakte, die mit Tests, VertrĂ€gen und Freigabeentscheidungen verbunden werden mĂŒssen.
- PrĂŒfen: Eingesetzte Modellversionen, API-Preise, Datenresidenzoptionen, Lizenzbedingungen, Provenance-Funktionen und Integrationspfade aktualisieren.
- Nachweis: Modellvergleichsmatrix mit TCO-Szenarien, Safety-Unterlagen, Datenresidenz-Mapping und dokumentierter Freigabe pro Workload fĂŒhren.
- Regulatorischer Bezug: AI Act bei GPAI-, Transparenz- oder Hochrisiko-Bezug; DSGVO bei personenbezogenen Daten und besonderen Kategorien; NIS2, CRA und DORA kontextabhÀngig.
Agentische KI wird Plattformthema: Governance, Tool-Zugriffe und Entwickler-Workflows rĂŒcken zusammen
Agentische KI wird zum Plattformthema. Google und andere Anbieter verlagern Agenten, Tool-Zugriffe, Coding-Workflows und Browser-Schnittstellen in Enterprise-Stacks. Damit entstehen neue Kontrollfragen: Welche IdentitÀt hat ein Agent, welche Tools darf er nutzen, welche Daten sieht er und welche Aktionen benötigen Freigabe?
FĂŒr Unternehmen ist nicht die einzelne ProduktankĂŒndigung entscheidend, sondern die Beherrschbarkeit der Laufzeit. Agent Registry, Least Privilege, Tool-Aufruf-Logging, DLP, Secrets-Schutz, Freigabeprozesse und Kill-Switches mĂŒssen vor dem Rollout definiert sein; nachtrĂ€gliche Betriebsanweisungen reichen bei agentischen Workflows nicht aus.
- PrĂŒfen: Agenten-Workloads, Workspace- und Cloud-Connectoren, Coding-Agenten, WebMCP-nahe Schnittstellen, CI/CD-Integrationen und Schreibrechte erfassen.
- Nachweis: Agenten-Governance-Framework mit Identity, Berechtigungsmatrix, Tool-Inventar, Logging, DLP-Regeln und getesteten Abschaltmechanismen etablieren.
- Regulatorischer Bezug: AI Act nur kontextabhÀngig; DSGVO bei personenbezogenen Daten; NIS2, CRA und DORA bei kritischen, produkt- oder finanznahen Einsatzszenarien.
KI-Kosten als Betriebsrisiko: Nutzungsbasierte Modelle, Bundles und CLI-Migrationen verÀndern die TCO
KI-Kosten entwickeln sich von planbaren Seat-GebĂŒhren zu variablen BetriebsaufwĂ€nden. Tokenverbrauch, Agentenlaufzeiten, Kontextfenster, Zusatzcredits, regionale Verarbeitung, Coding-ZugĂ€nge und Plattform-Bundles machen TCO-Kalkulationen komplexer und anfĂ€lliger fĂŒr Fehlsteuerung.
Die Anbieterbewegungen bei Anthropic, Microsoft, Google und OpenAI zeigen ein gemeinsames Muster: Ein scheinbar gĂŒnstiger Zugang kann durch Verbrauch, Bundle-Zwang, Credit-Ablauf oder Migration teurer werden. KI-Beschaffung braucht deshalb Budget-Caps, Renewal-Transparenz, Workload-Mapping und Plan-B-Szenarien.
- PrĂŒfen: Seat-Typen, API-Preise, Credit-Regeln, Renewal-Termine, regionale Verarbeitung, Agentenlaufzeiten und betroffene Coding-Workflows erfassen.
- Nachweis: TCO-Matrix pro Anbieter und Workload, Budget-Alarme, Verbrauchs-Caps, Migrationsplan und Verhandlungsliste fĂŒr Renewals dokumentieren.
- Regulatorischer Bezug: PrimÀr Beschaffung und Vertragssteuerung; DSGVO bei Anbieterwechsel, Protokolldaten oder Drittlandtransfer; NIS2/DORA bei regulierten Betriebsumgebungen.
Operative AI-Risiken: Prompt Injection, Shadow AI und Agenten-Incidents erreichen die Kontrollpraxis
Prompt Injection, Shadow AI und unbekannte Agenten werden zu prĂŒfbaren Betriebsrisiken. Die Studienlage ist methodisch heterogen, zeigt aber dieselbe Richtung: KI-Systeme nehmen externe Inhalte auf, rufen Tools auf und handeln unter technischen oder menschlichen IdentitĂ€ten. Dadurch reichen klassische E-Mail-, Endpoint- und SIEM-Perspektiven nicht mehr aus.
Besonders kritisch sind RAG-Systeme, Browser-Agenten, Coding-Agenten, SaaS-Agenten und Automatisierungen mit Schreibrechten. Sicherheitskontrollen mĂŒssen deshalb Daten- und Instruktions-Trennung, Guardrails, Tool-Aufruf-Logging, Prompt-Injection-Tests, Incident-Response-Playbooks und Kill-Switches umfassen.
- PrĂŒfen: KI- und Agenten-Inventar einschlieĂlich Shadow AI, RAG-Quellen, Service Accounts, Connectoren und Tool-Rechte aktualisieren.
- Nachweis: ISMS-Risikoregister, Prompt-Injection-TestfÀlle, Guardrail-Policies, Tool-Logs, IR-Playbook und getestete Kill-Switches vorhalten.
- Regulatorischer Bezug: DSGVO Art. 32, 33 und 34 bei personenbezogenen Daten; AI Act in Hochrisiko- oder GPAI-Kontexten; NIS2, CRA und DORA je nach Einsatzumfeld.
SouverÀnitÀt und Beschaffungsstandards: BSI C3A, NIST-Profil, Anthropic RSP und Android-InteroperabilitÀt
SouverĂ€nitĂ€t wird zu einem harten Beschaffungskriterium fĂŒr KI- und Cloud-Dienste. BSI C3A, NIST-Profil, Anthropic RSP, Provenance-Initiativen und das DMA-Verfahren zu Android zeigen: Preis und Funktion reichen als Auswahlkriterien nicht mehr aus. Entscheidend sind Kontrolle, PortabilitĂ€t, Datenresidenz, Auditierbarkeit und InteroperabilitĂ€t.
Unternehmen sollten C3A, Anbieter-Governance-Dokumente und Provenance-Mechanismen als Beschaffungsnachweise nutzen, aber nicht mit RechtskonformitĂ€t verwechseln. EU-VerfĂŒgbarkeit, Supportzugriffe, Unterauftragsverarbeiter, Transfermechanismen und tatsĂ€chliche Modellregionen mĂŒssen pro Workload und Vertrag geprĂŒft werden.
- PrĂŒfen: Cloud- und KI-VertrĂ€ge, Datenresidenz, Supportzugriffe, Subprozessoren, PortabilitĂ€t, Provenance-Funktionen und mobile PlattformabhĂ€ngigkeiten bewerten.
- Nachweis: Beschaffungs-Checkliste mit C3A-Bezug, Datenresidenz-Matrix, Anbieter-Due-Diligence, Provenance-PrĂŒfplan und Exit-Bewertung fĂŒhren.
- Regulatorischer Bezug: AI Act Art. 50 und GPAI je nach Nutzung; DSGVO Art. 28, 32 und 44 ff.; NIS2, CRA, DORA und DMA bei entsprechendem Kontext.
- BSI: C3A â SouverĂ€nitĂ€tskriterien fĂŒr Cloud-Dienste
- NIST: AI RMF Profile for Trustworthy AI in Critical Infrastructure
- Anthropic: Responsible Scaling Policy
- innFactory: Google Gemini Models â Vertex-AI-VerfĂŒgbarkeit
- OpenAI: Advancing content provenance
- EU-Kommission: InteroperabilitĂ€tsmaĂnahmen fĂŒr Android unter dem DMA
Hintergrund
Die Debatte um KI-Governance erhĂ€lt mit der Enzyklika Magnifica Humanitas von Papst Leo XIV. einen langfristig relevanten ethischen Referenzpunkt. Das Lehrschreiben behandelt die Bewahrung des Menschen im Zeitalter der kĂŒnstlichen Intelligenz und stellt KI ausdrĂŒcklich in den Zusammenhang sozialer Grundsatzfragen: MenschenwĂŒrde, Arbeit, Wahrheit, Freiheit, AbhĂ€ngigkeit, Machtkonzentration und Frieden. Damit wird KI nicht nur als Technologie-, Markt- oder Regulierungsthema verhandelt, sondern als PrĂŒfstein fĂŒr das VerhĂ€ltnis zwischen technischer Macht und menschlicher Verantwortung.
FĂŒr Unternehmen ist die Enzyklika kein Rechtsrahmen und keine zusĂ€tzliche Compliance-Pflicht. Sie ist jedoch ein deutliches Erwartungssignal: KI-Systeme mĂŒssen nicht nur rechtmĂ€Ăig, sicher und wirtschaftlich betrieben werden, sondern auch an Transparenz, Autonomie, sozialer Wirkung und menschlicher Letztverantwortung gemessen werden. Gerade bei Agenten, automatisierten Entscheidungen, ArbeitsplatzverĂ€nderungen, Konversations-KI und sicherheitskritischen Anwendungen ergĂ€nzt diese Perspektive die juristische und technische Governance um eine normative Tiefenschicht.
Besonders anschlussfĂ€hig ist der Gedanke der âEntwaffnungâ von KI: Nicht die Ablehnung von Technologie steht im Mittelpunkt, sondern ihre Begrenzung, Kontrolle und Ausrichtung auf den Menschen. In der englischen Wiedergabe heiĂt es prĂ€gnant: âTo disarm does not mean rejecting technology, but preventing it from dominating humanity.â FĂŒr die Praxis bedeutet dies: KI-Governance sollte nicht erst bei RechtskonformitĂ€t enden, sondern dort beginnen, wo technische Systeme Einfluss auf Arbeit, EntscheidungsspielrĂ€ume, Kommunikation und gesellschaftliche Teilhabe gewinnen.
Vatikan: Originaltext der Enzyklika âMagnifica Humanitasâ Vatikanisches Presseamt: Veröffentlichung und Einordnung der Enzyklika The Guardian: Internationale Einordnung und Zitat zur âEntwaffnungâ von KI
Ăber den Autor
Florian Priegnitz
Information Security Consultant | ISO 27001 Lead Implementer · SECURAM Consulting GmbH
Spezialisiert auf die Sicherheitsaspekte generativer KI-Systeme sowie deren Compliance-konforme Integration in Unternehmensprozesse. Informationssicherheit ganzheitlich verstehen bedeutet, dass KI immer ein Teil der Informationssicherheit sein muss. SECURAM unterstĂŒtzt Unternehmen dabei, innovative KI-Technologien sicher in ihre GeschĂ€ftsprozesse zu implementieren und regulatorische Risiken zu minimieren.