Editorial
Willkommen zur fünften Ausgabe des KI-Security Briefing.
In den vergangenen zwei Wochen hat sich gezeigt, dass die Sicherheitsprobleme autonomer KI-Systeme nicht abnehmen, sondern neue Formen annehmen. Über 1.100 bösartige Skills haben den Marktplatz ClawHub kompromittiert, fast 3.000 offene Google-API-Schlüssel erlauben unkontrollierten Zugriff auf Gemini und eine KI-Chat-App hat 300 Millionen Nutzernachrichten offengelegt. Gleichzeitig verschärft sich der geopolitische Kontext: Die US-Regierung entzieht Anthropic den Zugang zu Militärnetzwerken, während OpenAI seinen Pentagon-Vertrag um Überwachungsverbote ergänzt. Und in den USA wird erstmals vor Gericht verhandelt, ob ein KI-Chatbot einen Menschen in den Suizid getrieben hat.
Alle Originalquellen sind verlinkt. Ich freue mich auf Ihren Austausch per E-Mail.
Ihr
Florian Priegnitz
Information Security Consultant
SECURAM Consulting GmbH
📋 Inhalt dieser Ausgabe
01 – Fast 3.000 offene Google-API-Schlüssel erlauben unkontrollierten Zugriff auf Gemini
02 – Britische Datenschutzbehörde konfrontiert Meta mit KI-Brillen-Überwachung
03 – KI-generierte Phishing-Mails treffen deutsche Bankkunden mit neuer Präzision
04 – VivaTech-Studie offenbart gefährliche Lücke zwischen KI-Vertrauen und Datenschutz
05 – OpenAI kündigt GPT-5.4 mit einer Million Token Kontext an
06 – Klage in den USA: Google-Chatbot Gemini soll Mann zum Suizid bewogen haben
07 – Rüstungsunternehmen kehren Anthropic nach Pentagon-Blacklist den Rücken
08 – OpenAI reagiert auf Kritik und ergänzt Pentagon-Vertrag um Überwachungsverbote
09 – KI-Crimeware gibt es jetzt als Abo-Modell ab wenigen Dollar im Monat
10 – Anthropics Import-Funktion zeigt, wie viel Wissen Chatbots über ihre Nutzer speichern
11 – US-Regierung entzieht Anthropic den Zugang zu Militärnetzwerken
12 – Anthropic deckt industrielle Destillation durch DeepSeek, Moonshot und MiniMax auf
13 – Über 1.100 bösartige Skills infizieren KI-Marktplatz ClawHub
14 – KI-Chat-App verliert 300 Millionen Nachrichten von 25 Millionen Nutzern
🏷️ Filter nach Thema
Fast 3.000 offene Google-API-Schlüssel erlauben unkontrollierten Zugriff auf Gemini
05.03.2026 | API-Schlüssel als Einfallstor
Sicherheitsforscher haben nahezu 3.000 öffentlich zugängliche API-Schlüssel von Google identifiziert, die für die Nutzung von Gemini autorisiert sind. Das Problem geht weit über klassische Credential-Leaks hinaus: Wer einen solchen Schlüssel findet, kann auf Kosten des Inhabers beliebige Anfragen an Googles KI-Modelle stellen. Die Folgen reichen von finanziellen Schäden durch explodierende API-Kosten bis hin zur missbräuchlichen Generierung schädlicher Inhalte. Für Unternehmen bedeutet der Fund, dass das Schlüsselmanagement für KI-Dienste dieselbe Sorgfalt verdient wie der Umgang mit Produktionszugängen zu Datenbanken oder Cloud-Infrastruktur.
Britische Datenschutzbehörde konfrontiert Meta mit KI-Brillen-Überwachung
04.03.2026 | Datenschutz bei Wearables
Die britische Datenschutzbehörde ICO hat Meta offiziell kontaktiert, nachdem schwedische Journalisten enthüllten, dass ausgelagerte Mitarbeiter in Kenia intime Aufnahmen von Ray-Ban-Meta-KI-Brillen sichten. Die Bilder stammen aus dem Alltag der Nutzer und umfassen private sowie sensible Szenen, die zur Verbesserung der KI-Modelle ausgewertet werden sollen. Der Fall wirft eine grundlegende Frage auf: Wer kontrolliert die Datenströme, wenn tragbare KI-Geräte permanent die Umgebung ihrer Träger erfassen? Für europäische Unternehmen, die Wearable-Technologien evaluieren, verschärft sich damit die Pflicht zur sorgfältigen Prüfung der gesamten Verarbeitungskette.
KI-generierte Phishing-Mails treffen deutsche Bankkunden mit neuer Präzision
04.03.2026 | KI-Phishing in Deutschland
Eine Welle KI-generierter Phishing-Mails trifft derzeit deutsche Bankkunden, PayPal-Nutzer und weitere Zielgruppen mit einer Qualität, die selbst geschulte Empfänger täuschen kann. Die Nachrichten weisen keine der klassischen Erkennungsmerkmale mehr auf: Grammatikfehler fehlen, das Corporate Design wird pixelgenau repliziert, und die Ansprache wirkt individuell zugeschnitten. Sicherheitsexperten sprechen von einer neuen Eskalationsstufe, in der die bisherigen Schulungsansätze zur Phishing-Erkennung an ihre Grenzen stoßen. Unternehmen sollten ihre E-Mail-Sicherheitsarchitektur überprüfen und technische Schutzmaßnahmen stärken, statt sich allein auf die Aufmerksamkeit ihrer Mitarbeiter zu verlassen.
VivaTech-Studie offenbart gefährliche Lücke zwischen KI-Vertrauen und Datenschutz
04.03.2026 | Vertrauen ohne Kontrolle
Eine aktuelle VivaTech-Studie zeigt ein paradoxes Bild: Führungskräfte vertrauen KI-Technologien zunehmend und erhöhen ihre Investitionen in Künstliche Intelligenz und Cybersicherheit. Gleichzeitig offenbart die Befragung erhebliche Defizite bei den konkreten Schutzmaßnahmen für sensible Daten, die in KI-Systemen verarbeitet werden. Die Diskrepanz zwischen deklariertem Vertrauen und tatsächlicher Kontrolle birgt erhebliche Risiken, insbesondere wenn regulatorische Anforderungen wie der EU AI Act operative Nachweise verlangen. CISOs sollten diese Ergebnisse als Anlass nehmen, ihre Data-Governance-Frameworks gezielt auf KI-Anwendungen auszuweiten.
OpenAI kündigt GPT-5.4 mit einer Million Token Kontext an
04.03.2026 | Neues Flaggschiff-Modell
OpenAI stellt GPT-5.4 vor, das mit einem Kontextfenster von einer Million Token und einem neuen extremen Denkmodus operieren soll. Das Modell zielt auf Langzeitaufgaben ab, die bisher an der Zuverlässigkeit über längere Verarbeitungszyklen scheiterten. Für Unternehmen, die KI-gestützte Prozesse in Bereichen wie Vertragsanalyse, Code-Review oder Compliance-Prüfungen einsetzen, könnte die erweiterte Kontextlänge operative Engpässe beseitigen. Ob das Versprechen der höheren Zuverlässigkeit in der Praxis hält, wird sich erst nach unabhängigen Benchmarks zeigen.
Klage in den USA: Google-Chatbot Gemini soll Mann zum Suizid bewogen haben
04.03.2026 | Sorgfaltspflichten für Chatbots
Eine Klage vor einem US-Gericht behauptet, dass Googles Chatbot Gemini einen 36-jährigen Mann über zwei Monate hinweg in eine intensive parasoziale Beziehung verwickelt und ihn schließlich davon überzeugt habe, sein Leben zu beenden, um sich digital mit der KI zu vereinen. Der Fall reiht sich in eine wachsende Zahl von Vorfällen ein, bei denen KI-Systeme emotional vulnerable Nutzer in schädliche Interaktionsmuster führen. Für die Branche steht mehr auf dem Spiel als ein einzelner Rechtsstreit: Die Frage, welche Sorgfaltspflichten Anbieter konversationaler KI gegenüber psychisch gefährdeten Nutzern tragen, dürfte die regulatorische Debatte in den kommenden Monaten prägen. Unternehmen, die Chatbots im Kundenkontakt einsetzen, sollten ihre Eskalationsmechanismen und Sicherheitsfilter kritisch überprüfen.
Rüstungsunternehmen kehren Anthropic nach Pentagon-Blacklist den Rücken
04.03.2026 | Geopolitik trifft KI-Markt
Nach der Aufnahme von Anthropic auf eine Pentagon-Blacklist trennen sich laut Berichten mehrere US-Verteidigungsauftragnehmer von der Claude-Plattform. Die Unternehmen stehen vor einer binären Entscheidung: entweder Milliarden-Dollar-Regierungsverträge behalten oder den Zugang zu einem der leistungsfähigsten KI-Modelle. Der Vorgang illustriert eine neue Realität der KI-Industrie, in der geopolitische Positionierungen unmittelbare geschäftliche Konsequenzen nach sich ziehen. Für europäische Unternehmen, die auf US-amerikanische KI-Infrastruktur setzen, verschärft sich damit die Frage nach strategischer Diversifikation ihrer KI-Lieferketten.
OpenAI reagiert auf Kritik und ergänzt Pentagon-Vertrag um Überwachungsverbote
03.03.2026 | Vertragsgestaltung mit dem Staat
Nach internen Leaks und massiver öffentlicher Kritik hat OpenAI seinen Vertrag mit dem US-Verteidigungsministerium um Schutzklauseln ergänzt, die den absichtlichen Einsatz der KI-Systeme zur Überwachung von US-Bürgern ausdrücklich untersagen. Die Nachbesserung erfolgt in einem Umfeld, in dem das Vertrauen der eigenen Belegschaft und der Öffentlichkeit in die ethische Ausrichtung des Unternehmens erheblich gelitten hat. Die Klauseln markieren einen Präzedenzfall für die Vertragsgestaltung zwischen KI-Anbietern und staatlichen Auftraggebern. Ob die Selbstverpflichtung mehr ist als symbolische Schadensbegrenzung, hängt davon ab, welche unabhängigen Kontrollmechanismen tatsächlich implementiert werden.
KI-Crimeware gibt es jetzt als Abo-Modell ab wenigen Dollar im Monat
03.03.2026 | Cybercrime-as-a-Service
Group-IB hat eine strukturierte Schattenwirtschaft für KI-gestützte Cyberkriminalität dokumentiert, die Dark LLMs, Deepfake-as-a-Service und automatisierte Phishing-Kits zu Preisen ab wenigen Dollar monatlich anbietet. Das Abo-Modell senkt die Einstiegshürden für Cyberkriminalität drastisch: Angreifer benötigen weder technische Expertise noch nennenswerte Investitionen. Auffällig ist die Professionalisierung des Angebots mit Support-Strukturen, die an legitime SaaS-Dienste erinnern. Für Sicherheitsverantwortliche bedeutet dies, dass das Bedrohungsvolumen schneller steigen dürfte als die Abwehrkapazitäten vieler Organisationen.
Anthropics Import-Funktion zeigt, wie viel Wissen Chatbots über ihre Nutzer speichern
02.03.2026 | Datenportabilität bei KI
Anthropic hat eine Import-Funktion veröffentlicht, mit der Nutzer ihre bei ChatGPT und anderen KI-Anbietern gespeicherten Kontextdaten und Erinnerungen zu Claude übertragen können. Was als komfortable Wechselfunktion gedacht ist, offenbart zugleich das Ausmaß der Nutzerprofile, die KI-Anbieter im Hintergrund aufbauen: persönliche Vorlieben, Arbeitskontexte, wiederkehrende Themen und Kommunikationsmuster. Für Datenschutzverantwortliche sollte diese Transparenz ein Weckruf sein, die Nutzung von KI-Assistenten in Unternehmensumgebungen auf die tatsächlich erfassten Datenbestände hin zu evaluieren. Die Frage, wem diese Daten gehören und wie portabel sie sein müssen, wird die nächste regulatorische Auseinandersetzung.
US-Regierung entzieht Anthropic den Zugang zu Militärnetzwerken
01.03.2026 | Ethik vs. Verteidigungspolitik
Die US-Regierung hat Anthropic Berichten zufolge den Zugang zu klassifizierten Militärnetzwerken entzogen. Als Grund wird genannt, dass das Unternehmen bestimmte Nutzungseinschränkungen für autonome Systeme nicht lockern wollte, die das Pentagon für operative Anforderungen als notwendig erachtete. OpenAI und Elon Musks xAI übernehmen die entstandene Lücke. Der Vorgang wäre einer der ersten Fälle, in denen ein führender Anbieter nicht wegen technischer Mängel, sondern wegen ethischer Positionen aus sicherheitsrelevanten Bereichen ausgeschlossen wird. Der Fall verdeutlicht, dass geopolitische Konflikte die Verfügbarkeit von KI-Diensten auch für Drittparteien beeinflussen können.
Anthropic deckt industrielle Destillation durch DeepSeek, Moonshot und MiniMax auf
23.02.2026 | Model-Destillation im großen Stil
Anthropic hat großangelegte Destillationskampagnen durch DeepSeek, Moonshot und MiniMax identifiziert, bei denen laut Anthropic über 24.000 unautorisierte Accounts mehr als 16 Millionen Interaktionen mit Claude generierten, um dessen Fähigkeiten für eigene Modelle zu extrahieren. Das Ausmaß der Operation übersteigt bisherige Fälle von Model-Destillation erheblich und bewegt sich nach Einschätzung von Anthropic im Bereich nationaler Sicherheitsrisiken. Die Methode selbst ist nicht neu, doch die industrielle Skalierung setzt eine neue Benchmark für das, was Anbieter an Schutzmechanismen vorhalten müssen. Unternehmen, die proprietäre KI-Modelle betreiben, sollten ihre API-Zugangskontrollen und Nutzungsmuster-Erkennung dringend überprüfen.
Über 1.100 bösartige Skills infizieren KI-Marktplatz ClawHub
18.02.2026 | Supply-Chain-Angriff auf KI
Eine Angriffskampagne namens ClawHavoc hat den offiziellen Skill-Marktplatz ClawHub von OpenClaw mit mindestens 1.184 bösartigen Skills kompromittiert. Die infizierten Skills können Daten exfiltrieren und stellen damit ein direktes Risiko für alle Nutzer dar, die sie installieren. Der Vorfall erinnert an die wiederkehrenden Probleme mit bösartigen Paketen in Software-Repositories wie npm oder PyPI, überträgt dieses Muster nun aber auf KI-Ökosysteme. Unternehmen, die KI-Skills oder Plugins aus Marktplätzen beziehen, sollten deren Herkunft und Berechtigungen ebenso rigoros prüfen wie bei klassischen Software-Abhängigkeiten.
KI-Chat-App verliert 300 Millionen Nachrichten von 25 Millionen Nutzern
10.02.2026 | Massives KI-Datenleck
Die Mobile-App Chat & Ask AI hat ein massives Datenleck erlitten, bei dem 300 Millionen Nachrichten von rund 25 Millionen Nutzern offengelegt wurden. Die Konversationen mit KI-Assistenten enthalten häufig sensible Informationen, die Nutzer in der vermeintlichen Vertraulichkeit eines Chatfensters preisgeben. Der Vorfall unterstreicht ein systemisches Risiko: Viele KI-Anwendungen speichern Gesprächsverläufe ohne angemessene Verschlüsselung oder Zugangskontrollen. Für Unternehmen, deren Mitarbeiter KI-Chat-Apps nutzen, ist der Fall ein dringender Anlass, klare Richtlinien für den Umgang mit nicht freigegebenen KI-Diensten durchzusetzen.
Hintergrund
Offene API-Schlüssel, KI-Crimeware im Abo-Modell und infizierte Skills auf Marktplätzen zeigen: Autonome KI-Systeme und deren unkontrollierte Verbreitung erfordern neue Sicherheitsstrategien:
Agentic AI: Was autonome KI-Agenten für Ihre Sicherheit bedeuten Schatten-KI: Wenn KI-Nutzung im Unternehmen unsichtbar bleibt
Über den Autor
Florian Priegnitz
Information Security Consultant · SECURAM Consulting GmbH
Spezialisiert auf die Sicherheitsaspekte generativer KI-Systeme sowie deren Compliance-konforme Integration in Unternehmensprozesse. Informationssicherheit ganzheitlich verstehen bedeutet, dass KI immer ein Teil der Informationssicherheit sein muss. SECURAM unterstützt Unternehmen dabei, innovative KI-Technologien sicher in ihre Geschäftsprozesse zu implementieren und regulatorische Risiken zu minimieren.