Erstgespräch
Erstgespräch buchen
Leistungen
Übersicht Audit Begleitung as a Service GAP-Analyse Implementierung Awareness & Schulungen
ISMS
Übersicht Externer ISB CISIS12 BSI IT-Grundschutz ISO 27001 Regulatorik Cyber Resilience Act DORA NIS-2 NIS-2 Betroffenheit NIS-2 Registrierung B3S KRITIS TISAX®
AIMS
Übersicht Externer KI-Beauftragter EU AI Act ISO 42001 ISO 42005
BCMS
Übersicht Externer BCM-Beauftragter BSI 200-4 ISO 22301 ITSCM Notfallmanagement
RMS
Übersicht Externer Risikomanager BSI 200-3 ISO 27005 MaRisk
Solutions
Übersicht Partner Patchmanagement Schwachstellenmanagement SIEM SOC
Wissen
Übersicht Insights KI-Security Briefing
Über uns
Übersicht Presse
+49 40-298 4553-0 [email protected]
Startseite› Glossar› KI-Agent
Glossar — AIMS / KI-Governance / Autonome Systeme

KI-Agent

Englisch: AI Agent / Agentic AI System

Zuletzt aktualisiert: Mai 2026
Lesedauer: ca. 5 Minuten

KI-Agent ist ein autonomes Software-System, das mithilfe künstlicher Intelligenz eigenständig Aufgaben ausführt, Entscheidungen trifft und mit externen Systemen interagiert, ohne für jeden Schritt eine menschliche Anweisung zu benötigen.

Normative Grundlage: ISO/IEC 22989:2022 Clause 3.1.1; EU AI Act (VO 2024/1689) Art. 3(1)

Hintergrund und normative Einordnung

Der Begriff „KI-Agent" hat seinen konzeptionellen Ursprung in der akademischen KI-Forschung der 1990er-Jahre (Russell & Norvig, „Artificial Intelligence: A Modern Approach"). Als eigenständiges Paradigma industrieller Softwareentwicklung wurde er erst mit dem Aufkommen großer Sprachmodelle (LLMs) ab 2023 praxisrelevant. ISO/IEC 22989:2022, der internationale Terminologiestandard für künstliche Intelligenz, definiert den KI-Agenten in Clause 3.1.1 als automatisierte Entität, die ihre Umgebung wahrnimmt, darauf reagiert und Aktionen zur Zielerreichung ausführt. Das entscheidende Differenzierungsmerkmal gegenüber einem klassischen KI-Modell ist die Handlungsfähigkeit: Ein Sprachmodell antwortet, ein KI-Agent handelt. Das schließt Werkzeugnutzung (Tool-Use), mehrstufige Planung (Multi-Step-Reasoning) und die Delegation von Teilaufgaben an andere Agenten (Multi-Agent-Topologien) ein. EU AI Act Art. 3(1) erfasst solche Systeme explizit als KI-Systeme mit „in unterschiedlichem Grade autonomem Betrieb", die nach „Inbetriebnahme anpassungsfähig sein können" und Ausgaben erzeugen, „die physische oder virtuelle Umgebungen beeinflussen können".

In der deutschen Compliance-Landschaft sind KI-Agenten 2025/2026 auf mehreren Ebenen gleichzeitig regulatorisch relevant geworden. Der EU AI Act (VO 2024/1689) gilt seit August 2024 und verpflichtet Organisationen ab Februar 2025 zur Sicherstellung von KI-Kompetenz (Art. 4). NIS-2 (RL 2022/2555, national umgesetzt im NIS2UmsuCG) adressiert Cybersicherheit und schließt den Einsatz autonomer Systeme in kritischen Prozessen ein. Das BSI beschreibt KI-Agenten in seiner Publikation „Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden" (2025) als autonome Akteure mit eigenem Berechtigungsradius und eigenem Schadensradius und empfiehlt systematische Risikoanalyse im Rahmen des Informationssicherheitsmanagements. Der NIST AI RMF Agentic Profile (Cloud Security Alliance Labs, 2025) klassifiziert agentic AI nach vier Autonomie-Tiers und ordnet jeder Stufe proportionale Governance-Maßnahmen zu, von vollständig beaufsichtigten Systemen (Tier 1) bis zu voll autonomen Agenten mit Sub-Agent-Spawning-Fähigkeit (Tier 4). Für eine strukturierte Erstimplementierung der erforderlichen Governance-Prozesse bietet SECURAM die EU AI Act Compliance als begleitetes Leistungspaket an.

Normative Bezüge:

ISO/IEC 22989:2022 Clause 3.1.1 — Definition KI-Agent EU AI Act (VO 2024/1689) Art. 3(1) — KI-System-Definition EU AI Act (VO 2024/1689) Art. 4 — KI-Kompetenzanforderung

Vorgehen in der Praxis

Die Governance eines KI-Agenten-Einsatzes folgt einem vierstufigen Prozess, der normative Anforderungen des EU AI Act mit dem Managementsystem-Rahmen der ISO/IEC 42001:2023 verbindet.

1
Schritt 1: Klassifikation nach EU AI Act Art. 6 Prüfen Sie zunächst, ob der KI-Agent als Hochrisiko-KI-System einzustufen ist. Hochrisiko liegt vor, wenn das System Sicherheitskomponente eines Annex-I-Produkts ist (Art. 6 Abs. 1) oder einem der Annex-III-Anwendungsfälle zuzuordnen ist (Art. 6 Abs. 2), etwa personalentscheidende, kreditbewertende oder kritische Infrastruktur-steuernde Systeme. KI-Agenten, die lediglich Routineaufgaben unterstützen, können unter die Ausnahme von Art. 6 Abs. 3 fallen, sofern sie keine natürlichen Personen profilieren. Die Klassifikationsentscheidung ist zu dokumentieren und vor Inbetriebnahme abzuschließen.
2
Schritt 2: AI Impact Assessment (ISO 42001 Clause 6.1 + 8.4) Führen Sie ein AI Impact Assessment gemäß ISO/IEC 42001:2023 Clause 6.1 (Maßnahmen zur Behandlung von Risiken und Chancen) und Clause 8.4 (KI-System-Impact-Assessment) durch. Erfassen Sie: Zweck und Einsatzkontext des Agenten, erreichbare Systeme und Daten (Systemzugriff-Inventar), Autonomiegrad (Anlehnung an NIST AI RMF Agentic Tier 1–4), Eskalationspfade sowie potenzielle Auswirkungen auf betroffene Personen. Das Assessment bildet die normative Grundlage für alle nachgelagerten Maßnahmen und ist Teil der AIMS-Dokumentationspflicht.
3
Schritt 3: Human-in-the-Loop und Aufsichtsmechanismen (Art. 14) EU AI Act Art. 14 verpflichtet Anbieter und Betreiber von Hochrisiko-KI-Systemen zur wirksamen menschlichen Aufsicht. Für KI-Agenten bedeutet das konkret: (a) klare Override-Mechanismen, mit denen Aktionen des Agenten unterbunden oder rückgängig gemacht werden können („Stop-Button"), (b) Schulung der Aufsichtspersonen zu Fähigkeiten und Grenzen des Systems (Anti-Automation-Bias), (c) Eskalationsregeln für autonome Entscheidungen ab definiertem Risikoschwellenwert. Auch für Nicht-Hochrisiko-Agenten empfiehlt das BSI Aufsichtsmechanismen als Good-Practice der Informationssicherheit.
4
Schritt 4: Logging und Audit-Trails (Art. 12) Art. 12 EU AI Act schreibt für Hochrisiko-KI-Systeme vor, dass diese „die automatische Aufzeichnung von Ereignissen (Protokolle) während ihrer Lebensdauer technisch ermöglichen". Für KI-Agenten mit breitem Systemzugriff empfiehlt sich eine umfassende Protokollierungsarchitektur: Jede Werkzeugnutzung (Tool-Call), jede Dateioperationen, jeder API-Aufruf und jede Entscheidungssequenz sollten mit Zeitstempel, Kontext und Ergebnis unveränderbar gespeichert werden. Diese Audit-Trails ermöglichen im Sicherheitsvorfall die forensische Rekonstruktion des Agentenhandelns und genügen den regulatorischen Nachweispflichten.

Vor der Inbetriebnahme jedes KI-Agenten in einem Unternehmenskontext sind Klassifikation (EU AI Act Art. 6), Impact Assessment (ISO 42001 Clause 6.1 / 8.4), Aufsichtsmechanismen (Art. 14) und Logging (Art. 12) als verbundenes Governance-Paket zu behandeln, nicht als separate Einzelmaßnahmen.

Abgrenzung zu verwandten Begriffen

Begriff Fokus Verhältnis zu KI-Agent
Chatbot / konversationelles KI-System Sprachbasierte Interaktion, keine Systemzugriffe, kein autonomes Handeln Ein Chatbot verarbeitet Eingaben und erzeugt Textausgaben; er ruft keine externen APIs, führt keine Dateisystemoperationen aus und trifft keine Entscheidungen ohne unmittelbare menschliche Anweisung. Der KI-Agent ergänzt das Sprachmodell um Handlungsfähigkeit (Tool-Use, Systemzugriff, mehrstufige Planung) und ist damit eine übergeordnete Kategorie.
KI-Modell (Basismodell / Foundation Model) Statistisches Modell ohne eigene Ausführungsumgebung Ein KI-Modell (z. B. GPT-4o, Claude 3.5) ist die kognitive Komponente; es generiert Text oder Entscheidungen. Der KI-Agent nutzt ein oder mehrere Modelle als „Gehirn", fügt aber eine Ausführungsschicht (Orchestrator, Werkzeuge, Speicher, Ausführungs-Loop) hinzu. Ohne diese Schicht ist das Modell kein Agent.
Schatten-KI Unkontrollierter, nicht inventarisierter KI-Einsatz im Unternehmen KI-Agenten sind die technische Kategorie; Schatten-KI beschreibt den organisatorischen Zustand, in dem KI-Agenten (oder andere KI-Systeme) ohne Genehmigung, Inventarisierung oder Governance-Prozess betrieben werden. Nicht jeder KI-Agent ist Schatten-KI, aber nicht erfasste KI-Agenten stellen die häufigste Form von Schatten-KI in Unternehmen dar.

Typische Fehler und wie ihr sie vermeidet

  • KI-Agent mit Chatbot gleichgesetzt: Organisationen kategorisieren KI-Agenten als „einfache KI-Tools" und wenden nur die Governance-Anforderungen für konversationelle Systeme an. Der entscheidende Unterschied ist der Systemzugriff: Ein KI-Agent kann Dateien schreiben, APIs aufrufen und Shell-Kommandos ausführen. Diese Handlungsfähigkeit erfordert ein eigenständiges Governance-Rahmenwerk mit Inventarisierung, Impact Assessment und Aufsichtsmechanismen.
  • Pauschale Annahme: alle KI-Agenten sind Hochrisiko: EU AI Act Art. 6 Abs. 3 sieht explizite Ausnahmen vor: Systeme, die eng begrenzte Verfahrensaufgaben durchführen, die Ergebnisse bereits abgeschlossener menschlicher Tätigkeiten verbessern oder vorbereitende Prüfaufgaben für Annex-III-Anwendungsfälle leisten, gelten nicht automatisch als Hochrisiko. Die voreilige Hochrisiko-Einstufung jedes KI-Agenten führt zu unverhältnismäßigem Compliance-Aufwand. Eine dokumentierte Klassifikation nach Art. 6 ist erforderlich.
  • Fehlender Override-Mechanismus (keine menschliche Aufsicht): KI-Agenten werden produktiv eingesetzt, ohne dass Aufsichtspersonen über einen definierten Mechanismus verfügen, Agentenaktionen zu unterbrechen oder rückgängig zu machen. Art. 14 EU AI Act fordert für Hochrisiko-Systeme die Möglichkeit, Ausgaben zu übergehen, zu korrigieren oder das System zu stoppen. Fehlt dieser Override, kann das System bei Fehlfunktionen oder Angriffen (z. B. Prompt Injection) unkontrolliert Aktionen ausführen.
  • Keine Protokollierung von Agentenaktionen (Art. 12 verletzt): Unternehmen aktivieren zwar das Logging des zugrundeliegenden LLM-Dienstes, protokollieren aber nicht die Werkzeugaufrufe, Dateisystemoperationen und API-Interaktionen des Agenten selbst. Art. 12 EU AI Act verlangt, dass Hochrisiko-KI-Systeme die automatische Aufzeichnung von Ereignissen technisch ermöglichen. Ohne lückenlose Audit-Trails ist weder forensische Analyse im Sicherheitsvorfall noch regulatorischer Nachweis möglich.

Relevanz im regulatorischen Kontext

Der EU AI Act (Verordnung (EU) 2024/1689, in Kraft seit August 2024) bildet den primären regulatorischen Rahmen für KI-Agenten in der EU. Art. 3(1) definiert KI-Systeme als maschinengestützte Systeme mit variablem Autonomiegrad, die Ausgaben erzeugen, welche physische oder virtuelle Umgebungen beeinflussen können, eine Definition, die alle gängigen KI-Agenten-Architekturen erfasst. Seit Februar 2025 gilt Art. 4, der Anbieter und Betreiber verpflichtet, ausreichende KI-Kompetenz bei dem Personal sicherzustellen, das KI-Systeme einzieht oder einsetzt. Für Hochrisiko-KI-Agenten (Art. 6) gelten seit August 2026 zusätzlich die Anforderungen aus Art. 12 (Protokollierung), Art. 14 (menschliche Aufsicht) und Art. 9 (Risikomanagement-System). Verstöße können gemäß Art. 99 mit Bußgeldern bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes geahndet werden.

ISO/IEC 42001:2023 (Managementsystem für künstliche Intelligenz) ist der operative Governance-Rahmen, der die regulatorischen Anforderungen des EU AI Act in ein auditiertes Managementsystem überführt. Clause 6.1 definiert den Prozess zur KI-Risikobeurteilung; Clause 8.4 regelt das KI-System-Impact-Assessment, das vor Inbetriebnahme jedes KI-Agenten durchzuführen ist. NIS-2 (RL 2022/2555, umgesetzt im deutschen NIS2UmsuCG) adressiert KI-Agenten indirekt: Soweit sie in kritischen oder wichtigen Einrichtungen eingesetzt werden und Cybersicherheitsrisiken erzeugen, unterliegen sie den technischen und organisatorischen Maßnahmen des Art. 21 NIS-2. Das BSI bewertet in seiner Publikation zu generativen KI-Modellen (2025) den Einsatz autonomer KI-Systeme als eigenständigen Risikobereich des ISMS, der systematischer Risikoanalyse bedarf.

Häufige Fragen

Was unterscheidet einen KI-Agenten von einem Chatbot?
Der zentrale Unterschied liegt im Systemzugriff und der Handlungsfähigkeit. Ein Chatbot verarbeitet Sprachein- und -ausgaben, er liest und antwortet und beeinflusst die Umgebung nicht direkt. Ein KI-Agent verfügt über Werkzeuge (Tools): Er kann Dateien lesen und schreiben, APIs aufrufen, Shell-Kommandos ausführen und Webbrowser steuern. ISO/IEC 22989:2022 definiert den KI-Agenten als Entität, die „Aktionen ausführt, um ihre Ziele zu erreichen". Das schließt Aktionen in externen Systemen ein. Diese Handlungsfähigkeit macht KI-Agenten regulatorisch und sicherheitsbezogen zu einer eigenen Kategorie.
Sind alle KI-Agenten nach EU AI Act als Hochrisiko einzustufen?
Nein. Die Hochrisiko-Einstufung erfolgt nach den Kriterien von Art. 6 EU AI Act: Ein KI-Agent gilt als Hochrisiko, wenn er Sicherheitskomponente eines Annex-I-Produkts ist oder einem der Annex-III-Anwendungsfälle zuzuordnen ist (z. B. Personalentscheidungen, Kreditbewertung, kritische Infrastruktur). Art. 6 Abs. 3 sieht explizit Ausnahmen für eng begrenzte Aufgaben vor. Ein KI-Agent, der lediglich interne Dokumente sucht und zusammenfasst, ohne natürliche Personen zu profilieren, muss nicht als Hochrisiko-System behandelt werden, vorausgesetzt, die Klassifikationsentscheidung ist dokumentiert.
Welche Rolle spielt ISO 42001 bei der Governance von KI-Agenten?
ISO/IEC 42001:2023 bildet den Managementsystem-Rahmen, in dem KI-Agenten-Governance operationalisiert wird. Clause 6.1 verlangt eine systematische KI-Risikobeurteilung vor Inbetriebnahme, Clause 8.4 ein KI-System-Impact-Assessment, das Einsatzzweck, Autonomiegrad, erreichbare Systeme und potenzielle Auswirkungen dokumentiert. Die Zertifizierung nach ISO 42001 gibt Organisationen ein nachgewiesenes Framework, um die Compliance-Anforderungen des EU AI Act organisatorisch zu verankern, und bietet gegenüber Auditoren, Kunden und Regulatoren einen anerkannten Nachweis verantwortungsvoller KI-Governance.

Quellen & weiterführende Literatur

  1. ISO/IEC 22989:2022 — Information technology: Artificial intelligence — Concepts and terminology (Clause 3.1.1: AI agent definition)
  2. Verordnung (EU) 2024/1689 (EU AI Act) — Art. 3(1) KI-System-Definition, Art. 6 Hochrisiko-Klassifikation, Art. 12 Protokollierung, Art. 14 Menschliche Aufsicht
  3. AI Act Article 3 — Official annotated definitions (artificialintelligenceact.eu)
  4. AI Act Article 14 — Human oversight requirements (artificialintelligenceact.eu)
  5. NIST AI RMF Agentic Profile v1 — Governance framework for autonomous AI deployments (Cloud Security Alliance Labs, 2025)
  6. BSI — Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden (2025)
  7. ENISA Threat Landscape 2025 — Agentic AI als neue Bedrohungskategorie