KI: Gamechanger oder Gefahrenquelle?

Künstliche Intelligenz (KI) bietet erhebliche Potenziale in Wirt­schaft, Ver­waltung und Gesell­schaft – so können KI-Systeme Prozesse effizienter gestalten und Ent­scheidungen unterstützen. Digitalministerien betonen, dass insbesondere in öffentlichen Ver­waltungen durch den Einsatz von KI große Chancen zur Effizienz­steigerung entstehen. Ein Beispiel ist die Automati­sierung von Ver­waltungsabläufen, die durch angepasste Rechts­rahmen künftig noch leichter ermöglicht werden.
Auch Verbraucherinnen und Verbraucher profitieren direkt: Schnellere Bearbeitung von Anträgen, weniger Bürokratie und einen besseren Zugang zu Dienst­leistungen sind nur einige Vorteile, die durch den intelligenten Einsatz von KI in Behörden und öffentlichen Stellen erzielt werden können. So wird KI nicht nur zum wirtschaftlichen, sondern auch zum gesellschaftlichen Fortschrittsmotor.

KI kann dem Fachkräftemangel wirksam entgegenwirken, indem sie Unternehmen dabei hilft, Prozesse zu automatisieren und vorhandenes Personal gezielt zu entlasten. In der Industrie übernehmen KI-Systeme z. B. Qualitätskontrollen oder vorausschauende Wartung, wodurch Arbeitskräfte für komplexere Aufgaben frei werden. Im Kundenservice ermöglichen Chatbots eine Rund-um-die-Uhr-Betreuung, während Mitarbeitende sich auf individuelle Anliegen konzentrieren können. Auch in der Pflege kann KI unterstützen – etwa durch intelligente Dokumen­tation oder Assistenzsysteme, die Pflege­kräfte im Alltag entlasten. So hilft KI, die Produktivität zu steigern und Engpässe zu überbrücken, ohne sofort neues Personal einstellen zu müssen.

KI bietet aber auch Selbstständigen viele Vorteile. Sie automatisiert Aufgaben wie Terminplanung, Rechnungen oder E-Mails und schafft so mehr Zeit für kreative Tätigkeiten. Auch die Kundenkommunikation wird durch passgenaue Texte effizienter. In der Gründungs­phase unterstützt KI bei Business­plänen, Markt­analysen und Ideenentwicklung. So arbeiten Selbstständige effizienter und erschließen neue Geschäftsfelder.

Auch in kritischen Sektoren eröffnet KI neue Möglichkeiten. Ein UN-KI-Bericht hebt hervor, dass KI in Gesundheit, Bildung, Energie- und Lebensmittelversorgung helfen kann – vorausgesetzt, man kennt und beherrscht die Risiken. Insgesamt wächst die Zuversicht: Noch vor zwei Jahren sah weniger als die Hälfte der Deutschen KI positiv, heute erkennt bereits eine Mehrheit die vielfältigen Chancen.

Risiken und Herausforderungen der KI

Gleichzeitig warnen Fachleute und Studien vor erheblichen Risiken der KI. In Bevölkerungsumfragen überwiegen die Befürchtungen: In sechs europäischen Ländern sehen im Schnitt 36 % mehr Risiken als Chancen in KI (nur 21 % erkennen mehr Chancen). Viele Menschen sorgen sich um Arbeitsplätze – fast die Hälfte der Deutschen erwartet durch KI einen Stellenabbau. Noch größer ist die Angst vor sozialer Un­gleich­heit: 53 % glauben, dass KI die Kluft zwischen gut Ausgebildeten und dem Rest vergrößert.

Auch Unternehmen sehen die Kehrseite der Medaille. In einer Bitkom-Umfrage sagen 83 % der Firmen, KI verschärfe die Bedrohungslage und 70 % meinen, KI erleichtere Cyber­angriffe. Konkret wächst die Gefahr durch Des­information und Deep­fakes. Die deutschen Länder-Digitalminister sehen in KI-generierter Des­information eine akute Bedrohung für die Demokratie. Mit immer realistischeren Deepfake-Videos und -Stimmen lässt sich die öffentliche Meinung manipulieren und Vertrauen untergraben.

Auch Ver­braucher­schützer mahnen zur Vorsicht. Die Verbraucherzentrale Bundesverband (vzbv) warnt, KI könne das Macht­gefälle zwischen Unternehmen und Kunden vergrößern und gezielt Schwächen von Verbrauchern ausnutzen. So ist es möglich, mit KI persönliche Neigungen zu erkennen und durch individuell zugeschnittene Ansprache Kauf­entscheidungen zu beeinflussen. Hinzu kommt die Gefahr gefälschter Inhalte: KI-gestützte Bots könnten Produkt­bewertungen manipulieren, um Kunden in die Irre zu führen. Diese Beispiele zeigen, dass neben den großen Chancen ebenso ernsthafte Risiken bestehen, denen Politik, Wirtschaft und Gesellschaft begegnen müssen – durch Regulierung (etwa den kommenden EU-AI Act) und durch Aufklärung der Anwender.

KI als Werkzeug von Cyber­kriminellen

Eine wachsende Gefahr geht davon aus, dass Cyberkriminelle KI-Werkzeuge für Angriffe nutzen. Sicher­heits­behörden stellen fest, dass Angreifer inzwischen generative KI wie ChatGPT einsetzen, um Phishing­-Mails in perfekter Sprache zu formulieren. Die Zeiten schlecht übersetzter Betrugs­-E-Mails sind vorbei – KI erlaubt raffiniertere und glaubwürdigere Phishing-Kampagnen. So zitiert die Tagesschau den Fall eines Finanzmitarbeiters in Hongkong, der in einer Videokonferenz von vermeintlichen Vorgesetzten zur Überweisung von 25 Mio. US-Dollar aufgefordert wurde – doch alle anderen Teilnehmer waren KI-Generate, einschließlich Stimme und Bild des Chefs.

Dieser spektakuläre Deep­fake-Betrug zeigt, wie weitreichend KI für kriminelle Täuschungs­manöver missbraucht werden kann.
Darüber hinaus warnen Experten vor KI-gestützter Malware. Generative KI kann Schadsoftware so verändern, dass sie herkömmliche Erkennungs­systeme umgeht. So lassen sich mithilfe von KI automatisiert neue Virenvarianten erzeugen oder Angriffsmuster laufend anpassen. Laut einem Darktrace-Report verspüren bereits fast 70 % der deutschen Unternehmen die Auswirkungen von KI-gestützten Cyber­angriffen. Angreifer nutzen KI, um schneller und gezielter vorzugehen – beispielsweise durch automatisiertes Ausspähen von Schwach­stellen und personalisierte Social-­Engineering-­Attacken. Ransom­ware-Gruppen agieren immer professioneller und bieten sogar „Cyber­crime-as-a-Service“-Bausätze an. KI könnte diese Entwicklung weiter befeuern, indem sie weniger technisch versierten Kriminellen hochwirksame Tools in die Hand gibt.

KI zur Abwehr von Cyber­angriffen

Auf der Gegenseite wird KI auch als Schutzschild in der IT-Sicherheit eingesetzt. Moderne Sicherheitssoftware nutzt Machine Learning, um Anomalien im Netzwerkverkehr in Echtzeit zu erkennen und schneller auf Angriffe zu reagieren. Solche KI-gestützten Systeme können verdächtiges Verhalten frühzeitig identifizieren – teils sogar Angriffe prognostizieren, bevor sie stattfinden. Routineaufgaben in Security Operations Centers lassen sich automatisieren, sodass sich Experten auf komplexe Vorfälle konzentrieren können. In der Praxis verbessert dies die Reaktionszeit bei Incidents beträchtlich: 94 % der Unternehmen bestätigen, dass KI-basierte Sicherheitslösungen die Erkennung, Prävention und Reaktion auf Cyberangriffe beschleunigen und effizienter machen.

Große Teile der Wirtschaft sehen KI heute als Schlüssel, um IT-Security-Teams spürbar zu entlasten und das Schutzniveau drastisch zu erhöhen. In der Finanzbranche etwa filtern KI-Systeme Betrugs­transaktionen inzwischen in Sekundenbruchteilen, und Betreiber kritischer Infrastrukturen überwachen Steuerungsnetze mit KI-gestützten Analysen, die schon bei minimalen Anomalien Alarm schlagen. Dennoch fehlt vielen deutschen Unternehmen eine stringente KI-Sicherheits­strategie – erst 61 % vertrauen darauf, dass KI ihre Abwehr wirksam verbessert. Sicherheitsexperten sind sich aber einig: „Cyberangriffe, die KI nutzen, lassen sich nur mit KI-basierten Verteidigungs­werkzeugen zuverlässig stoppen.“

Die Securam Consulting GmbH unterstützt Unternehmen nicht nur bei der Entwicklung nachhaltiger KI-Sicherheitskonzepte, sondern auch bei der Umsetzung der Anforderungen des EU AI Act. Hierbei liegt der Fokus auf der Sicher­stellung von Trans­parenz, Nach­vollzieh­barkeit und Risiko­angemessenheit in sensiblen Anwendungs­bereichen. Für Unter­nehmen, die KI-Systeme entwickeln, betreiben oder integrieren, ist die Umset­zung der Anfor­derungen keine rein juris­tische, sondern eine tief­greifend tech­nische und orga­nisatorische Heraus­forderung.

Das Hamburger IT-Beratungsunternehmen verfügt über umfassende Expertise in der Einhaltung dieser regulatorischen Vorgaben, bietet maßgeschneiderte Sicherheits­architekturen und 24/7-Monitoring, um sicherzustellen, dass KI-Systeme nicht nur effektiv, sondern auch gesetzeskonform betrieben werden.

Mit diesem ganzheitlichen Ansatz gewährleistet das IT-Beratungshaus, dass ihre Kunden die vollen Schutzpotenziale von KI ausschöpfen können, ohne dabei regulatorische Risiken einzugehen. Die Kombination aus tech­nischer Expertise und tiefgreifendem Verständnis der gesetzlichen Anforderungen macht die Securam-Consulting GmbH zu einem Innovationstreiber in der sicheren und rechtskonformen Nutzung von KI.

Cyberattacken auf kritische Infrastrukturen

Besonders alarmierend sind Cyberangriffe auf kritische Infrastrukturen – also Gesundheitseinrichtungen, Energieversorgung, Wasserwerke, Transport und Verwaltung. Die Zahl solcher Angriffe ist zuletzt stark gestiegen: Allein in Deutschland wurden 2024 über 760 Angriffe auf kritische Infrastruktur an das BSI gemeldet, mehr als 40 % mehr als im Vorjahr. Europaweit waren in den vergangenen Jahren zahlreiche Krankenhäuser betroffen – von Barcelona bis Berlin mussten Kliniken zeitweise auf Papier und Stift umstellen, tausende Operationen wurden abgesagt. Im schlimmsten Fall kostete dies sogar Menschenleben. Im Oktober 2024 traf es in Deutschland die Johannesstift Diakonie, einen großen Krankenhausverbund: Ein Ransomware-Angriff verschlüsselte sämtliche zentralen Server, was den Großteil der IT-Systeme lahmlegte. In mehreren Berliner Kliniken fielen Rettungsstellen und diagnostische Geräte wie Röntgen, CT und MRT aus. Dieser Vorfall zeigt die Verwundbarkeit des Gesundheitssektors – und wie lebenswichtig funktionierende IT dort ist.

Auch die Energieversorgung gerät zunehmend ins Visier von Cyber­angriffen. Energieunternehmen wie die Technischen Werke Ludwigshafen (TWL) berichten von täglichen Scan-Angriffen auf ihre Netzleitsysteme. „Als Betreiber kritischer Infrastruktur sind wir besonders gefährdet“, warnt TWL-Vorstand Thomas Mösl. Gerade im Energiesektor hätten erfolgreiche Hacks eine besonders brisante Wirkung – schließlich betreffen Strom, Gas oder Wasser unmittelbar die Grundversorgung. Sicherheitsexperten verweisen auf Worst-Case-Szenarien: Koordinierte Cyberattacken auf Stromnetze oder Pipelines könnten großflächige Blackouts auslösen.

Ein aktueller Vorfall macht das Risiko deutlich: Am 28. April 2025 kam es in Spanien und Portugal zu einem massiven Stromausfall. Ganze Städte waren stundenlang ohne Elektrizität, der Bahn- und Flugverkehr war gestört, Aufzüge und Ampelanlagen fielen aus, und selbst Mobilfunknetze waren zeitweise nicht verfügbar. Die Ursache war zwar kein Cyberangriff, sondern ein tech­nischer Defekt in einem Umspannwerk in Granada. Doch der Vorfall zeigt, wie abhängig moderne Gesellschaften von stabilen Energiesystemen sind – und welche dramatischen Auswirkungen eine gezielte digitale Attacke hätte haben können.

Angesichts solcher Szenarien wird der Schutz kritischer Infrastrukturen zur Priorität. Unternehmen stehen dabei nicht nur vor tech­nischen Herausforderungen, sondern auch vor regulatorischen. Der EU AI Act bringt klare Vorgaben für den sicheren und verantwortungsvollen Einsatz von Künstlicher Intelligenz – insbesondere bei Hochrisiko-Anwendungen wie sie in der Energiebranche zum Einsatz kommen. Er verlangt unter anderem ein umfassendes Risikomanagement, Trans­parenzpflichten, Sicherheits- und Überwachungsvorgaben sowie menschliche Kontrollmechanismen.

Tatsächlich wurden in jüngerer Zeit auch europäische Windkraft- und Energietechnik-Firmen Opfer von Malware und Ransomware. So berichteten Unternehmen wie Deutsche Windtechnik, Vestas und Enercon von Attacken, die ihre IT-Systeme lahmlegten. Die Verwundbarkeit erstreckt sich sogar auf die Infrastruktur unter Wasser: Internetseekabel und Offshore-Anlagen könnten durch Sabotage oder Drohnenangriffe erheblich beschädigt werden – ein Szenario, das NATO und EU inzwischen ernst nehmen.

Der öffentliche Sektor bleibt ebenfalls im Fadenkreuz. Im Dezember 2024 wurden in der Ukraine mehrere Regierungs-Datenbanken (Geburten-, Heirats- und Handelsregister) von einer russischen Hackergruppe kompromittiert. Durch diese Sabotage von Verwaltungsdaten waren behördliche Abläufe wochenlang gestört. In Deutschland kam es 2024 zu einer Reihe von Angriffen auf Kommunalverwaltungen: So mussten etwa die Stadtverwaltungen von Aschaffenburg und Kirkel nach Hackerangriffen vorübergehend den Betrieb einstellen, Bürgerdienste fielen Tage bis Wochen aus. Hinter manchen Attacken stehen offenbar politisch motivierte Gruppen – die prorussische Hackergruppe NoName057(16) etwa bekannte sich zu DDoS-Angriffen auf deutsche Stadtwebsites und Behördenportale. Solche Vorfälle in der öffentlichen Verwaltung unterstreichen, dass digitale Angriffe staatliche Handlungsfähigkeit empfindlich stören können.

Fazit: Kritische Infrastrukturen sind einem erhöhten Cyber-Risiko ausgesetzt – und der Einsatz von KI wirkt dabei als Brandbeschleuniger und Feuerlöscher zugleich. Angreifer nutzen generative Systeme für präzise, automatisierte Attacken, während Verteidiger KI brauchen, um Anomalien in Echtzeit zu erkennen und abzuwehren. Entscheidend ist deshalb, eine neue Balance herzustellen: das Innovationspotenzial der KI mutig nutzen, ihre Gefahren jedoch konsequent eindämmen.Die Securam Consulting GmbH begleitet Unternehmerinnen, Unternehmer und Geschäftsführende mittelständischer Unternehmen auf dem Weg zu einer ganzheitlichen, zukunftsfesten IT-Sicherheits­strategie. Gemeinsam mit dem Kunden entwickelt das Expertenteam maßgeschneiderte Lösungen, die exakt zu den jeweiligen branchenspezifischen Herausforderungen passen – vom Schutz sensibler Kundendaten vor raffinierten Cyber­angriffen bis hin zur sicheren Erfüllung komplexer regulatorischer Anforderungen.

Quellennachweis: tagesschau.de, security-insider.de, das-parlament.de, bitkom.org, spiegel.de