AI in der IT Security

Wie sicher ist Ihr KI-Einsatz?

3 Dimensionen von KI und Cybersicherheit 

Wir denken über die Auswirkungen von KI auf die Sicherheit von Unternehmen in drei Dimensionen nach, um Risiken umfassend zu erkennen und abzusichern:  

• KI, um IT-Systeme anzugreifen 

• KI, um IT-Systeme zu schützen 

• Sicherheit von KI-Systemen selbst 

Sie können für alle Unternehmen ein hilfreiches Framework sein, die ihre nächsten Schritte sinnvoll planen möchten.

KI verschärft die Bedrohungslage:  
Cyberkriminalität ist das größte Geschäftsrisiko. 

Die erste Dimension ist offensichtlich und vielen Entscheider:innen bewusst: KI verbessert die Fähigkeiten von Angreifern massiv.  

• Reconnaissance-Prozesse zur Identifikation potenzieller Schwachstellen lassen sich mit KI weitgehend automatisieren. 

• Intelligente Bots können Angriffstaktiken in Echtzeit anpassen, um ihre Erfolgschancen kontinuierlich zu erhöhen. 

• Social-Engineering-Angriffe werden durch KI wirkungsvoller, da sich täuschend echte Phishing-Mails, gefälschte Websites und personalisierte Betrugsversuche automatisiert und in großem Maßstab erstellen lassen. 

Cyberkriminalität ist seit Jahren und auch 2026 laut Allianz-Risikobaro­meter das größte globale Geschäftsrisiko. Durch KI sinken die Eintrittsbarrieren für Kriminelle drastisch. Neben geopolitischen Spannungen und wirtschaftlichen Unsicherheiten ist dies ein wesentlicher Grund, warum Unternehmen ihre Cybersicherheitsstrategie neu ausrichten. Bei 92 Prozent der Unternehmen in Deutschland laufen laut PwC entsprechende Planungen. 

KI-gestützte Cyberabwehr ist notwendig,  
braucht aber ein stabiles Fundament. 

Von Künstlicher Intelligenz profitieren nicht nur Angreifer. Auch die Verteidigung erhält neue Möglichkeiten. Die ersten Unternehmen integrieren AI bereits in Security Operations Center (SOC), SIEM-Systeme oder Monitoring-Prozesse. Die Technologie hilft ihnen, Anomalien schneller zu erkennen oder ihre Incident-Response-Prozesse effizienter zu gestalten. Auch Penetrationstestes bzw. Angriffssimulationen lassen sich mit KI automatisieren, um den eigenen Schutz zu verbessern.  

Viele Unternehmen setzen KI-Tools in ihrer Cybersicherheit aber noch nicht ein und sind auch noch nicht KI-ready. Denn trotz aller neuen Möglichkeiten durch intelligente Algorithmen: Die klassischen Security-Prinzipien verlieren mit KI nicht an Bedeutung. 

• Belastbares Identity- und Access-Management  

• Zero-Trust-Strukturen 

• Netzwerksegmentierung 

• Vulnerability Management 

Diese grundlegenden Sicherheitsbausteine bleiben wichtig. Mehr noch. Da das Risiko erfolgreicher Angriffe durch KI steigt, wird es umso wichtiger, die Widerstandsfähigkeit der Architektur zu verbessern, damit ein Sicherheitsvorfall ein überschaubares, kontrollierbares Ereignis bleibt und sich nicht zur großflächigen Krise ausweitet.

Die größte Herausforderung:  
AI Operations ausreichend absichern. 

Die dritte Dimension von AI in der Security betrachten aktuell nur wenige Unternehmen: Die Absicherung des eigenen KI-Einsatzes. Da generative Systeme Inhalte nicht deterministisch verarbeiten, Daten aus vielen Quellen verwenden und zunehmend autonom entscheiden, entstehen neue Risiken und Angriffsflächen, die sich grundlegend von klassischen Sicherheitsherausforderungen unterscheiden.  

Unkontrollierter KI-Einsatz und Data Loss  

Wenn Unternehmen keine klaren Richtlinien für den Einsatz von KI definieren, nutzen Mitarbeitende häufig eigenständig externe KI-Dienste. Dadurch entstehen unkontrollierte Parallelstrukturen mit dem Risiko, dass sensible Informationen unbeabsichtigt extern zugänglich gemacht oder für Modelltrainings verwendet werden. 

Neue Angriffsflächen durch Generative KI 

Durch manipulierte Eingaben (Prompt Injection) oder gezielt kompromittierte Trainings- und Wissensdaten (Model Poisoning) können Angreifer Sicherheitsmechanismen umgehen, das Modellverhalten beeinflussen und so beispielsweise auf sensible Informationen zugreifen. 

Fehlende Transparenz und Kontrollverlust in AI Operations 

Besonders beim Einsatz von AI Agents und Multi-Agenten-Systemen wird es  schwer nachvollziehbar, welche Systeme auf welche Daten zugreifen und wie Entscheidungen zustande kommen. Dadurch stoßen statische Sicherheits-, Monitoring- und Berechtigungskonzepte an ihre Grenzen. 

Angesichts dieser Risiken sollten Unternehmen ihre AI Operations als eigenständige Sicherheitsdomäne behandeln. Der erste Schritt ist Transparenz: Welche KI-Systeme und Agenten sind im Einsatz, auf welche Daten, Tools und Systeme greifen sie zu? Darauf aufbauend sollten Unternehmen ein Identitäts- und Berechtigungsmanagement für KI-Agenten einrichten, Audit Trails aufbauen und ihre KI-Lösungen in zentrale Security-Systeme wie SIEM, SOAR, XDR oder CSPM einbeziehen. So können sie Sicherheitsrisiken früh erkennen und KI-Workflows kontrollierbar betreiben. 

Wie Unternehmen ihre Cybersecurity neu ausrichten sollten 

Viele heutige Sicherheitskonzepte wurden nicht für autonome, nicht-deterministische Systeme entwickelt. Wichtig ist, dass Unternehmen alle drei Dimensionen betrachten und nicht nur technische, sondern auch organisatorische Schutzmaßnahmen auf die dynamische KI-geprägte Wirtschaftswelt einstellen. 

KI-gestützte Security-Tools entwickeln sich zur Notwendigkeit. Zukunftsfähige SIEM- und Monitoring-Lösungen erfassen nicht mehr nur klassische IT-Infrastrukturen, sondern auch Telemetrie aus KI-Systemen, darunter Agenteninteraktionen, Modellzugriffe und sicherheitsrelevante Ereignisse innerhalb von KI-Workflows.  

Die IT-Governance muss um eine KI-Governance erweitert werden, die Verantwortlichkeiten und Richtlinien für den Einsatz intelligenter Technologien festlegt. Prozesse müssen sicherstellen, dass KI-Ergebnisse nachvollziehbar, Bias minimiert und Modell-Drift eingedämmt bleibt. Regelmäßige Audits sind im KI-Betrieb genauso essenziell wie ein Lifecycle-Management, das Sicherheit von KI-Systemen von Auswahl und Training über bis zur Abschaltung mitdenkt. 

Die Aufgaben mögen herausfordernd sein, aufschieben sollten Unternehmen notwendige Veränderungen aber nicht. Auch aus regulatorischen Gründen. Denn mit dem AI Act ist die Governance von KI-Systemen in Zukunft nicht mehr optional. Bei Verstößen drohen nicht nur Reputationsschäden, sondern empfindliche Strafen.  

Ganzheitliche Sicherheitsmaßnahmen sind essenziell. Nur so kann der Einsatz von KI mehr Nutzen als Risiken bringen und nur so entwickeln Unternehmen belastbare Resilienz in einer wachsenden KI-gestützten Bedrohungslandschaft.