Die IT-Security ist einer der vielen Bereiche, in denen künstliche Intelligenz (KI) gerade alles auf den Kopf stellt. Dabei ist die KI-Variante ML (maschinelles Lernen) in Security-Lösungen schon längst etablierte Technik, etwa um Auffälligkeiten im Netzwerkverkehr oder im Benutzerverhalten aufzuspüren. Für den erwähnten Kopfstand sorgen hier nun aber – wie überall – generative und agentische KI.
Einigen Aufruhr verursachte kürzlich die Ankündigung der KI-Größe Anthropic, die Preview-Version von Claude Mythos, der jüngsten Iteration ihres LLMs (Large Language Model), nur einer handverlesenen Schar von IT-Anbietern zugänglich zu machen, „Project Glasswing“ genannt. Zu mächtig, so Anthropic, sei die KI darin, Schwachstellen in Code aufzuspüren – und vor allem darin, automatisiert Exploits daraus abzuleiten.
Einige Marktbeobachter sahen hier umsichtiges Risikomanagement, andere ein PR-Manöver. Als Letzteres war Anthropics Vorgehen ein Erfolg, verkündete doch wenig später Konkurrent OpenAI quasi als Echo, die neueste Version seiner eigenen Technik ebenfalls nicht allgemein zugänglich zu machen, weil natürlich auch sie viel zu gefährlich für die breite Öffentlichkeit sei. In PR-Dingen steht es also 1:0 für Anthropic.
Zugleich aber nahm die Branche das Vorhaben einer Abschottung von Claude Mythos – ob PR-initiiert oder nicht – durchaus ernst. So gab die Cloud Security Alliance (CSA) ein Whitepaper heraus, wie mit der neuen Situation umzugehen ist. Zu den Autoren des CSA-Papiers „The ‚AI Vulnerability Storm‘: Building a ‚Mythos-ready‘ Security Program“ zählen so renommierte Security-Fachleute wie Heather Adkins, Chris Inglis, Katie Moussouris oder auch Bruce Schneier.
Schneier fasste seine Einschätzung von Mythos in einem Blog-Beitrag zusammen. Ich paraphrasiere das Wesentliche:
- Ja, das war ein PR-Schachzug von Anthropic, und er hat funktioniert.
- Aber die Modelle von Anthropic und OpenAI zeigen in der Tat zunehmend ausgefeilte Cyberangriffsfähigkeiten und schreiben wirksame Exploits ohne menschliches Zutun.
- Derzeit sind die Verteidiger im Vorteil, denn es ist einfacher, eine Schwachstelle zu beheben, als einen funktionierenden Exploit dafür zu schreiben.
- Wer angesichts der drohenden Folgen in Panik gerät, hat das Problem erkannt, obschon dessen Zeitachse bislang unklar ist. Vielleicht ist die Zeitenwende soeben mit den beiden neuen Frontier-Modellen eingetreten, vielleicht schon vor sechs Monaten, vielleicht kommt sie erst noch. Ziel muss es jedenfalls sein, sich schnellstmöglich auf die radikal neue Lage vorzubereiten.
Hierzulande resümierte Dennis-Kenji Kipker, Gründer und Forschungsdirektor des Cyberintelligence Institute in Frankfurt : „Die digitale Sicherheit, wie wir sie kennen, ist definitiv vorbei.“ Über die aktuelle Generation von KI-Modellen urteilt er: „Das ist keine rein technische Evolution mehr, sondern ein Bruch mit einem System, das wir lange Jahre als Standard akzeptiert haben.“
Blick aufs Ganze und aufs Detail
Angesichts verbreiteter Verunsicherung darüber, wie sich der Wettlauf von Angreifer- und Verteidiger-KI entwickeln wird, habe ich Stefan Strobel, den Mitgründer und Geschäftsführer des Security-Beratungshauses Cirosec, ein paar Fragen zu seiner Einschätzung der Lage gestellt. Denn er verbindet – in dieser Hinsicht Bruce Schneier nicht unähnlich – den kühlen Blick aufs große Ganze mit dem kenntnisreichen Auge fürs technische Detail.
IT Info 2 Go: Stefan, wie groß ist das Problem, dass Angreifer heute die Suche nach Zero Days mit KI beschleunigen können, angesichts der Tatsache, dass sie – mit oder ohne KI – in aller Regel auch so ausreichend große Angriffsflächen in Unternehmensnetzen finden?
Stefan Strobel: Schon für die Jahre 2024 und 2025 zeigen Statistiken z.B. von VulnCheck, dass ungefähr ein Drittel der im jeweiligen Jahr ausgenutzten Schwachstellen schon vor oder am Tag der Veröffentlichung ausgenutzt wurden. Es ist also kein neues Problem, dass wir mit dem Patchen nicht hinterher kommen. Wie soll man auch patchen, wenn man von der Existenz der Schwachstelle nichts wissen kann und es keinen Patch gibt?
Für die betroffenen Organisationen bedeutet das einerseits, dass Patch-Zyklen von vier oder auch zwei Wochen zu langsam sind. Gerade bei Systemen, die im Internet erreichbar sind, muss man schneller werden, auch wenn damit das Risiko steigt, dass ein Patch danebengeht und man zurückrollen muss.
Andererseits muss man auch in Erwägung ziehen, dass man gelegentlich zu spät kommt und eine Schwachstelle schon ausgenutzt wurde. Damit sind wir wieder bei „Assume Breach“ („Gehe von einer Kompromittierung aus“, d.Red.), was im Kontext von Zero Trust eines der Grundparadigmen ist.
Wir müssen uns von der Idee lösen, dass wir ein sicheres internes Netz haben. Es könnte schon gehackt worden sein oder es könnte jederzeit passieren. Nicht nur aufgrund der vielen neuen Schwachstellen, die wir noch nicht patchen konnten, sondern auch wegen der vielen neuen Supply-Chain-Angriffe. Wir können leider nicht mehr davon ausgehen, dass gekaufte Software oder bekannte Open-Source-Software frei von Hintertüren ist. An Notepad++ oder Solarwinds erinnert sich vermutlich jeder.
Mit KI gefundene neue Schwachstellen sind nur ein weiteres Argument für Zero Trust, und damit meine ich nicht die Produkte, die mit dem Zero Trust werben, sondern die grundlegenden Paradigmen, an denen man sich bei der Sicherheitsarchitektur orientieren sollte.
Wo können Angreifer generative und/oder agentische KI am effektivsten einsetzen, um Unternehmensnetze zu kompromittieren?
KI ist für Angreifer in der Praxis vor allem ein Werkzeug für effizientere Automatisierung von Angriffen. Sowohl bei Angriffen auf extern erreichbare Applikationen als auch bei Phishing-Angriffen auf Menschen kann KI Dinge vereinfachen, beschleunigen oder überzeugender gestalten.
Wenn wir uns an Reply Chain Spoofing erinnern, wie es damals von Emotet gemacht wurde: Da haben Angreifer die Mails eines ersten Opfers verwendet, um Mails an die nächsten Opfer zu beantworten. Das Phishing war damit viel überzeugender, auch wenn der Text der vermeintlichen Antwort-Mails in einigen Fällen nicht gepasst hat.
Mit LLMs kann man noch viel überzeugender und automatisierter vorgehen. Gerade für kleinere Unternehmen, die oft davon ausgehen, dass „von ihnen doch keiner was will“, ist dieser Punkte wichtig. Die automatisierten Angriffe werden mithilfe von KI breit gestreut und die Angreifer fokussieren sich nicht nur auf bekannte Firmen.
Wie können Verteidiger KI – genauer: generative und/oder agentische KI – am effektivsten nutzen? Triage? Konfigurations-Auditing? Oder eher zur Verbesserung von Workflows oder für Reports, die auch das Business-Management versteht?
KI kommt schon lange in verschiedenen Bereichen der Verteidigung zum Einsatz. Next-Gen Antivirus nutzt seit Jahren KI, um Schadsoftware zu erkennen. EDR, NDR und XDR (Endpoint/Network/Extended Detection and Response, d.Red.) verwenden KI zur Erkennung von Angriffen. Agentische KI wandert jetzt vor allem ins SOC (Security Operations Center, d.Red.), wo die KI Analysten bei der Bewertung von Alarmen unterstützt.
Es gibt zudem bereits diverse Anbieter, die KI-gestütztes Penetration Testing offerieren. Was ist von solchen Angeboten zu halten? Anders formuliert: In welchem Maße kann KI tatsächlich helfen, das Pen-Testing zu beschleunigen oder gar teilweise zu automatisieren – und in welchem Maße ist und bleibt es eine individuelle und manuelle Dienstleistung?
Bei Penetrationstests haben wir schon lange die Problematik, dass der Begriff eine sehr große Bandbreite besitzt. Manche interpretieren den Begriff sehr oberflächlich und bezeichnen schon automatisierte Schwachstellenscans als Penetrationstest. Andere gehen sehr viel tiefer und haben den Anspruch, auch komplexe Schwachstellen zu finden, für die man auch den Business-Kontext der Zielsysteme verstehen muss. Wieder andere glauben, dass man einen Penetrationstest nutzen kann, um die Arbeit eines SOCs zu prüfen, was aber die Domäne von Red Teaming ist und ganz andere Skills und Vorgehensweisen voraussetzt.
KI kann sicherlich einfache Schwachstellen finden und dabei mehr leisten als klassische Scanner, aber man benötigt immer noch einen erfahrenen Pen-Tester, um die KI zu steuern, die Halluzinationen von den realen Schwachstellen zu trennen und die Ergebnisse korrekt zu bewerten. Erfahrene Pen-Tester sind der KI in vielen Bereichen überlegen.
Danke für deine Einordnung!
Mensch und KI Hand in Hand
Stefan Strobels Einschätzung bestätigt, was jüngst schon in meinem Blog-Post über den KI-gestützten SOC-Betrieb des Managed-Security-Dienstleisters Arctic Wolf Thema war: Derzeit ist offenbar auf Angreifer- wie auch auf Verteidigerseite zunehmend viel KI-automatisiert machbar, wobei sich aber – zumindest vorerst – der Erfolg vorrangig durch das Zusammenspiel von Mensch und KI einstellt.
Auf Angreiferseite heißt das eben vor allem: KI erleichtert nicht nur das Phishing, sondern auch das Erstellen von Exploits. Daher ist es eine interessante Entwicklung, dass in Verizons aktuellem Data Breach Investigations Report (DBIR) erstmals das Ausnutzen von Schwachstellen mit großem Abstand auf Platz eins der Initial-Access-Vektoren, also der Einbruchsmethoden in Netzwerke, steht (mit 31%). Hingegen ist der noch 2023 weitaus beliebteste Einbruchspfad, der Missbrauch von Zugriffsberechtigungen (Credentials Abuse), auf 13% abgerutscht.
Entwicklung der Initial-Access-Vektoren. Quelle: Verizon DBIR 2026
Und so erklärt sich auch, warum auf dem US-Arbeitsmarkt laut New York Times derzeit ein regelrechter Nachfrageboom nach Fachleuten für die Abwehr von Cyberangriffen herrscht. Denn für KI gilt offenbar das Gleiche wie für andere revolutionäre Grundlagentechnologien (Dampfmaschine, Elektrizität, Internet) zuvor: Die Technik ist, je nach Blickwinkel, faszinierend oder erschreckend, aber ihr volles Potenzial kann sie erst entfalten, wenn Menschen wissen, wie man produktiv mit ihr umgeht.
Nun steht eben nur noch die Frage im Raum, ob – sei es im Kopfstand oder mit beiden Beinen auf der Erde – die Angreifer oder die Verteidiger langfristig die produktiveren Zeitgenossen sind.
Hat euch dieser Text gefallen? Dann erzählt doch einem Menschen davon, den das Thema ebenfalls interessieren könnte! Denn liebevoll erstellte Inhalte verbreiten sich am besten per Mundpropaganda.
Bilder: Dr. Wilhelm Greiner, Verizon
Cartoons: Wolfgang Traub
IT Info 2 Go 
Du muss angemeldet sein, um einen Kommentar zu veröffentlichen.