Künstliche Intelligenz hat in der IT-Sicherheit eine Schwelle überschritten, die noch vor wenigen Jahren als theoretisch galt. Sie findet Schwachstellen in Software nicht mehr nur schneller als der Mensch – sie tut es in einer Größenordnung und Geschwindigkeit, die etablierte Schutzmechanismen unter Druck setzt. Aus der Perspektive eines gerichtlich beeideten Sachverständigen ist das weit mehr als ein technisches Wettrüsten: Es verschiebt Beweislage, Haftungsfragen und den Maßstab dessen, was als „Stand der Technik“ gilt.
Dieser Beitrag ordnet die aktuelle Entwicklung ein – nüchtern, mit belegbaren Beispielen und einem kritischen Blick auf beide Seiten des Dilemmas.
Vom Hilfsmittel zur autonomen Maschine
Den Anfang markierte eine eher unscheinbare Forschungsarbeit Anfang 2024: Ein universitäres Team zeigte, dass ein großes Sprachmodell mit der richtigen Umgebung bereits offengelegte, aber noch ungepatchte Schwachstellen selbständig ausnutzen konnte – mit einer Erfolgsquote von rund 87 Prozent und ohne menschliches Zutun. Was damals als Laborbefund alarmierte, ist heute Praxis.
Inzwischen durchsuchen KI-Agenten ganze Codebasen in Stunden, für die ein menschlicher Forscher Wochen bräuchte. Trend Micro berichtete, dass sein KI-gestütztes Forschungssystem seit Mitte 2025 über zwanzig kritische Sicherheitslücken in zentraler KI-Infrastruktur namhafter Hersteller aufdeckte. Besonders aufschlussreich ist ein anderer Fall: Ein KI-System fand in OpenSSL und curl – zwei der am gründlichsten geprüften, sicherheitskritischsten Code-Projekte der Welt – mehrere bislang unbekannte Schwachstellen, von denen ein Teil bereits vor der Auslieferung abgefangen werden konnte. Genau dort, wo jahrzehntelange menschliche Prüfung an Grenzen stößt, spielt die Maschine ihre Stärken aus: unermüdliche Aufmerksamkeit, massive Parallelisierung, kein Ermüden, keine Langeweile.
Die logische Folge: Die Zahl gemeldeter Schwachstellen steigt schneller, als Unternehmen patchen können. Fachpublikationen sprechen bereits von einer Lawine an Zero-Day-Funden, die die Patch-Zyklen der Organisationen überholt.
Der Kipppunkt: KI nicht mehr als Berater, sondern als Akteur
Die entscheidende Zäsur fiel 2025. Anthropic dokumentierte einen Vorfall, der im September 2025 entdeckt und im November öffentlich gemacht wurde: die nach eigener Einschätzung erste großangelegte Cyber-Spionagekampagne, die überwiegend von KI-Agenten ausgeführt wurde. Mit hoher Sicherheit wurde sie einer staatlich unterstützten Gruppe zugeordnet. Rund dreißig hochrangige Ziele – Technologiekonzerne, Finanzinstitute, Chemieunternehmen, Behörden – wurden ins Visier genommen.
Das Bemerkenswerte daran: Die KI erledigte 80 bis 90 Prozent der taktischen Operationen eigenständig – Aufklärung, das Auffinden und Ausnutzen von Schwachstellen, das Abgreifen von Zugangsdaten, die seitliche Bewegung im Netzwerk und die Datenexfiltration. Menschen griffen nur an wenigen strategischen Entscheidungspunkten ein, während das System mit einer Taktung arbeitete, die kein menschlicher Angreifer durchhalten könnte. Und es blieb kein Einzelfall: Google meldete im Mai 2026 den ersten bekannten Fall, in dem ein Angreifer einen von KI entwickelten Zero-Day-Exploit tatsächlich in freier Wildbahn einsetzte.
Hier wird das Dilemma greifbar. Dieselbe Technologie, die einem Verteidiger hilft, eine Lücke in Stunden statt Wochen zu schließen, senkt für den Angreifer die Einstiegshürde dramatisch. Fähigkeiten, die bisher Nachrichtendiensten oder einer kleinen Elite vorbehalten waren, geraten in die Reichweite weniger versierter Akteure.
Warum das Wettrennen strukturell ungleich ist
Das Bild vom „Wettrennen zwischen Angreifern und Verteidigern“ ist zutreffend, aber es verschleiert eine Asymmetrie. Der Angreifer muss nur eine einzige verwertbare Lücke finden. Der Verteidiger muss sämtliche Lücken schließen – und das in einer Umgebung, in der die Maschine täglich neue findet.
Offensive Automatisierung ist zudem billiger und schneller skalierbar als defensive Härtung, die Tests, Freigaben, Kompatibilität und Betrieb berücksichtigen muss. Wer rein technisch betrachtet, könnte den Verteidigern düstere Aussichten prophezeien. Doch dieses Bild ist unvollständig.
Der notwendige Gegen-Blick: KI ist schnell, aber nicht unfehlbar
Eine kritische Auseinandersetzung darf die Schwächen der Angreiferseite nicht ausblenden. Im selben Bericht über die KI-gesteuerte Spionagekampagne wurde dokumentiert, dass die KI immer wieder halluzinierte: Sie erfand Zugangsdaten oder stufte frei verfügbare Informationen als brisante Funde ein. Diese Fehleranfälligkeit begrenzte die Wirksamkeit der Operation spürbar – und sie verschwindet nicht von selbst.
Auf der defensiven Seite zeigt sich die Kehrseite derselben Medaille. Ein bekanntes Open-Source-Projekt sah sich gezwungen, sein Bug-Bounty-Programm faktisch einzustellen, weil es in einer Flut minderwertiger, KI-generierter Schwachstellenmeldungen unterging. Automatisierung erzeugt eben nicht nur Funde, sondern auch Lärm – und Lärm bindet genau jene knappe menschliche Expertise, die zur Bewertung nötig wäre.
Die nüchterne Schlussfolgerung lautet daher nicht „die Maschine übernimmt“, sondern: Die menschliche Urteilskraft wird wertvoller, nicht überflüssig. KI verschiebt die Arbeit von der Suche zur Bewertung, von der Quantität zur Verlässlichkeit.
Was das für Recht, Haftung und Begutachtung bedeutet
An genau dieser Stelle wird die Entwicklung für Gerichte und Anwälte relevant – und hier liegt aus meiner Sicht der eigentliche Kern des Dilemmas.
Erstens die Sorgfaltsfrage. Wenn KI-gestützte Verteidigungswerkzeuge breit verfügbar sind, verschiebt sich der Maßstab des Zumutbaren. Was gestern als angemessene Sicherheitsvorkehrung galt, kann morgen als fahrlässig erscheinen. Der „Stand der Technik“ – ein zentraler Begriff in Datenschutz und Produkthaftung – wird zum beweglichen Ziel.
Zweitens die Zurechnung. Wenn ein autonomer Agent 80 bis 90 Prozent der Handlungen selbständig ausführt, wird die forensische Rekonstruktion eines Angriffs schwieriger: Wer hat gehandelt, wer hat entschieden, und an welcher Stelle? Beweissicherung und Spurenanalyse müssen mit Systemen umgehen, die in einem Tempo und in einer Verzweigung operieren, die klassische Logfile-Analysen an ihre Grenzen bringen.
Drittens der regulatorische Rahmen. Der EU AI Act adressiert Hochrisiko- und Dual-Use-Anwendungen, die NIS2-Richtlinie verschärft Sicherheits- und Meldepflichten, und die Produkthaftung rückt fehlerhafte oder unzureichend gesicherte Systeme stärker in den Fokus. Die juristische Bewertung solcher Sachverhalte verlangt ein technisches Verständnis, das mit der Geschwindigkeit der Entwicklung Schritt hält.
Fazit: kein Grund zur Panik, kein Grund zur Sorglosigkeit
Die KI hat das Wettrennen in der Cybersecurity beschleunigt, aber sie hat es nicht entschieden. Angreifer profitieren von gesunkenen Einstiegshürden und maschineller Geschwindigkeit; Verteidiger profitieren von denselben Werkzeugen, müssen sie aber konsequenter einsetzen, um nicht ins Hintertreffen zu geraten. Wer auf KI in der Verteidigung verzichtet, fällt zurück – wer ihr blind vertraut, produziert Fehlalarme und falsche Sicherheit.
Das eigentliche Dilemma ist also kein rein technisches. Es ist die Frage, wie wir Verantwortung, Sorgfalt und Beweisbarkeit in einer Welt definieren, in der Maschinen sowohl angreifen als auch verteidigen – schneller, als der Mensch beide Seiten überblicken kann. Diese Übersetzungsleistung zwischen Technik und Recht wird in den kommenden Jahren über den Ausgang vieler Verfahren mitentscheiden.
