K\u00fcnstliche Intelligenz hat in der IT-Sicherheit eine Schwelle \u00fcberschritten, die noch vor wenigen Jahren als theoretisch galt. Sie findet Schwachstellen in Software nicht mehr nur schneller als der Mensch \u2013 sie tut es in einer Gr\u00f6\u00dfenordnung und Geschwindigkeit, die etablierte Schutzmechanismen unter Druck setzt. Aus der Perspektive eines gerichtlich beeideten Sachverst\u00e4ndigen ist das weit mehr als ein technisches Wettr\u00fcsten: Es verschiebt Beweislage, Haftungsfragen und den Ma\u00dfstab dessen, was als \u201eStand der Technik“ gilt.<\/p>\n\n\n\n
Dieser Beitrag ordnet die aktuelle Entwicklung ein \u2013 n\u00fcchtern, mit belegbaren Beispielen und einem kritischen Blick auf beide Seiten des Dilemmas.<\/p>\n\n\n\n
Den Anfang markierte eine eher unscheinbare Forschungsarbeit Anfang 2024: Ein universit\u00e4res Team zeigte, dass ein gro\u00dfes Sprachmodell mit der richtigen Umgebung bereits offengelegte, aber noch ungepatchte Schwachstellen selbst\u00e4ndig ausnutzen konnte \u2013 mit einer Erfolgsquote von rund 87 Prozent und ohne menschliches Zutun. Was damals als Laborbefund alarmierte, ist heute Praxis.<\/p>\n\n\n\n
Inzwischen durchsuchen KI-Agenten ganze Codebasen in Stunden, f\u00fcr die ein menschlicher Forscher Wochen br\u00e4uchte. Trend Micro berichtete, dass sein KI-gest\u00fctztes Forschungssystem seit Mitte 2025 \u00fcber zwanzig kritische Sicherheitsl\u00fccken in zentraler KI-Infrastruktur namhafter Hersteller aufdeckte. Besonders aufschlussreich ist ein anderer Fall: Ein KI-System fand in OpenSSL und curl \u2013 zwei der am gr\u00fcndlichsten gepr\u00fcften, sicherheitskritischsten Code-Projekte der Welt \u2013 mehrere bislang unbekannte Schwachstellen, von denen ein Teil bereits vor der Auslieferung abgefangen werden konnte. Genau dort, wo jahrzehntelange menschliche Pr\u00fcfung an Grenzen st\u00f6\u00dft, spielt die Maschine ihre St\u00e4rken aus: unerm\u00fcdliche Aufmerksamkeit, massive Parallelisierung, kein Erm\u00fcden, keine Langeweile.<\/p>\n\n\n\n
Die logische Folge: Die Zahl gemeldeter Schwachstellen steigt schneller, als Unternehmen patchen k\u00f6nnen. Fachpublikationen sprechen bereits von einer Lawine an Zero-Day-Funden, die die Patch-Zyklen der Organisationen \u00fcberholt.<\/p>\n\n\n\n
Die entscheidende Z\u00e4sur fiel 2025. Anthropic dokumentierte einen Vorfall, der im September 2025 entdeckt und im November \u00f6ffentlich gemacht wurde: die nach eigener Einsch\u00e4tzung erste gro\u00dfangelegte Cyber-Spionagekampagne, die \u00fcberwiegend von KI-Agenten ausgef\u00fchrt wurde. Mit hoher Sicherheit wurde sie einer staatlich unterst\u00fctzten Gruppe zugeordnet. Rund drei\u00dfig hochrangige Ziele \u2013 Technologiekonzerne, Finanzinstitute, Chemieunternehmen, Beh\u00f6rden \u2013 wurden ins Visier genommen.<\/p>\n\n\n\n
Das Bemerkenswerte daran: Die KI erledigte 80 bis 90 Prozent der taktischen Operationen eigenst\u00e4ndig \u2013 Aufkl\u00e4rung, das Auffinden und Ausnutzen von Schwachstellen, das Abgreifen von Zugangsdaten, die seitliche Bewegung im Netzwerk und die Datenexfiltration. Menschen griffen nur an wenigen strategischen Entscheidungspunkten ein, w\u00e4hrend das System mit einer Taktung arbeitete, die kein menschlicher Angreifer durchhalten k\u00f6nnte. Und es blieb kein Einzelfall: Google meldete im Mai 2026 den ersten bekannten Fall, in dem ein Angreifer einen von KI entwickelten Zero-Day-Exploit tats\u00e4chlich in freier Wildbahn einsetzte.<\/p>\n\n\n\n
Hier wird das Dilemma greifbar. Dieselbe Technologie, die einem Verteidiger hilft, eine L\u00fccke in Stunden statt Wochen zu schlie\u00dfen, senkt f\u00fcr den Angreifer die Einstiegsh\u00fcrde dramatisch. F\u00e4higkeiten, die bisher Nachrichtendiensten oder einer kleinen Elite vorbehalten waren, geraten in die Reichweite weniger versierter Akteure.<\/p>\n\n\n\n
Das Bild vom \u201eWettrennen zwischen Angreifern und Verteidigern“ ist zutreffend, aber es verschleiert eine Asymmetrie. Der Angreifer muss nur eine einzige verwertbare L\u00fccke finden. Der Verteidiger muss s\u00e4mtliche L\u00fccken schlie\u00dfen \u2013 und das in einer Umgebung, in der die Maschine t\u00e4glich neue findet.<\/p>\n\n\n\n
Offensive Automatisierung ist zudem billiger und schneller skalierbar als defensive H\u00e4rtung, die Tests, Freigaben, Kompatibilit\u00e4t und Betrieb ber\u00fccksichtigen muss. Wer rein technisch betrachtet, k\u00f6nnte den Verteidigern d\u00fcstere Aussichten prophezeien. Doch dieses Bild ist unvollst\u00e4ndig.<\/p>\n\n\n\n
Eine kritische Auseinandersetzung darf die Schw\u00e4chen der Angreiferseite nicht ausblenden. Im selben Bericht \u00fcber die KI-gesteuerte Spionagekampagne wurde dokumentiert, dass die KI immer wieder halluzinierte: Sie erfand Zugangsdaten oder stufte frei verf\u00fcgbare Informationen als brisante Funde ein. Diese Fehleranf\u00e4lligkeit begrenzte die Wirksamkeit der Operation sp\u00fcrbar \u2013 und sie verschwindet nicht von selbst.<\/p>\n\n\n\n
Auf der defensiven Seite zeigt sich die Kehrseite derselben Medaille. Ein bekanntes Open-Source-Projekt sah sich gezwungen, sein Bug-Bounty-Programm faktisch einzustellen, weil es in einer Flut minderwertiger, KI-generierter Schwachstellenmeldungen unterging. Automatisierung erzeugt eben nicht nur Funde, sondern auch L\u00e4rm \u2013 und L\u00e4rm bindet genau jene knappe menschliche Expertise, die zur Bewertung n\u00f6tig w\u00e4re.<\/p>\n\n\n\n
Die n\u00fcchterne Schlussfolgerung lautet daher nicht \u201edie Maschine \u00fcbernimmt“, sondern: Die menschliche Urteilskraft wird wertvoller, nicht \u00fcberfl\u00fcssig. KI verschiebt die Arbeit von der Suche zur Bewertung, von der Quantit\u00e4t zur Verl\u00e4sslichkeit.<\/p>\n\n\n\n
An genau dieser Stelle wird die Entwicklung f\u00fcr Gerichte und Anw\u00e4lte relevant \u2013 und hier liegt aus meiner Sicht der eigentliche Kern des Dilemmas.<\/p>\n\n\n\n
Erstens die Sorgfaltsfrage<\/strong>. Wenn KI-gest\u00fctzte Verteidigungswerkzeuge breit verf\u00fcgbar sind, verschiebt sich der Ma\u00dfstab des Zumutbaren. Was gestern als angemessene Sicherheitsvorkehrung galt, kann morgen als fahrl\u00e4ssig erscheinen. Der \u201eStand der Technik“ \u2013 ein zentraler Begriff in Datenschutz und Produkthaftung \u2013 wird zum beweglichen Ziel.<\/p>\n\n\n\n Zweitens die Zurechnung<\/strong>. Wenn ein autonomer Agent 80 bis 90 Prozent der Handlungen selbst\u00e4ndig ausf\u00fchrt, wird die forensische Rekonstruktion eines Angriffs schwieriger: Wer hat gehandelt, wer hat entschieden, und an welcher Stelle? Beweissicherung und Spurenanalyse m\u00fcssen mit Systemen umgehen, die in einem Tempo und in einer Verzweigung operieren, die klassische Logfile-Analysen an ihre Grenzen bringen.<\/p>\n\n\n\n Drittens der regulatorische Rahmen<\/strong>. Der EU AI Act adressiert Hochrisiko- und Dual-Use-Anwendungen, die NIS2-Richtlinie versch\u00e4rft Sicherheits- und Meldepflichten, und die Produkthaftung r\u00fcckt fehlerhafte oder unzureichend gesicherte Systeme st\u00e4rker in den Fokus. Die juristische Bewertung solcher Sachverhalte verlangt ein technisches Verst\u00e4ndnis, das mit der Geschwindigkeit der Entwicklung Schritt h\u00e4lt.<\/p>\n\n\n\n Die KI hat das Wettrennen in der Cybersecurity beschleunigt, aber sie hat es nicht entschieden. Angreifer profitieren von gesunkenen Einstiegsh\u00fcrden und maschineller Geschwindigkeit; Verteidiger profitieren von denselben Werkzeugen, m\u00fcssen sie aber konsequenter einsetzen, um nicht ins Hintertreffen zu geraten. Wer auf KI in der Verteidigung verzichtet, f\u00e4llt zur\u00fcck \u2013 wer ihr blind vertraut, produziert Fehlalarme und falsche Sicherheit.<\/p>\n\n\n\n Das eigentliche Dilemma ist also kein rein technisches. Es ist die Frage, wie wir Verantwortung, Sorgfalt und Beweisbarkeit in einer Welt definieren, in der Maschinen sowohl angreifen als auch verteidigen \u2013 schneller, als der Mensch beide Seiten \u00fcberblicken kann. Diese \u00dcbersetzungsleistung zwischen Technik und Recht wird in den kommenden Jahren \u00fcber den Ausgang vieler Verfahren mitentscheiden.<\/p>\n","protected":false},"excerpt":{"rendered":" K\u00fcnstliche Intelligenz hat in der IT-Sicherheit eine Schwelle \u00fcberschritten, die noch vor wenigen Jahren als theoretisch galt. Sie findet Schwachstellen in Software nicht mehr nur schneller als der […]<\/p>\n","protected":false},"author":1,"featured_media":263,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-264","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-allgemein"],"a3_pvc":{"activated":false,"total_views":0,"today_views":0},"yoast_head":"\nFazit: kein Grund zur Panik, kein Grund zur Sorglosigkeit<\/h2>\n\n\n\n