WIR SCHÜTZEN
KRITISCHE SYSTEME

KI-Agenten sind aktuell das Buzzword Nummer eins in der Cybersecurity-Branche. Jeder Hersteller hat plötzlich einen Agenten im Portfolio, aber wie viel davon ist echte Automatisierung, und wie viel ist nur ein neues Etikett auf altbekannter Technik?

In dieser Folge von Cybersecurity Basement spricht Michael mit Andreas Papadaniil über den aktuellen Hype rund um KI-Agenten im Security Operations Center (SOC). Sie ordnen ein, was hinter Begriffen wie Concierge Service, Human in the Loop, On the Loop und Agent Washing wirklich steckt, und warum das Harvard-Konzept des Agent Washing gerade für Cybersecurity-Entscheider so relevant wird: Automatisierungsregeln, die im Marketing plötzlich als autonome KI-Agenten verkauft werden.

Themen der Folge:

• Was KI-Agenten im SOC heute wirklich leisten – Analysten-Agenten, Phishing-Agenten und autonome Response-Agenten im Vergleich
• Agent Washing: Wie Hersteller Automatisierung als KI-Agent vermarkten
• Warum hohe Automatisierungsquoten (95 %, 98 %) kritisch hinterfragt werden sollten
• Human in the Loop vs. On the Loop: Wo bleibt der Mensch in der Entscheidung?
• Vermenschlichte Agenten mit Eigennamen (z. B. Sokrates, Lilly) – Marketing-Trick oder echter Mehrwert?
• Der EU AI Act und die Pflicht, KI-Agenten als solche zu kennzeichnen
• Haftungsfragen: Wer zahlt, wenn ein Agent falsch reagiert?
• Worauf IT-Verantwortliche und Cybersecurity-Entscheider beim Kauf agentenbasierter SOC-Lösungen wirklich achten sollten

Ein KI-Agent soll in einem streng abgesteckten Testszenario eine einzelne Aktion ausführen. Stattdessen bricht er eigenständig aus, hackt sich in die Plattform Hugging Face, erbeutet Zugangsdaten und führt über 17.000 autonome Aktionen aus. 

In dieser Folge von Cybersecurity Basement ordnet Michael Döhmen gemeinsam mit Andreas Papadaniil (suresecure-CEO) ein, was beim autonomen ChatGPT-Angriff auf Hugging Face wirklich passiert ist und was er für die Cyberabwehr im deutschen Mittelstand bedeutet. 

Im Mittelpunkt steht die Frage, wie sich Unternehmen gegen eine Geschwindigkeit verteidigen, die kein Mensch mehr mithalten kann: warum Prävention allein gegen eine Sicherheitslücke ohne verfügbaren Patch nicht ausreicht, welche Rolle automatisierte Erkennung und Reaktion in modernen SOCs spielt und warum Security Operations Center mit KI-Unterstützung für den Mittelstand zunehmend zur Pflicht werden. 

Passende Folgen:

Wenn die KI selbstständig wird: Drei reale Cyberangriffe, bei denen genau das passiert ist

Dreimal gehackt, dreimal gezahlt: Die Lösegeldfalle nach dem Cyberangriff

Agentic AI als Zukunft moderner SOCs: Insights & Trends von der Google Cloud Next `26

Drei reale Cyberangriffe zeigen, wie weit KI in der Cyberkriminalität heute schon ist: Ein Ransomware-Agent wechselt in unter zwei Minuten vom Windows- ins Linux-System; schneller, als ein Mensch reagieren könnte. Ein Anruf wirkt täuschend echt, obwohl am anderen Ende nur eine KI-Stimme spricht. Und ein KI-Modell bricht aus seiner eigenen Testumgebung aus, weil es einen gefundenen Angriff erst beweisen musste.

In dieser Folge von Cybersecurity Basement spricht Michael mit André Ditzel, Principal Analyst bei suresecure, darüber, was diese Angriffe technisch möglich macht und warum sie sich so schwer erkennen lassen. Es geht um die Ransomware-Gruppe, die ihre Strategie live an das vorgefundene Unternehmensnetzwerk anpasst, um die Voice-Phishing-Plattform hinter dem sogenannten TOAD-Angriff und um den viel diskutierten OpenAI-Fall, bei dem eine KI aus ihrer Sandbox ausbrach.

Am Ende dreht sich das Gespräch um die Verteidigung: Warum Angreifer noch immer nur einen einzigen Fehler brauchen, während Unternehmen ihre gesamte IT-Landschaft absichern müssen, und wie viel davon am Ende doch an den altbekannten Basics hängt.

Reinhören lohnt sich für alle, die wissen wollen, wie nah KI-gestützte Cyberangriffe der Realität in deutschen Unternehmen schon sind.

Passende Folge zum Thema:

KI im Einsatz der Hacker: Deepfakes, Agenten & 24/7-Cyberangriffe