Geschrieben am 24.06.2025 von:
Noureddine Jerbi
Penetration Tester | IT Security Consultant
zum Profil
Kontaktiere mich:
+49 (0) 261 – 9886236 44
E-Mail senden
Spätestens in den letzten zwei Jahren konnte beobachtet werden, wie Künstliche Intelligenz nicht nur in zahlreichen Geschäftsbereichen erfolgreich integriert wird, sondern auch in der Cyberkriminalität immer geschickter Anwendung findet. Sie hat sich zu einem mächtigen Werkzeug für Cyberkriminelle entwickelt, sowohl bei der Erschaffung neuer Angriffsszenarien – wie in dem vorherigen Beitrag beschrieben – als auch bei der Skalierung bereits bestehender Methoden. Sie erleichtert den Einstieg in die Welt der Cyberkriminalität erheblich und widerlegt die Annahme, dass ein Hacker zwangsläufig über außergewöhnliche Fähigkeiten oder ein tiefes Verständnis von Computersystemen verfügen muss.
Wie jede andere Technologie hat auch die KI ihre Schwachstellen und eröffnet dadurch bei der Nutzung im Unternehmen neue Angriffspunkte, die die Angriffsfläche weiter vergrößern. Ein Beispiel dafür ist die sogenannte „Prompt-Injection“. Dieser Angriffstyp zielt darauf ab, KI-Systeme durch gezielte Eingabeaufforderungen so zu manipulieren, dass sie ein Verhalten zeigen, das von ihrem vorgesehenen Zweck abweicht. Dabei liegt die Schwachstelle nicht im Softwarecode selbst, sondern in der Art und Weise, wie Eingaben verarbeitet werden. Im Vergleich zu klassischen „Injections“ wie SQL-Injection oder Cross-Site-Scripting (XSS), die bösartigen Code in Webseiten oder Datenbanken einschleusen, wirkt die Prompt-Injection subtiler. Sie ähnelt Techniken des Social Engineering, indem sie KI-Systeme durch präzise formulierte Befehle oder Anweisungen täuscht, um sie zu unerwünschten Reaktionen zu verleiten. Ein Beispiel hierfür wäre ein Chatbot, der mit riesigen Datensätzen trainiert wurde, die möglicherweise vertrauliche Informationen enthalten. Während der Chatbot normalerweise nicht auf direkte Anfragen nach sensiblen Daten oder firmeninternem Wissen reagieren sollte, könnte er durch geschickte Fragestellungen manipuliert werden. Solche Fragen könnten im Kontext verändert oder mit falschen Absichten gestellt werden, um die KI dazu zu bringen, Informationen preiszugeben, die eigentlich geschützt bleiben sollten.
Neben den eher negativ behafteten Aspekten der Künstlichen Intelligenz im Zusammenhang mit Cyberkriminalität und Angriffsszenarien bietet sie aber auch erhebliches Potenzial, den Bereich der Cybersicherheit positiv zu transformieren. KI-gestützte Sicherheitslösungen sind in der Lage, große Datenmengen in Echtzeit zu verarbeiten, wodurch eine schnellere Erkennung, präzisere Analyse und effektivere Abwehr von Bedrohungen und Schwachstellen ermöglicht wird.
KI-basierte Vorhersagemodelle können genutzt werden, um Anzeichen potenzieller Zero-Day-Schwachstellen zu identifizieren – eine der größten Bedrohungen für Organisationen, da für solche Schwachstellen meist keine Patches verfügbar sind. Dies stellt einen entscheidenden Vorteil gegenüber herkömmlichen Schwachstellen-Scannern dar, die lediglich auf Datenbanken bekannter Schwachstellen zurückgreifen. Ähnliches gilt für die Erkennung neuer und aufkommender Malware. Während traditionelle Antivirensoftware auf bekannte Malware-Signaturen angewiesen ist, verwenden KI-basierte Sicherheitslösungen fortschrittliche Algorithmen des maschinellen Lernens, um das Verhalten von Dateien und Programmen zu analysieren. Dadurch können selbst neuartige und unbekannte Malware-Varianten frühzeitig erkannt und abgewehrt werden.
Neben den bisher behandelten neuen Angriffsmethoden rücken zunehmend auch gesetzliche und regulatorische Anforderungen in den Fokus, die Unternehmen zum Handeln zwingen. Vorgaben wie die NIS-2-Richtlinie und der Cyber Resilience Act verpflichten Organisationen dazu, konkrete Sicherheitsmaßnahmen umzusetzen. Diese Entwicklungen stehen im Mittelpunkt des nächsten Beitrags unserer Reihe.