Die Verwendung von Künstlicher Intelligenz (KI) im Bereich der Cybersicherheit ist seit längerem etabliert. Ihre Fähigkeit, große Datenmengen rasch zu analysieren und Bedrohungen rechtzeitig zu erkennen, sorgte lange Zeit für eine erhöhte Sicherheit in der digitalen Welt. Doch mit der Einführung generativer KI-Tools wie GPT-4 im Jahr 2023 geraten Sicherheitsfachleute zunehmend in Alarmzustand, da die Möglichkeit zur missbräuchlichen Anwendung dieser Technologien durch Cyberkriminelle stark gestiegen ist.
Großangelegte Sprachmodelle (LLMs), die das Herzstück der generativen KI bilden, erlauben die Erstellung von Texten, Bildern und Videos auf Befehl und bieten damit für viele Menschen vielfältige Vorteile. Doch auch die Gefährdung durch Hackergruppen wächst, da diese Modelle künftig für zielgerichtete Angriffe missbraucht werden könnten. Insbesondere das Potenzial, Phishing-Angriffe zu verfeinern, indem auffällige Merkmale wie schlechte Grammatik eliminiert werden, stellt eine neue Dimension der Bedrohung dar.
Der Einsatz von KI durch Hacker ermöglicht es ihnen zudem, Techniken zur Umgehung von Sicherheitsmechanismen anzupassen und Angriffe zu individualisieren. Laut einer Untersuchung von Check Point Research stieg die Zahl der KI-gestützten Malware-Angriffe im Jahr 2024 um 275 % im Vergleich zum Vorjahr, was auf die zunehmende Bedrohung durch AI-basierte Cyberkriminalität hinweist.
Angesichts dieser Entwicklungen erfordert die Abwehr von KI-gestützten Angriffen eine intensive Auseinandersetzung mit den Möglichkeiten und Risiken, die KI mit sich bringt. Die Integration von KI-gestützter Bedrohungserkennungssoftware wird unerlässlich, um den schnellen Reaktionsbedarf abzudecken. Das Kernstück zur Lösung dieser komplexen Sicherheitsproblematik ist ein tiefes Verständnis der KI-Fähigkeiten und die Schaffung geeigneter internationaler Regelwerke.