Zusammenfassung:
- Forscher verglichen Spam-Nachrichten vor der GPT-Ära mit denen, die danach erschienen.
- Der Großteil des Spams wird heute durch künstliche Intelligenz generiert.
- BEC-Nachrichten erfordern eine höhere Präzision.
Eine aktuelle Studie hat ergeben, dass die Mehrheit der heute versendeten Spam-E-Mails von generativer künstlicher Intelligenz (GenAI) verfasst wird.
Ein Bericht von Barracuda Networks zeigt, dass Cyberkriminelle KI nicht nutzen, um ihre Angriffsmethoden radikal zu verändern, sondern um sie zu verbessern und ihre Erkennung zu erschweren. Diese Verbesserung umfasst Aspekte wie die Qualität der verwendeten Sprache, das Design der Nachrichten und die Personalisierung, die sie glaubwürdiger erscheinen lässt.
Die Studie verglich E-Mails, die vor der Einführung von ChatGPT (d. h. vor November 2022) versendet wurden, mit solchen, die danach versendet wurden. Dabei stellte sie eine deutliche Verschiebung fest: Kriminelle nutzen GenAI vor allem für Spam. Diese Verschiebung stellt sowohl für Einzelpersonen als auch für Organisationen eine große Herausforderung dar, da es zunehmend schwieriger wird, legitime von bösartigen Nachrichten zu unterscheiden.
Glaubwürdigkeit steigern
Studien haben gezeigt, dass bis April 2025 51 % der Spam-E-Mails nicht mehr von Menschen, sondern von künstlicher Intelligenz generiert werden. Dieser Wandel stellt eine erhebliche Herausforderung für die Cybersicherheit dar.
Die Forscher erklärten, dass „die Mehrheit der E-Mails, die derzeit im Junk-/Spam-Ordner landen, von einem großen Sprachmodell (LLM) geschrieben wird.“ Künstliche Intelligenz ist damit zu einem wichtigen Werkzeug für Spammer geworden.
Andererseits scheinen Kriminelle wenig begeistert vom Einsatz von KI bei Business-E-Mail-Compromise-Angriffen (BEC) zu sein. Laut Forschern erfordern diese Angriffsarten hohe Präzision und zielen typischerweise auf eine hochrangige Person innerhalb des Unternehmens ab. Infolgedessen wurden bis April 2025 nur 14 % der BEC-Angriffe durch KI generiert.
Wie erwartet sind KI-generierte Nachrichten besser geschrieben. Sie zeichnen sich durch einen höheren Grad an Formalität, weniger Grammatikfehler und eine höhere sprachliche Raffinesse aus. Dadurch wirken sie auf die Opfer glaubwürdiger und professioneller, was die Wahrscheinlichkeit erhöht, dass sie Opfer werden.
Dies bedeutet auch, dass es für Cyberkriminelle, deren Muttersprache nicht Englisch ist, leichter wird, Unternehmen in englischsprachigen Ländern anzugreifen. Schließlich nutzen Betrüger offenbar KI, um verschiedene Spam-Varianten A/B-Tests zu unterziehen und herauszufinden, welche Formulierungen in der Praxis am besten funktionieren.
Der beste Schutz vor KI-generierten Spam-E-Mails ist der Einsatz KI-gestützter E-Mail-Sicherheitslösungen. Vor GPT konnte man Phishing und Spam einfach durch das Scannen von E-Mails erkennen – diese Nachrichten waren in der Regel voller Rechtschreib- und Grammatikfehler, und die Sprache war oft derb und ungewohnt.
Da KI diese Warnsignale beseitigt hat, ist eine fortschrittliche E-Mail-Sicherheitslösung mit mehrschichtiger Erkennung und aktiviert durch Künstliche Intelligenz/Maschinelles Lernen (KI/ML)Dies sei „kritisch“, so das Fazit der Forscher. Dies erfordere Investitionen in fortschrittliche Technologien, um Unternehmen vor fortgeschrittenen Bedrohungen zu schützen.
