Studie: Großteil aller Spam-E-Mails wird von KI generiert

Inzwischen werden 51 Prozent aller Spam-E-Mails mithilfe von KI generiert. Das ist ein Ergebnis einer Studie der US-Universitäten Columbia und Chicago, die auf Erkennungsdaten des Cybersicherheitsanbieters Barracuda basiert. Als besonders auffällig stufen die Forscher den kontinuierlichen Anstieg seit dem Launch von ChatGPT im Jahr 2022 ein.

E-Mail-Betrüger setzen demnach häufiger auf KI-basierte Spam-E-Mail-Kampagnen im großen Maßstab, anstatt zielgerichtete Angriffe durchzuführen. Zudem betrifft der Anstieg der KI-generierte Inhalte auch Business-E-Mail-Compromise-Angriffe (BEC). Hier betrug der Anteil zuletzt 14 Prozent.

Die Forscher stellten auch fest, dass mit dem Einsatz von KI-Tools auch die Qualität der Spam-Nachrichten gestiegen ist. Sie seien in der Regel formeller, sprachlich anspruchsvoller und wiesen weniger Grammatikfehler auf als von Menschen verfasste E-Mails.

Zudem sollen die Angreifer KI nutzen, um Wortvarianten zu testen und herauszufinden, welche davon sich besser eignen, um Abwehrmechanismen zu umgehen und mehr Empfänger zum Klicken auf Links zu bewegen. Allerdings sei der Einsatz von KI in erster Linie auf die Verbesserung der Inhalte beschränkt. Ihre Angriffstaktiken hätten die Betrüger bisher nicht mit KI verändert.

„Festzustellen, ob oder wie KI bei Cyberangriffen genutzt wird, ist eine große Herausforderung, da wir nur den Angriff selbst sehen, aber nicht, wie der Angriff generiert wurde“, sagte Asaf Cidon, Associate Professor of Electrical Engineering and Computer Science an der Universität Columbia. „Unsere Analyse deutet darauf hin, dass im Zeitraum bis April 2025 ein Großteil der Spam-E-Mails nicht von Menschen, sondern von KI generiert wurde. Bei komplexeren Angriffen wie BEC, bei denen Inhalte sorgfältiger auf den Kontext des potenziellen Opfers abgestimmt werden müssen, werden die meisten E-Mails nach wie vor von Menschen verfasst. Der Anteil der von KI generierten E-Mails nimmt jedoch stetig und kontinuierlich zu.“

Die Studie basiert auf der Annahme, dass vor dem Launch von ChatGPT im November 2022 alle Spam-E-Mails wahrscheinlich von Menschen verfasst wurden. Auf dieser Basis trainierten die Forscher Erkennungssysteme, um automatisch feststellen zu können, ob eine unerwünschte oder schädliche E-Mail mithilfe von KI generiert wurde.