Google: KI schafft neue Risiken für die Cybersicherheit

Google geht davon aus, dass generative KI und große Sprachmodelle (LLMs) zu neuen Risiken für die Cybersicherheit führen. Das geht aus Googles neuem Sicherheitsbericht Google Cloud Cybersecurity Forecast 2024 hervor. Die neuen Techniken sollen sich unter anderem bei Phishing und anderen Social-Engineering-Operationen einsetzen lassen, um Inhalte wie Sprache und Video legitimer erscheinen zu lassen.

Phishing-Angriffe sollen künftig schwieriger anhand von Rechtschreibfehlern oder einem fehlenden kulturellen Kontext zu erkennen sein, da KI laut Google inzwischen natürliche Sprache sehr gut imitieren kann. In anderen Fällen könnten Angreifer ein LLM mit legitimen Inhalten füttern und eine modifizierte Version generieren, die den Zielen des Angreifers entspricht, aber den gleichen Stil wie die ursprüngliche Eingabe aufweist.

Der Bericht prognostiziert auch, dass LLMs und andere generative KI-Tools, die als kostenpflichtiger Service angeboten werden, von Angreifern eingesetzt werden, um ihre Angriffe effizienter zu machen. Eine weitere potenzielle Bedrohung durch generative KI seien Informationskampagnen. Mit Hilfe von KI-Eingabeaufforderungen könnten Angreifer generative KI-Modelle nutzen, um gefälschte Nachrichten, gefälschte Telefonanrufe und gefälschte Fotos und Videos zu erstellen. Google befürchtet sogar, dass die Skalierbarkeit solcher Kampagnen das Vertrauen der Öffentlichkeit in Nachrichten und Online-Informationen schwächen könnte.

„Dies könnte es für Unternehmen und Regierungen in naher Zukunft zunehmend schwieriger machen, mit ihren Zielgruppen in Kontakt zu treten“, heißt es in dem Bericht.

KI bietet aber auch Vorteile für die Cybersicherheit. „KI bietet unseren Cyberverteidigern bereits jetzt einen enormen Vorteil, da sie ihre Fähigkeiten verbessern, den Arbeitsaufwand verringern und sich besser gegen Bedrohungen schützen können“, sagte Phil Venables, CISO für Google Cloud. „Wir gehen davon aus, dass diese Fähigkeiten und Vorteile im Jahr 2024 noch zunehmen werden, da die Verteidiger die Technologie besitzen und somit ihre Entwicklung mit Blick auf spezifische Anwendungsfälle steuern können.“