Categories: CloudCloud-Management

Google: KI schafft neue Risiken für die Cybersicherheit

Google geht davon aus, dass generative KI und große Sprachmodelle (LLMs) zu neuen Risiken für die Cybersicherheit führen. Das geht aus Googles neuem Sicherheitsbericht Google Cloud Cybersecurity Forecast 2024 hervor. Die neuen Techniken sollen sich unter anderem bei Phishing und anderen Social-Engineering-Operationen einsetzen lassen, um Inhalte wie Sprache und Video legitimer erscheinen zu lassen.

Phishing-Angriffe sollen künftig schwieriger anhand von Rechtschreibfehlern oder einem fehlenden kulturellen Kontext zu erkennen sein, da KI laut Google inzwischen natürliche Sprache sehr gut imitieren kann. In anderen Fällen könnten Angreifer ein LLM mit legitimen Inhalten füttern und eine modifizierte Version generieren, die den Zielen des Angreifers entspricht, aber den gleichen Stil wie die ursprüngliche Eingabe aufweist.

Der Bericht prognostiziert auch, dass LLMs und andere generative KI-Tools, die als kostenpflichtiger Service angeboten werden, von Angreifern eingesetzt werden, um ihre Angriffe effizienter zu machen. Eine weitere potenzielle Bedrohung durch generative KI seien Informationskampagnen. Mit Hilfe von KI-Eingabeaufforderungen könnten Angreifer generative KI-Modelle nutzen, um gefälschte Nachrichten, gefälschte Telefonanrufe und gefälschte Fotos und Videos zu erstellen. Google befürchtet sogar, dass die Skalierbarkeit solcher Kampagnen das Vertrauen der Öffentlichkeit in Nachrichten und Online-Informationen schwächen könnte.

„Dies könnte es für Unternehmen und Regierungen in naher Zukunft zunehmend schwieriger machen, mit ihren Zielgruppen in Kontakt zu treten“, heißt es in dem Bericht.

KI bietet aber auch Vorteile für die Cybersicherheit. „KI bietet unseren Cyberverteidigern bereits jetzt einen enormen Vorteil, da sie ihre Fähigkeiten verbessern, den Arbeitsaufwand verringern und sich besser gegen Bedrohungen schützen können“, sagte Phil Venables, CISO für Google Cloud. „Wir gehen davon aus, dass diese Fähigkeiten und Vorteile im Jahr 2024 noch zunehmen werden, da die Verteidiger die Technologie besitzen und somit ihre Entwicklung mit Blick auf spezifische Anwendungsfälle steuern können.“

Stefan Beiersmann

Stefan unterstützt seit 2006 als Freier Mitarbeiter die ZDNet-Redaktion. Wenn andere noch schlafen, sichtet er bereits die Nachrichtenlage, sodass die ersten News des Tages meistens von ihm stammen.

Recent Posts

Chatbot für nachhaltigen Lebensmittelkauf

Die Kennzeichnung von Lebensmitteln ist allzu oft ein Buch mit sieben Siegeln. Ein bayrisches Forschungsprojekt…

17 Stunden ago

KI-gestützte Flugsicherung auf Vertiports

Wie schützt man Landeplätze für Flugtaxis? Forschende am Fraunhofer-Institut entwickeln gerade ein passendes Sensornetzwerk.

18 Stunden ago

9 von 10 Pornokonsumenten haben ungeschützten Cyberverkehr

3 Prozent der Befragten gucken Inhalte sogar im Büro. Lediglich 6 Prozent schützen sich mit…

19 Stunden ago

Sind Smartphones auch ohne Apps denkbar?

Warum sich noch mit Details beschäftigen? Ende Februar will die Telekom zeigen, wie ein KI-Assistent…

1 Tag ago

So viele Deutsche reinigen ihre Devices nie

Tastaturen und Touchscreens lieben Keime. Hygiene wäre gut. Dass es damit im Alltag nicht weit…

1 Tag ago

Die Rolle von Künstlicher Intelligenz in der Fachübersetzung

In der heutigen globalisierten Welt spielt die Fachübersetzung eine entscheidende Rolle bei der Überbrückung von…

2 Tagen ago