Categories: KI

Trend Micro: ChatGPT zur automatisierten Malware-Entwicklung ungeeignet

Trend Micro hat untersucht, inwieweit ChatGPT zur Erstellung von Schadsoftware verwendet werden kann. Die Sicherheitsforscher gehen davon aus, dass große Sprachmodelle auf einigen Gebieten wie beispielsweise Entdeckungstechniken vielversprechend sind, bei komplexeren Aufgaben jedoch weiterhin Schwierigkeiten haben.

Für die Tests nutzte Trend Micro ChatGPT 3.5. Ziel war es, automatisch und ohne menschliche Interaktion eine gebrauchsfertige Malware zu generieren. Augangspunkt waren per Sprachmodell erstellte Codeschnipsel, die ChatGPT später zur einer Malware zusammenfügen sollte.

Die getesteten Codeschnipsel mussten jedoch alle geändert werden. Die Änderungen reichten von geringfügigen Anpassungen die der Umbenennung von Pfaden und URLs bis hin zu umfangreichen Änderungen, unter anderem bei der Codelogik. Außerdem lieferten etwa 48 Prozent der Codeschnipsel nicht das gewünschte Ergebnis – 42 Prozent waren indes vollständig erfolgreich.

Außerdem wiesen 43 Prozent der getesteten Codes Fehler auf. Fehler fanden sich auch in Codeschnipseln, die erfolgreich die gewünschte Ausgabe lieferten. Trend Micro vermutet dahinter mögliche Probleme bei der Fehlerbehandlung des Modells oder der Logik der Codegenerierung.

„Unserer Meinung nach ist es immer noch nicht möglich, das LLM-Modell zur vollständigen Automatisierung des Malware-Erstellungsprozesses zu verwenden, ohne dass ein erheblicher Aufwand für Prompt-Engineering, Fehlerbehandlung, Feinabstimmung des Modells und menschliche Aufsicht erforderlich ist“, teilte Trend Micro mit. „Dies gilt trotz mehrerer Berichte, die im Laufe dieses Jahres veröffentlicht wurden, die beweisen sollen, dass ChatGPT für die automatische Erstellung von Malware zu verwenden ist.“

Vorteile ergäben sich jedoch für Cyberkriminelle, die bereits mit dem gesamten Prozess der Malware-Erstellung vertraut seien. „Diese Benutzerfreundlichkeit könnte den Prozess für ein breiteres Publikum zugänglicher machen und den Prozess für erfahrene Malware-Programmierer beschleunigen“, warnte das Unternehmen.

Stefan Beiersmann

Stefan unterstützt seit 2006 als Freier Mitarbeiter die ZDNet-Redaktion. Wenn andere noch schlafen, sichtet er bereits die Nachrichtenlage, sodass die ersten News des Tages meistens von ihm stammen.

Recent Posts

Chatbot für nachhaltigen Lebensmittelkauf

Die Kennzeichnung von Lebensmitteln ist allzu oft ein Buch mit sieben Siegeln. Ein bayrisches Forschungsprojekt…

18 Stunden ago

KI-gestützte Flugsicherung auf Vertiports

Wie schützt man Landeplätze für Flugtaxis? Forschende am Fraunhofer-Institut entwickeln gerade ein passendes Sensornetzwerk.

19 Stunden ago

9 von 10 Pornokonsumenten haben ungeschützten Cyberverkehr

3 Prozent der Befragten gucken Inhalte sogar im Büro. Lediglich 6 Prozent schützen sich mit…

20 Stunden ago

Sind Smartphones auch ohne Apps denkbar?

Warum sich noch mit Details beschäftigen? Ende Februar will die Telekom zeigen, wie ein KI-Assistent…

2 Tagen ago

So viele Deutsche reinigen ihre Devices nie

Tastaturen und Touchscreens lieben Keime. Hygiene wäre gut. Dass es damit im Alltag nicht weit…

2 Tagen ago

Die Rolle von Künstlicher Intelligenz in der Fachübersetzung

In der heutigen globalisierten Welt spielt die Fachübersetzung eine entscheidende Rolle bei der Überbrückung von…

2 Tagen ago