KI-Wunder ChatGPT kann bösartige E-Mails und Code generieren

CPR hat getestet, ob sich mithilfe des ChatBots schädlicher Code erstellen ließe. ChatGPT (Generative Pre-trained Transformer) ist ein frei nutzbarer KI-ChatBot, der seinen Nutzern auf der Grundlage im Internet zu findender Daten kontextbezogene Antworten liefern kann.

Um die Gefahren beider Technologien zu demonstrieren, hat CPR ChatGPT und Codex verwendet, um bösartige E-Mails, Code und eine vollständige Infektionskette zu erzeugen.

Mit ChatGPT durchgeführte Schritte

• ChatGPT bitten, sich als ein Hosting-Unternehmen auszugeben.
• ChatGPT bitten, den Vorgang zu wiederholen und eine Phishing-E-Mail mit einem bösartigen Excel-Anhang zu erstellen.
• ChatGPT bitten, bösartigen VBA-Code in einem Excel-Dokument zu erstellen.

CPR war auch in der Lage, mit Codex bösartigen Code zu erzeugen. CPR gab Codex dafür diverse Befehle, darunter:

• Ausführen eines Reverse-Shell-Skripts auf einem Windows-Rechner und Herstellen einer Verbindung zu einer bestimmten IP-Adresse.
• Prüfen, ob eine URL für SQL-Injection anfällig ist, indem man sich als Administrator anmeldet.
• Schreiben eines Python-Skripts, das einen vollständigen Port-Scan auf einem Zielcomputer durchführt.

Der bösartige Code wurde anschließend umgehend von Codex generiert.