ChatGPT wird zum Schreiben von Malware eingesetzt

Der KI-Chatbot ChatGPT sorgt für viel Aufregung. Nun scheint es so, dass er für Versuche genutzt wird, bösartige Code zu erstellen. ChatGPT wurde vom Forschungslabor für künstliche Intelligenz OpenAI veröffentlicht, stößt auf breites Interesse und hat eine Diskussion darüber ausgelöst, wie sich KI entwickelt und wie KI in Zukunft eingesetzt werden könnte.

Wie jedes Tool könnte es in den falschen Händen für kriminelle Zwecke eingesetzt werden. Laut den Cybersecurity-Forschern von Check Point experimentieren die Nutzer von Untergrund-Hacking-Communities bereits damit, wie sich ChatGPT für Cyberangriffe  einsetzen lässt. „Bedrohungsakteure mit sehr geringem technischem Wissen – bis hin zu null technischem Wissen – könnten in der Lage sein, bösartige Tools zu erstellen. Es könnte auch die täglichen Operationen von raffinierten Cyberkriminellen viel effizienter und einfacher machen – wie das Erstellen verschiedener Teile der Infektionskette“, sagte Sergey Shykevich, Threat Intelligence Group Manager bei Check Point.

OpenAI verbietet Malware-Genereierung

Die Nutzungsbedingungen von OpenAI verbieten ausdrücklich die Generierung von Malware, die definiert wird als „Inhalte, die versuchen, Ransomware, Keylogger, Viren oder andere Software zu generieren, die in irgendeiner Form Schaden anrichten soll“. Verboten sind auch Versuche, Spam zu erzeugen, sowie Anwendungsfälle, die auf Cyberkriminalität abzielen. Eine Analyse der Aktivitäten in mehreren großen Untergrund-Hacking-Foren deutet jedoch darauf hin, dass Cyberkriminelle ChatGPT bereits nutzen, um bösartige Tools zu entwickeln – und in einigen Fällen ermöglicht es Cyberkriminellen ohne Entwicklungs- oder Programmierkenntnisse bereits die Erstellung von Malware.

In einem Forum beschrieb Ende Dezember ein Poster, wie er ChatGPT verwendet, um Malware-Stämme und -Techniken nachzubilden, die in Forschungsveröffentlichungen und Aufzeichnungen über gängige Malware beschrieben werden. Auf diese Weise konnten sie eine Python-basierte Malware erstellen, die nach gängigen Dateien wie Microsoft Office-Dokumenten, PDFs und Bildern sucht, diese kopiert und dann auf einen File Transfer Protocol-Server hochlädt. Forscher stellen fest, dass der Forumsnutzer die Beiträge geteilt hat, um weniger technisch versierten Cyberkriminellen zu zeigen, wie sie KI-Tools für bösartige Zwecke einsetzen können.

Skripterstellung für Anfänger

Ein Benutzer hat ein Python-Skript gepostet, das nach eigenen Angaben das erste Skript war, das er je erstellt hat. Die Analyse des Skripts deutet darauf hin, dass es zum Ver- und Entschlüsseln von Dateien gedacht ist, was mit etwas Arbeit in Ransomware umgewandelt werden könnte, was möglicherweise dazu führen könnte, dass Cyberkriminelle auf niedriger Ebene ihre eigenen Erpressungskampagnen entwickeln und verbreiten. „Der Code kann natürlich auf harmlose Weise verwendet werden. Dieses Skript kann jedoch leicht so modifiziert werden, dass es den Computer einer Person ohne jegliche Benutzerinteraktion vollständig verschlüsselt“, so Check Point.

Cyberkriminelle experimentieren nicht nur mit ChatGPT, um Malware zu entwickeln. In der Silvesternacht postete ein Mitglied eines Untergrund-Forums einen Beitrag, in dem gezeigt wurde, wie mit dem Tool Skripte erstellt werden können, die einen automatisierten Dark-Web-Marktplatz für den Kauf und Verkauf von gestohlenen Kontodaten, Kreditkarteninformationen oder Malware betreiben könnten. Der Cyberkriminelle zeigte sogar ein Stück Code, das mit einer Drittanbieter-API erstellt wurde, um aktuelle Preise für die Kryptowährungen Monero, Bitcoin und Ethereum als Teil eines Zahlungssystems für einen Dark-Web-Marktplatz zu erhalten.

Roger Homrich

Recent Posts

Erneut mehr als 90 schädliche Apps im Google Play Store entdeckt

Sie verbreiten einen Banking-Trojanern. Die Hintermänner nehmen mit Anatsa auch Nutzer in Deutschland ins Visier.

9 Stunden ago

Markt für KI-Chips wächst 2024 voraussichtlich um 33 Prozent

Das Volumen des Markts steigt auf rund 71 Milliarden Dollar. Der Bereich KI-Beschleuniger für Server…

9 Stunden ago

Container und Kubernetes für Cybersicherheitsvorfälle in Deutschland verantwortlich

Das gilt vor allem für Unternehmen mit mehreren Standorten. Viele Vorfälle sind auf Konfigurationsfehler und…

9 Stunden ago

17 Prozent der Bundesbürger bereits auf Phishing hereingefallen

Mehr als die Hälfte der Nutzer in Deutschland kann nach eigenen Angaben Phishing und Spam…

10 Stunden ago

Neue Technologie in Browsergames – Flash verschwindet und wird durch HTML5 ersetzt

Browsergames haben seit den frühen 2000er Jahren eine enorme Popularität erlangt und Millionen von Spielern…

11 Stunden ago

Salesforce schmiedet Datenallianz

Der CRM-Marktführer stellt ein neues Ökosystem vor, das die Integration von Kunden- und Marktdaten erleichtern…

2 Tagen ago