Hacker nutzen DeepSeek und Qwen zur Entwicklung bösartiger Inhalte aus

Hacker tauschen sich darüber aus, wie sie die Modelle manipulieren und unzensierte Inhalte anzeigen können und es gibt Methoden, um die Zensur von KI-Modellen zu entfernen. Dazu gehören ausführliche Anleitungen für Jailbreaking-Methoden, die Umgehung von Betrugsbekämpfungsmaßnahmen und die Entwicklung von Malware selbst.

Erstellung bösartiger Inhalte mit wenig Einschränkungen

Sowohl Qwen als auch DeepSeek haben sich als leistungsstarke Werkzeuge zur Erstellung bösartiger Inhalte mit minimalen Einschränkungen erwiesen. Cyber-Kriminelle haben wiederholt mit Hilfe von Qwen verschiedene Infostealer erstellt, die vor allem darauf aus sind, sensible Informationen von ahnungslosen Benutzern abzufangen. Während ChatGPT in den letzten zwei Jahren erheblich in Missbrauchsschutzmaßnahmen investiert hat, scheinen diese neueren Modelle nur wenig Widerstand gegen Missbrauch zu bieten. Dies weckt das Interesse von Angreifern auf verschiedenen Ebenen, insbesondere von weniger qualifizierten, die vorhandene Skripte oder Tools ohne tiefes Verständnis der zugrunde liegenden Technologie nutzen. Allerdings sind trotz der Missbrauchs-Schutzmechanismen von ChatGPT bereits unzensierte Versionen von ChatGPT in verschiedenen Repositories im Dark Net verfügbar. In dem Maße, in dem jedoch diese neuen KI-Modelle an Popularität gewinnen, ist zu erwarten, dass ähnliche unzensierte Versionen von DeepSeek und Qwen auftauchen werden, was die damit verbundenen Risiken weiter erhöht.

Jailbreaking Prompts

Jailbreaking bezieht sich auf Methoden, die es Nutzern ermöglichen, KI-Modelle zu manipulieren, um unzensierte oder uneingeschränkte Inhalte zu erzeugen. Diese Taktik hat sich zu einer bevorzugten Technik entwickelt, um die KI-Funktionen für böswillige Zwecke nutzen zu können. Cyber-Kriminelle fordern DeepSeek zum Jailbreak auf und können die Reaktionen des Modells manipulieren, darunter Methoden wie die Do Anything Now-Methode und Techniken wie die Plane-Crash-Survivors-Methode.

Cyberkriminelle fordern DeepSeek zum Jailbreak auf, Teil I (Quelle: Check Point Research 2025).

Bypassing Banking Protections

Es wurden mehrere Chat-Diskussionen über Techniken zur Verwendung von DeepSeek zur Umgehung der Schutzmaßnahmen von Bankensystemen gefunden, was auf das Potenzial für einen erheblichen Finanzdiebstahl hinweist.

Chat-Diskussionen zur Initiierung von Finanzdiebstahl (Quelle: Check Point Research 2025).

Der Aufstieg von KI-Modellen wie Qwen und DeepSeek markiert einen besorgniserregenden Trend in der Cyber-Welt, wo hochentwickelte Tools zunehmend für böswillige Zwecke missbraucht werden. Da Hacker fortschrittliche Techniken wie Jailbreaking einsetzen, um Schutzmaßnahmen zu umgehen und Informationsdiebstahl, Finanzdiebstahl und Spam-Verbreitung zu entwickeln, müssen Unternehmen dringend präventive Schutzmaßnahmen gegen diese sich entwickelnden Bedrohungen implementieren, um einen robusten Schutz zu gewährleisten.