#ChatGPTs böser Zwilling: Was ist WormGPT und warum ist es gefährlich?

(Bild: Towfiqu Barbhuiya über Unsplash)

Als ChatGPT letztes Jahr erschienen ist, schienen die Möglichkeiten grenzenlos – auch im schlechten Sinne. Der Chatbot hatte mehr oder weniger für jede Frage eine Antwort parat. Für manche Themen, die durchaus auch kontroverser Natur sind, musste man Fragen über Umwege stellen – sogenannte Jailbreak-Prompts haben es möglich gemacht. 

Heute ist OpenAIs Chatbot stärker eingeschränkt und wird keine Antworten auf Prompts liefern, die es als unethisch oder illegal einstuft. Es war nur eine Frage der Zeit, bis ein KI-Tool entwickelt wird, dass solche Grenzen umgehen und für böse Zwecke eingesetzt werden kann – WormGPT. 

Was ist WormGPT? 

WormGPT ist ein KI-Chatbot, wie ChatGPT, der allerdings speziell für die Verwendung von Cyberkriminellen entwickelt wurde. Das Tool wird über ein Hackerforum zum Kauf angeboten. SlashNext, ein Unternehmen für Cyber-Security, hat das Tool getestet und am 13. Juli vorgestellt und auf dessen Gefahr hingewiesen.

Laut SlashNext basiert WormGPT auf dem Open-Source-GPTJ-Modell, das 2021 von EleutherAI veröffentlicht wurde. Der Chatbot hat kein Zeichenlimit, kann sich wie ChatGPT an Chatverläufe erinnern und Codieren. 

WormGPT wurde speziell darauf trainiert, umfassende Informationen über Malware zu liefern. Welche Daten spezifisch verwendet wurden, ist nicht bekannt. Es soll beispielsweise in der Lage sein, bösartigen Code oder Phishing-Mails zu generieren. 

SlashNext hat das Tool eine E-Mail für eine sogenannte Business-E-Mail-Compromise-Attacke schreiben lassen. Bei solchen Angriffen werden Unternehmen mit Phishing-Mails kompromittiert oder zu betrügerischen Zahlungen aufgefordert. 

Die generierte E-Mail ist beunruhigend gut. Sie ist nicht nur grammatikalisch auf hohem Niveau, sondern auch sehr überzeugend und strategisch formuliert.

Ist WormGPT nur der Anfang?

Leider ja. Die Verwendung von generativer KI wie WormGPT in Cyberangriffen ist nur die Spitze des Eisbergs. Cyberkriminelle entwickeln ständig neue Techniken und Werkzeuge, um ihre Angriffe zu verfeinern und zu automatisieren. Es ist zu befürchten, dass wir in Zukunft mit einer wachsenden Anzahl ähnlicher bösartiger KI-Module konfrontiert werden könnten.

Zusätzlich ist der Einstieg in die Cyberkriminalität heute so einfach wie noch nie und KI-Tools wie WormGPT werden es Interessierten noch leichter machen. 

Was kann zukünftig gegen solche KI-Tools unternommen werden?

Angesichts der zunehmenden Bedrohung durch WormGPT und ähnliche Tools ist es wichtig, dass Maßnahmen getroffen werden, die uns zukünftig vor solchen Angriffen schützen. Einige von ihnen könnten folgendermaßen aussehen. 

KI-Spezifisches Training: Unternehmen müssen umfassende Schulungsprogramme entwickeln, um Mitarbeiter über BEC-Angriffe und Phishing-Mails aufzuklären, insbesondere über die, die durch KI unterstützt werden. Mitarbeiter müssen lernen, solche Bedrohungen zu erkennen und angemessen darauf zu reagieren. 

Verbesserte E-Mail Verifizierungsmaßnahmen: Ki mit KI bekämpfen: Organisationen sollten strengere E-Mail-Verifizierungsprozesse einführen, um gefälschte E-Mails zu identifizieren. Dafür könnten auch andere KI-Tools zum Einsatz kommen, die KI-generierte E-Mails anhand von Keywords identifizieren können. 

Regulierung und Aufsicht: Behörden wie Europol und die FTC (Federal Trade Commission) dürfen solche Entwicklungen in der Cyberkriminalität nicht aus den Augen verlieren und müssen sie genau überwachen und entsprechende Maßnahmen ergreifen, um die Verbreitung zu minimieren und sie zu bekämpfen. 

Wie schütze ich mich selbst? 

(Bild: Towfiqu Barbhuiya über Unsplash)

Einer der besten Methoden, um sich vor Cyberattacken und kommenden Bedrohungen, wie WormGPT zu schützen, ist Vorsicht vor Nachsicht walten zu lassen. Ein klarer Verstand und ein gesundes Misstrauen können oft den Unterschied zwischen Sicherheit und Opfer eines Angriffs ausmachen. Hier sind einige Tipps, um sicher durch das Internet zu navigieren:

Misstrauen gegenüber unbekannten Quellen: Cyberkriminelle nutzen oft gefälschte Identitäten, um euch in die Irre zu führen. Öffnet keine E-Mail-Anhänge oder klickt auf Links, es sei denn, ihr seid euch absolut sicher, dass die Nachricht von einer vertrauenswürdigen Quelle kommt. 

Überprüft die URLs: Bevor ihr auf einen Link klickt, der verdächtig wirkt, solltet ihr euch vorher die URL genau ansehen. Manchmal werden gefälschte Webseiten erstellt, die den Originalen sehr ähnlich sind, aber leicht abweichende URLs besitzen. 

Benutzt starke Passwörter: Verwendet für eure Konten immer starke und einzigartige Passwörter. Das macht die Kompromittierung der Konten nicht nur schwerer, sondern minimiert auch den Schaden, da Cyberkriminelle keinen Zugriff auf die anderen dadurch bekommen. 

Nutzt die Zwei-Faktor-Authentifizierung: Wenn möglich, solltet ihr für alle eure Online-Konten die Zwei-Faktor-Authentifizierung aktivieren. Das fügt eine weitere Sicherheitsebene ein, die Cyberkriminellen den Zugriff erschwert. 

Haltet euer System auf dem neuesten Stand: Betriebssysteme, Anwendungen und Antivirenprogramme erhalten oft wichtige Sicherheitsupdates, die mögliche Schwachstellen schließen und euer System schützen. 

Skepsis gegenüber Gewinnen oder Angeboten: Wenn euch E-Mails oder Benachrichtigungen erreichen, die unerwartete Gewinne oder Angebote versprechen, ist immer Skepsis angebracht. Wenn es zu gut ist, um wahr zu sein, ist es leider auch oft so. 

Bewahrt eure sensiblen Informationen sicher auf: Speichert sensible Daten und Passwörter niemals unverschlüsselt auf eurem Computer oder Handy. Wenn ihr Geräte und Datenträger entsorgen müsst, stellt vorher sicher, dass alle Daten sicher gelöscht wurden. 

Seid vorsichtig mit öffentlichem WLAN: Vermeidet bei der Verwendung von öffentlichen WLAN-Netzwerken die Nutzung von vertraulichen Tätigkeiten und Apps, wie zum Beispiel Online-Banking. Solche Netzwerke sind oft weniger sicher und könnten von Angreifern ausgenutzt werden. 

Was haltet ihr davon, dass es nun auch bösartige KI-Tools wie WormGPT gibt? Welche Risiken kommen auf uns zu und habt ihr selbst Tipps, um sich vor Cyber-Kriminellen zu schützen, die ihr teilen wollt? Oder kennt ihr eventuell sogar Leute aus eurem eigenen Umfeld, die Opfer einer Cyber-Attacke wurden oder ist es euch selbst schon passiert? Erzählt uns eure Geschichten und teilt eure Meinung in den Kommentaren!