In den dunklen Ecken des Internets wird ein unmoderierter Chatbot namens FraudGPT angeboten, der für kriminelle Zwecke trainiert wurde. Dieser Chatbot kann Phishing-Mails schreiben, Cracking-Tools entwickeln und bei der Suche nach leichtgläubigen Opfern helfen.
Bei FraudGPT handelt sich um eine modifizierte Version des bekannten ChatGPT. Anders als ChatGPT kann FraudGPT jedoch betrügerische Anfragen beantworten. FraudGPT wird gegen eine monatliche Gebühr von 200 US-Dollar vertrieben, wobei Rabatte für langfristige Abonnements angeboten werden. Es ist nicht bekannt, welches Sprachmodell verwendet wird oder wer der Entwickler, der sich „CanadianKingpin“ nennt, wirklich ist. Es gibt auch andere ähnliche kriminelle Chatbots wie WormGPT, der auf GPT-J von Eleuther AI basiert. Obwohl Sprachmodelle wie diese eigentlich Barrieren aufweisen, um Missbrauch zu verhindern, können diese Sicherheitsregeln leicht umgangen werden. Forscher haben gezeigt, dass einfache Zeichenfolgen die Chatbots dazu bringen können, verbotene Inhalte automatisiert zu generieren.
Im Laufe der Zeit werden Kriminelle weitere Möglichkeiten finden, ihre kriminellen Fähigkeiten mithilfe der von uns erfundenen Tools zu verbessern. Um Bedrohungen schnell zu erkennen, wird die frühzeitige Implementierung von tiefgreifenden Verteidigungsstrategien immer wichtiger.
Source: FraudGPT schreibt Phishing-Mails und entwickelt Malware
Neueste Kommentare