Die Künstliche Intelligenz von ChatGPT ist weltweit im Gespräch, wird als Innovation und Aufbruch in ein neues Zeitalter des Internets gefeiert. Künstliche Intelligenz bietet in vielen Bereichen neue Möglichkeiten, birgt aber auch Risiken, vor denen Experten warnen. Doch es überwiegt das Interesse – auch in der Cyberkriminellen Szene.
Studie von NordVPN: Anstieg von Bot-Hacking Posts
Chat GPT bietet kriminellen Hackergruppen viele neue Möglichkeiten. Sie können erstmalig in großem Stil Betrügereien durchführen und dabei durch eine „Automatisierung“ die Anzahl der potentiellen Opfer deutlich erhöhen. Chatbots können nach einer feindlichen Übernahme zudem zur Erstellung von Malware und Phishing-E-Mails oder zur Verbreitung von Hassreden und Propaganda.
Der VPN Anbieter NordVPN beschäftigt sich intensiv mit dem Phänomen des Bot Hacking und hat dazu bereits mehrere Studien erstellt. Diese „Live“Studie im Darknet wurde von NordVPN vom 13. Januar 2023 bis 13. Februar 2023 durchgeführt.Dabei wurden relevante Beiträge zum Bot-Hacking im Darknet identifiziert und analysiert. Laut NordVPN ist die Anzahl der neuen Beiträge zu dem Thema von 120 im Januar auf 870 im Februar diesen Jahres gestiegen, was 625% entspricht. Zum allgemeiner Thema ChatGPT stieg die Anzahl der Beiträge um 147%, wobei der Missbrauch des Bots am meisten diskutiert wurde. Es wurden auch Übernahme Pläne skizziert. Die Titel der Datknet Foren waren u.a. „How to break ChatGPT“, „ChatGPT jailbreak 2.0, ChatGPT – progression of malware“ und „ChatGPT as a phishing tool“.
Marvin Petzold vom Expertenteam bei NordVPN sagt dazu: „ChatGPT hat viele Türen in neue Welten eröffnet und sorgt für einen Umbruch in der Arbeitswelt, im Bildungswesen und wie wir mit Informationen umgehen. Wie jede neue Technologie lässt sie sich für positive Nutzungsmöglichkeiten, wie beispielsweise die Erkennung von Schwachstellen in Smart Contracts, nutzen.
Gleichzeitig sind die Gefahren aber für Nutzer nicht unerheblich. Das zeigt auch die Untersuchung von NordVPN zum Anstieg der Forenbeiträge im Dark Web. So können Kriminelle die KI-gestützte Erkennung von Schwachstellen für boshafte Zwecke nutzen. Dazu gehört auch der Missbrauch des schnellen Findens und Zusammenfassen personenbezogener Informationen, um Firmen und Menschen gezielter anzugreifen. Noch gefährlicher ist die Umgehung von Sicherheitschecks und Filtern in ChatGPT und anderen KI-Anbietern, um das Programm zu rassistischen oder hetzerischen Aussagen zu verleiten“.
Chatbots effektiver schützen
NordVPN empfiehlt Unternehmen dringend, die Chatbots besser zu schützen. Da KI Chatbots dauerhaft lernen und genaue Profile von den Nutzern erstellen. Ist dies nicht gewünscht, sollten den Chatbots keine persönlichen Informationen gegeben werden.
Noch genauer bei Phishing checken. ChatGPT wird in der Zukunft Korrekturen an Grammatik Und Rechtschreibung vornehmen, so dass Phishing Mails daran kaum noch identifizierbar sind. Also sollten die Empfänger genau hinsehen und idealerweise die Adresse des Absenders checken.
Zu den wichtigsten Maßnahmen gehören Antivirenprogramme, die immer auf dem neusten Stand gehalten werden und auch Tools, wie den Bedrohungsschutz offensiv anwenden.