// HEISE ONLINE — CYBERSECURITY
Im Kampf gegen KI-Scam: Wie Bots Betrügern ihre wertvolle Zeit stehlen
Am besten kämpft man gegen die steigende Anzahl von KI-Betrugsfällen laut Sicherheitsexperten ebenfalls mit KI. Wie KI-Bots Betrüger in Schach halten.
Künstliche Intelligenz soll Menschen eigentlich helfen. Wie sich zeigt, werden die Tools aber seit ihrem Aufkommen genutzt, um Schaden anzurichten. Einer der Sektoren, der besonders von Chatbots und Agenten profitiert, sind Phishing-Angriffe und Scam-Versuche. So zeigte eine Studie etwa, dass LLMs dabei helfen können, die Erfolgsrate von Phishing-Mails deutlich zu erhöhen. Dabei bleibt für die Betroffenen die Frage, wie sich solche Angriffe unterbinden lassen.
Diese Frage haben sich auch die Sicherheitsexperten der australischen Firma Apate gestellt. Sie haben ein KI-gestütztes System entwickelt, um Telefon-Scammer möglichst lange von ihrem Handwerk abzuhalten. Das System greift dabei auf eine Auswahl von etwa 350.000 KI-Bots zurück, die etwa Anrufe von Betrügern annehmen oder per Messenger auf dubiose Nachrichten antworten.
Das Ziel der Bots ist es, die Scammern möglichst lange zu beschäftigen. Sie geben ihnen immer wieder Hoffnung, dass sie bald auf den Betrugsversuch hereinfallen könnten, damit die Betrüger noch mehr Zeit investieren. Dali Kafaar, CEO von Apate, sagte gegenüber Wired dazu: „Wir hoffen, dass wir die perfekten Opfer für Scammer gebaut haben. Eine Minute, in der ein Scammer mit einem Bot oder einem Agenten spricht, ist eine Minute, in der man hunderte, wenn nicht sogar tausende Menschen potenziell davor schützt, vor derselben Person kontaktiert zu werden.“
Die Bots imitieren dabei unterschiedliche Persönlichkeiten und Verhaltensmuster. Manche von ihnen können Whatsapp nutzen, andere nicht. Andere sollen auch mit den Betrügern spielen und beim ersten Annehmen des Telefonats sagen, dass sie gerade keine Zeit haben und die Scammer später zurückrufen. Teilweise dauern die Gespräche zwischen KI und Scammern laut Apate mehr als zwei Stunden an. Doch mit der Zeitverschwendung endet die Arbeit der Bots noch nicht.
Die KI-Agenten treiben sich auch in Scam-Gruppen im Netz herum und infiltrieren die Gespräche dort. Laut Kafaar konnten die KI-Tools so schon mehr als 250.000 Informationen über betrügerische Aktivitäten und die Verantwortlichen zusammentragen. Das reicht von Informationen über die Personen selbst bis zu Bankkonten, mit denen die kriminellen Aktivitäten verschleiert werden sollen. Das dürfte auch die bessere Methode sein, um die Scam-Aktivitäten langfristig zu stoppen. Zwar können Apates Bots die Zeit der Betrüger verschwenden, doch sie nicht vollständig unterbinden. Und bei jährlich weltweit rund 68 Milliarden Scam-Anrufen (via Truecaller) sind selbst 350.000 KI-Bots nur ein Tropfen auf dem heißen Stein.
Keine News verpassen! Jeden Morgen der frische Nachrichtenüberblick von heise online
Ausführliche Informationen zum Versandverfahren und zu Ihren
Widerrufsmöglichkeiten erhalten Sie in unserer
Datenschutzerklärung.
Immer informiert bleiben: Klicken Sie auf das Plus-Symbol an einem Thema, um diesem zu folgen. Wir zeigen Ihnen alle neuen Inhalte zu Ihren Themen.
Mehr erfahren.