AntiScam

Das Projekt AntiScam adressiert die Bedrohungen von neuen KI-basierten Scams, die durch Sprachsynthese und Deep Fakes ermöglicht werden. In einer Zeit, in der Identitätsdiebstahl und der Missbrauch persönlicher Daten eine zunehmende Gefahr für die digitale Selbstbestimmung darstellen, sind insbesondere neuere Formen des Social Engineerings, wie Voice Phishing (Vishing) und andere Sprach-basierte Scams, zu einer ernsthaften Bedrohung geworden. Die Gefahr KI-basierter Angriffsformen besteht darin, massenhaft automatisierte und zugleich individualisierte Betrugsversuche durchzuführen, die für die Betroffenen nur schwer zu erkennen sind. Angreifer können durch die Nachahmung vertrauter Stimmen schnell Vertrauen aufbauen und so gezielt ihre Opfer täuschen.

Ziel des Projekts AntiScam ist es, Verbraucher:innen effektiv vor diesen neuen Gefahren zu schützen. Dazu wird ein ganzheitlicher, soziotechnischer Ansatz verfolgt, bei dem ein Schwerpunkt in der Entwicklung von erklärbaren KI-Methoden zur Betrugserkennung liegt. Insbesondere soll die Erkennung von Scams, die synthetische Stimmen nutzen, verbessert werden. Dabei wird erklärbare Künstliche Intelligenz (XAI) eingesetzt, um die Mechanismen dieser Betrugserkennung für Verbraucher:innen verständlich und nachvollziehbar zu machen.

Zur Sensibilisierung der Verbraucher und zur Stärkung ihrer Abwehrmechanismen wird desweiteren ein interaktives Lernspiel entwickelt. Dieses Spiel soll nicht nur das Bewusstsein für die Gefahren von Sprach basierter Scams schärfen, sondern auch dazu dienen, die im Projekt entwickelten KI-Methoden unter realitätsnahen Bedingungen zu testen und zu optimieren. Begleitend zu diesen technischen und bildungspolitischen Maßnahmen untersucht das Projekt mittels empirischer Studien, wie die Bedrohungen sich im Alltag von Verbraucher:innen zeigen und welche Abwehrstrategien sie praktizieren. Ferner werden die rechtlichen Rahmenbedingungen im Zusammenhang mit dem Missbrauch von KI zum Onlinebetrug untersucht.