Mensch und Modell: Die neue Guardrail im Fraud Management
Die Keynote der KI Exchange jetzt als Podcast: Carmen Honacker von Risk Ident zeigt, wie KI Betrug verändert und warum wirksame Fraud Prevention künftig auf das Zusammenspiel von Mensch und Modell angewiesen ist.
Betrüger arbeiten längst mit KI. Deepfakes, synthetische Identitäten und hyperpersonalisierte Scams lassen sich schneller und in größerem Maßstab produzieren. Wie Banken, Fintechs und PSPs darauf reagieren können, darum geht es in der Keynote der KI Exchange mit Carmen Honacker von Risk Ident, das wir jetzt als Podcast veröffentlichen.
„KI ist in der Lage, Menschen sehr gut nachzuahmen“, sagt Honacker. Das reicht bis zu gefälschten Telefonaten, in denen vermeintliche Führungskräfte Mitarbeiter:innen zu hohen Überweisungen bewegen sollen. Je besser die Modelle werden, desto schwieriger wird es, echte Kommunikation von einem Betrugsversuch zu unterscheiden.
Doch KI ist nicht nur Werkzeug der Angreifer. Auch Fraud-Teams setzen Modelle ein, um Auffälligkeiten schneller zu erkennen und große Datenmengen auszuwerten. „Für mich ist die KI mittlerweile der beste Assistent der Welt“, sagt Honacker. Entscheidend ist dabei: Die Technologie unterstützt den Menschen, ersetzt ihn aber nicht.
Wie wichtig menschliche Erfahrung bleibt, zeigt ein Beispiel aus der Praxis. Ein Anruf des vermeintlichen CEOs eines Sportwagenherstellers entpuppte sich als Betrugsversuch, weil die KI dessen charakteristischen norditalienischen Akzent nicht überzeugend nachahmen konnte. Eine Abweichung, die durch Erfahrung auffiel.
Gleichzeitig müssen Banken, Fintechs und PSPs ihre eigenen KI-Systeme absichern. Anforderungen aus KI-VO, Aufsicht und Haftungsregeln treffen dabei auf eine Fraud-Praxis, in der Geschwindigkeit entscheidend ist. Damit stellt sich eine schwierige Frage: Wo schützen Guardrails und wo bremsen sie die Betrugsabwehr aus?
Für Honacker liegt die Antwort im Zusammenspiel von Mensch und Modell. KI bringt Geschwindigkeit und technische Fähigkeiten mit, der Mensch Erfahrung, Empathie und ethisches Urteilsvermögen. Gerade weil Betrüger KI immer professioneller einsetzen, wird diese Kombination zur entscheidenden Guardrail im Fraud Management.
🎧 Jetzt reinhören: Das Panel der KI Exchange mit Carmen Honacker von Risk Ident als Podcast.
Autor
