Die Konzernmutter von Facebook und Instagram, Meta Platforms, hat ein neues Programm zur Bekämpfung des zunehmenden Problems von Betrugsanzeigen, die mit Hilfe von Deepfake-Technologien Prominente einbinden, gestartet. Ab diesem Monat wird Meta ein Modell testen, das durch Gesichtserkennung potenzielle Fake-Anzeigen identifizieren soll. Dieses Pilotprojekt umfasst rund 50.000 Prominente und öffentliche Personen weltweit. Wichtig ist, dass die Teilnahme an diesem Programm jederzeit beendet werden kann, um eine schnellere und effizientere Erkennung und Beseitigung gefälschter Anzeigen zu ermöglichen.
Das System der Gesichtserkennung wird aktiviert, wenn Meta AI den Verdacht auf eine Betrugsanzeige hat und dann die Bilder aus der Anzeige mit den öffentlichen Fotos der betreffenden Person auf Facebook und Instagram abgleicht. Sollte eine Übereinstimmung festgestellt werden, wird die Anzeige sofort als Betrug deklariert und entfernt. Dies stellt eine Kursänderung im Vergleich zu Beginn des Jahres dar, als Meta den Einsatz der Gesichtserkennung aus Datenschutzgründen reduziert hatte. David Agranovich, der Direktor für globale Bedrohungsabwehr bei Meta, betont, dass alle Gesichtsdaten gelöscht werden, sobald der Abgleich abgeschlossen ist, um den Datenschutz zu gewährleisten.
Meta steht unter zunehmendem Druck, sowohl von gesellschaftlichen als auch politischen und regulatorischen Instanzen, gegen Betrugsfälle vorzugehen, die unter falscher Verwendung von Prominentenbildern versucht werden. Sowohl Persönlichkeiten als auch Prominente wie Martin Lewis und Gina Rinehart sind bereits Opfer solcher Betrugsmaschen geworden, während bedeutende finanzielle Verluste und rechtliche Schritte gegen Meta unternommen wurden. Insbesondere wurde der Bergbaumagnat Andrew Forrest in diesem Zusammenhang genannt.
Agranovich räumt ein, dass trotz des neuen Programms nicht alle Betrügereien entdeckt werden können. Er sieht jedoch eine langfristige Veränderung durch die Weiterentwicklung der Strategien der Betrüger und hebt hervor, dass Meta bereits an neuen Werkzeugen und Richtlinien zur Betrugsprävention arbeite, um einen umfassenderen Schutz zu bieten.