Arnaque : avec l’IA, il se fait passer pour une adolescente qui se serait fait enlever

Les dernières avancées dans les modèles d’intelligence artificielle permettent notamment de reproduire des voix. Un homme a usé de cela pour monter une arnaque à la rançon.

Si depuis quelques mois différents modèles d’intelligence artificielle sont utilisés pour reproduire des voix de chanteurs morts ou vivants pour créer de nouvelles chansons, ils peuvent aussi être utilisés à mauvais escient, notamment pour arnaquer les gens.

Des deepfakes de plus en plus convaincants

C’est ce qu’il s’est d’ailleurs récemment passé en Arizona. Une femme a reçu un appel téléphonique avec la voix de sa fille qui lui demandait de l’aide. « Aide-moi, maman, je t’en supplie, aide-moi » a entendu Jennifer DeStefano au bout du fil, d’après l’AFP qui rapporte l’histoire.

Selon la mère de famille, la voix ressemblait à celle de sa fille de 15 ans, partie faire du ski. Même l’intonation ou la façon de pleurer étaient là, de quoi convaincre la mère. Après ce passage, l’arnaqueur prend la parole afin d’exiger une rançon d’un million de dollars.

Mais l’arnaque a rapidement pris fin puisque Jennifer DeStefano a, en parallèle, réussi à joindre sa fille sur son téléphone portable. L’affaire n’est pas pour autant terminée puisque les autorités américaines ont lancé une enquête afin de retrouver la personne qui a tenté d’arnaquer cette mère.

D’autant plus que le phénomène pourrait s’amplifier à l’avenir, les outils pour mettre en place un tel stratagème sont de plus en plus facile à se procurer dorénavant et des applications pour smartphones existent, rendant le travail encore plus facile tandis que la voix est extraite depuis des contenus postés en ligne.

De quoi créer des deepfakes convaincants rappelle l’agence de presse, ce qui mène à de nouvelles arnaques du genre comme celle « au grand-parent ». Une personne âgée reçoit un appel de l’un de ses petits-enfants qui lui demande de lui envoyer de l’argent pour le sortir d’une galère.