15 mai 2023 – Les escrocs sont toujours à la recherche de subterfuges qui leur permettrons de mener à bien leurs escroqueries. Avec l’intelligence artificielle, les malversations sont de plus en plus sophistiquées et impliquent des voix clonées à l’aide de l’I.A.
Les derniers à en avoir fait les frais sont le scénariste Bob William et ses collègues de Peabody Films en Espagne. Surpris, ils le furent en recevant un e-mail de l’acteur Benedict Cumberbatch leur disant qu’il était intéressé à jouer dans leur nouveau film, ils ne pouvaient pas croire leur chance.
« Au début, l’e-mail semblait être un rêve devenu réalité. Benedict Cumberbatch avait apparemment lu le scénario de notre prochain film et était intéressé à discuter d’un rôle potentiel », a déclaré Bob William.
L’acteur Benedict Cumberbatch nominé pour deux Oscars, deux British Acadely Film Awards et de quatre Golden Globle
« C’est l’un des acteurs les plus talentueux de notre époque, qui nous a contacté et s’est montré intéressé par notre projet ».
Lors d’un rendez-vous téléphonique avec l’acteur, le réalisateur et son équipe étaient enthousiastes, même si quelque signaux ont éveillé des soupçons.
LE POTEAU ROSE
La société de production espagnole a commencé à avoir des soupçons dès que l’acteur et son agent ont refusé de les rencontrer. Après enquête, il s’est avéré que l’auteur du mail et la personne avec laquelle ils avaient conversé par téléphone, n’était pas du tout Benedict Cumberbatch, mais une intelligence artificielle sophistiquée. Le but était de voler 250 000 $ à l’entreprise.
« Nous avons été choqués et déçus de découvrir que nous avions été victimes d’un programme d’IA se faisant passer pour un acteur célèbre », a déclaré Bob William.
Au fur et à mesure que le temps passe et que des programmes comme celui-ci deviennent de plus en plus avancés. Dans un avenir très proche, il sera presque impossible de faire la différence entre une IA et une personne réelle au téléphone. Finalement, nous ne serons pas en mesure de dire si tout ce que nous voyons ou entendons est authentique ou faux.
DE NOMBREUSES TENTATIVES D’ARNAQUES
Les cyber-polices du monde entier assurent que les fraudeurs utilisent déjà de fausses voix via l’I.A. Selon McAfee, spécialiste de la cybersécurité, dix pour cent de gens ont déjà été ciblées par une escroquerie vocale basée sur l’IA. Dans la plupart des cas, le but est financier. 78 % des victimes ont perdu de l’argent et ce n’est pas prêt de s’arranger.
Cette année, Microsoft a présenté un modèle d’IA de synthèse vocale capable de synthétiser la voix de n’importe qui à partir d’un échantillon audio de trois secondes. Si les premiers essais montraient une faiblesse dans les intentions vocales, le modèle, VALL-E, peut préserver le ton émotionnel d’une personne vivante. Dans le cas, présent, d’après Bob William, « Benedict Cumberbatch était crédible à 100% »…
« C’était sa voix. Pas de doute à ce sujet », a-t-il poursuivi, « Nous avons d’abord pensé qu’il pourrait s’agir d’un doubleur nous faisant une blague, mais cela a continué et ils ont commencé à parler d’argent ».
Interrogé sur cette mésaventure, l’expert en IA, en fraude, fondateur et président d’ID R&D souligne que les fausses images et le son générés par l’IA sont déjà largement utilisés dans la fraude commerciale.
Bob Bellanca (rédaction btlv.fr Source DailyMail)
