Actualité : “Vous construisez une confiance émotionnelle et cela les prépare à être escroqués” : l’IA devient le meilleur atout des arnaqueurs

Avec l’aide de l’intelligence artificielle, les escroqueries romantiques franchissent un nouveau cap technologique majeur. Des chercheurs de quatre grandes universités internationales ont mené une expérience fascinante pour comparer les talents de persuasion des escrocs humains avec ceux des agents conversationnels. Leurs conclusions sont particulièrement inquiétantes, l'IA instaurant une relation intime plus qu’efficace pour piéger de nouvelles cibles vulnérables en ligne.

Les agents IA incarnent une vraie menace technologique, gagnant la confiance plus rapidement que l’humain

Rapportée par le média américain Wired, cette nouvelle étude démontre que la phase de séduction, souvent longue et fastidieuse pour les réseaux criminels, peut désormais être entièrement automatisée. Pour arriver à cette conclusion, les chercheurs ont demandé à 22 participants d'échanger par message pendant une semaine avec un humain spécialisé dans ces fraudes et avec un agent conversationnel IA.

Visant à évaluer le pouvoir de persuasion entre les deux méthodes d’échange, les résultats montrent tout d’abord que près de la moitié des cobayes ont accepté de télécharger une application recommandée par l'intelligence artificielle, contre seulement dix-huit pour cent pour le fraudeur humain.

Pour illustrer ce phénomène de confiance, les chercheurs leur ont demandé d'évaluer leur niveau de confiance sur une échelle de 1 à 5. L'humain a obtenu une moyenne de 3,31, tandis que l'IA a grimpé à 3,78. Plus révélateur encore : sur l'ensemble des messages envoyés par les participants durant l'expérience, 80 % étaient spontanément adressés au robot.

Gilad Gressel, l'un des chercheurs du projet, compare cette méthode à une véritable “récolte de confiance”. Il souligne : “Vous construisez une confiance émotionnelle, et cela les prépare à être escroqués”. De plus, les modèles d'IA testés ont su maintenir l'illusion avec brio, refusant d'admettre leur nature artificielle même lorsqu'ils étaient directement interrogés.

Cette efficacité s'explique très simplement par la patience inépuisable et la perfection linguistique des modèles de langage. Yisroel Mirsky, directeur de cette étude, rapporte au passage que cette automatisation via l’IA permet de contourner les sécurités informatiques actuelles. “Avec relativement peu d'efforts, nous sommes capables de créer un agent qui surpasse un humain pour construire cette confiance émotionnelle exploitable”, précise-t-il.

Les dangers à venir sont déjà clairement identifiés

À terme, cette technologie pourrait par exemple remplacer les travailleurs forcés des centres d’escroquerie. Les criminels n'auraient d’ailleurs plus qu’à intervenir pour finaliser le vol de données ou de fonds après avoir séduit leurs victimes. Cette bascule vers l'automatisation alerte ainsi sur l’avenir de l’IA à des fins malveillantes.

Comme le souligne l'ancienne procureure Erin West, si l'usage de l'IA pourrait réduire le trafic d'êtres humains exploités dans les immenses complexes de fraude en Asie du Sud-Est, les opérations criminelles deviendront en revanche beaucoup plus difficiles à repérer et à démanteler. Capables d'interagir avec des milliers de cibles en simultané de manière automatisée, les réseaux n'auront plus besoin de vastes infrastructures visibles et pourront orchestrer ces escroqueries à l'échelle industrielle depuis un simple appartement.