L’intelligence artificielle était censée rendre la fraude plus difficile à réaliser. Au lieu de cela, une opération d’escroquerie basée au Cambodge a transformé ChatGPT en colonne vertébrale opérationnelle — l’utilisant pour créer de fausses identités, rédiger des messages émotionnellement manipulateurs et gérer ce qui équivalait à une entreprise de fraude clé en main couvrant des arnaques sentimentales, des pièges d’investissement, des systèmes de jeux d’argent et l’usurpation d’identité des forces de l’ordre. L’histoire, révélée par OpenAI, met en lumière quelque chose de plus inquiétant qu’un simple piratage ingénieux : elle montre comment les réseaux criminels modernes absorbent discrètement l’IA générative dans chaque couche de leur activité.
Summary
Points clés à retenir
- Une opération d’escroquerie basée au Cambodge a utilisé ChatGPT dans au moins quatre types d’arnaques : investissement, romance, jeux d’argent et usurpation d’identité des forces de l’ordre.
- Le réseau a utilisé ChatGPT pour générer de faux personnages, traduire des messages, falsifier des documents et gérer les opérations internes — y compris des dossiers liés à un travail forcé présumé.
- Les escrocs ont déployé des personnages sur des sites de rencontre pour attirer les victimes dans de fausses opérations de trading de cryptomonnaies et de gold au comptant, combinant plusieurs techniques de fraude au sein d’une seule opération.
- Les comptes ChatGPT liés à l’opération ont été bannis et des indicateurs de menace ont été partagés avec des partenaires du secteur et les autorités compétentes.
- Certains contenus frauduleux laissaient entrevoir des liens avec la traite des êtres humains et le travail forcé, en cohérence avec les schémas documentés dans les complexes criminels d’Asie du Sud-Est.
Comment l’opération d’escroquerie au Cambodge a utilisé ChatGPT
OpenAI indique avoir perturbé le réseau plus tôt cette année, à la suite d’un premier signalement provenant de WhatsApp. Ce que les enquêteurs ont découvert n’était pas un simple réseau de phishing, mais une opération multi-schéma menant simultanément plusieurs types de fraude — un schéma qui reflète la manière dont le crime organisé dans la région considère de plus en plus la tromperie comme une activité diversifiée.
Le réseau a utilisé ChatGPT à chaque phase de l’opération. Il a généré et traduit des conversations envoyées aux cibles sur WhatsApp et Telegram, créé du contenu pour les réseaux sociaux et aidé les escrocs à rechercher et maintenir des personnages de rencontre crédibles. Il a également produit du matériel promotionnel pour des plateformes d’investissement frauduleuses et assisté dans le travail administratif quotidien de gestion du réseau.
Cette fonction administrative mérite qu’on s’y attarde. Un sous-ensemble d’utilisateurs utilisait ChatGPT pour rédiger des annonces internes, traduire des communications entre membres du personnel et documenter des questions liées au recrutement, au statut migratoire, aux conditions de travail et à la discipline des employés. En d’autres termes, l’IA ne faisait pas que faire face aux victimes — elle était intégrée dans la machinerie interne de l’organisation.
Multiples schémas de fraude, un seul réseau
Plutôt que de se limiter à un seul type d’arnaque, l’opération a mélangé les tactiques de manière fluide. Les opérateurs établissaient une confiance romantique avec les cibles avant de se tourner vers de fausses opportunités d’investissement impliquant des cryptomonnaies et le trading de gold au comptant. D’autres se faisaient passer pour des représentants de plateformes de jeux d’argent offrant de faux bonus et gains. Dans un volet plus agressif de l’opération, les escrocs se faisaient passer pour des agences d’application de la loi, avertissant les cibles qu’elles faisaient face à de graves accusations pénales et exigeant le paiement d’amendes fabriquées de toutes pièces.
Dans l’ensemble de ces schémas, le comportement sous-jacent était cohérent : construire la confiance, puis l’exploiter. Les escrocs créaient des identités fictives — profils de rencontre, experts en investissement, responsables juridiques — et les étayaient avec des documents falsifiés incluant passeports, avis juridiques, confirmations d’achat d’actions et interfaces de plateformes de jeux d’argent, tous générés à l’aide des capacités d’image de ChatGPT.
L’art de l’arnaque émotionnelle
Ce qui rendait ce réseau particulièrement efficace, selon les conclusions d’OpenAI, était la sophistication de sa manipulation émotionnelle. Les messages frauduleux s’appuyaient fortement sur un langage de création de confiance et des tactiques de pression : promesses de rendements garantis et sans risque ; conversations romantiques conçues pour faire tomber les défenses ; instructions données aux victimes de garder leurs communications secrètes ; et urgence fabriquée autour de bonus sur le point d’expirer ou de conséquences juridiques imminentes.
La séquence suivait une structure reconnaissable. D’abord venait la relation — une conversation amicale ou romantique qui s’étirait dans le temps. Puis venait la proposition — un investissement à ne pas manquer, un gain inattendu ou une menace juridique exigeant un paiement immédiat. Enfin venait l’extraction : on disait aux victimes de faire des dépôts pour débloquer des récompenses, payer des frais d’activation ou régler de fausses amendes, puis de fournir des captures d’écran de paiement ou des informations de compte comme preuve.
Des victimes individuelles auraient perdu des milliers de dollars, bien qu’OpenAI précise ne pas pouvoir vérifier ces montants de manière indépendante. L’ampleur financière totale de l’opération, y compris le nombre de cibles atteintes dans tous les types d’arnaques, reste inconnue.
Des recherches publiées indépendamment ajoutent un contexte important ici. Une étude menée par des chercheurs de quatre universités — dont l’Université Ben Gourion du Néguev, l’Université de Melbourne, l’Université Ca’ Foscari de Venise et Amrita Vishwa Vidyapeetham — a montré que les chatbots d’IA peuvent en réalité surpasser les escrocs humains dans la phase de création de confiance de ces arnaques au long cours. Dans leur expérience, près de 46 % des sujets de test ont accédé à une demande formulée par un chatbot d’IA, contre seulement 18 % lorsque la même demande était faite par un humain. L’IA a également obtenu des scores de confiance significativement plus élevés de la part des participants. L’implication est brutale : la qualité même qui rend les grands modèles de langage utiles — leur aisance, leur chaleur et leur patience conversationnelle — peut être utilisée comme arme contre les gens avec une efficacité alarmante.
Liens avec la traite des êtres humains et le travail forcé
L’opération basée au Cambodge n’était pas seulement un réseau de fraude. Certains des contenus générés via ChatGPT suggéraient que l’opération était imbriquée dans la traite des êtres humains et le travail forcé — une intersection qui est devenue une caractéristique déterminante des complexes d’escroquerie en Asie du Sud-Est.
Indicateurs de criminalité forcée au sein du réseau
Des signaux d’alerte spécifiques ont émergé des données. Certains utilisateurs ont généré des publicités sur les réseaux sociaux pour recruter des travailleurs « chatter » à Poipet, une ville frontalière cambodgienne, offrant vols, hébergement, visas et permis de travail — un schéma de recrutement cohérent avec les opérations de traite documentées qui attirent les travailleurs avec de fausses promesses d’emploi légitime. Une fois à l’intérieur, les travailleurs sont fréquemment piégés par la servitude pour dettes et la coercition.
D’autres activités sur ChatGPT semblaient liées à la gestion de la main-d’œuvre de l’opération de l’intérieur. Les dossiers tenus via la plateforme incluaient les dettes des employés, les retenues sur salaire, les amendes disciplinaires et les remboursements de prêts. Il y avait également des discussions traduites sur le statut migratoire, les permis de travail, les dépassements de visa et les primes de recrutement. Certaines conversations faisaient référence à des détentions apparentes, des tentatives d’évasion et une éventuelle responsabilité pénale pour des personnes ayant été victimes de traite et forcées à travailler.
OpenAI prend soin de préciser qu’il ne peut pas déterminer les circonstances spécifiques de chaque individu impliqué. Mais le schéma est cohérent avec de nombreux rapports publics sur les complexes criminels au Cambodge, au Myanmar et au Laos, où des travailleurs recrutés sous de faux prétextes sont forcés de faire fonctionner de vastes opérations de fraude.
Quand la fraude et le crime organisé ne font qu’un
C’est le point analytique plus profond que soulève cette affaire. Ce qui, de l’extérieur, ressemble à une histoire d’abus technologique — des criminels utilisant ChatGPT pour mener des escroqueries — est, sous un autre angle, une fenêtre sur la structure organisationnelle du crime transnational. Les frontières entre fraude en ligne, crime organisé et traite des êtres humains dans ces opérations ne sont pas des chevauchements accidentels. Ce sont des caractéristiques structurelles de la manière dont les réseaux fonctionnent et se maintiennent.
Cette réalité façonne la manière dont les efforts de perturbation devraient fonctionner. Bannir des comptes individuels s’attaque aux outils utilisés par les criminels, mais l’entreprise criminelle elle-même — les canaux de recrutement, l’infrastructure des complexes, les systèmes de servitude pour dettes — fonctionne indépendamment de toute plateforme d’IA particulière. Une perturbation efficace, comme le note OpenAI lui-même, exige de cibler non seulement l’activité tournée vers les victimes, mais aussi les organisations qui l’orchestrent.
Ce qu’OpenAI a fait — et ce qui reste non résolu
OpenAI a banni les comptes ChatGPT liés à l’opération, a partagé les indicateurs de menace pertinents avec des partenaires du secteur et a pris des mesures pour empêcher ces acteurs de retrouver l’accès aux autorités et à ses services. L’enquête a été déclenchée par un signalement de WhatsApp, ce qui suggère que le partage d’informations entre plateformes a joué un rôle significatif dans l’identification du réseau.
Ce qui reste flou, c’est la réponse plus large des forces de l’ordre. Aucune arrestation, poursuite ou saisie de complexe n’est décrite en lien avec ce cas spécifique. L’étendue géographique complète du réseau n’a pas été détaillée, et la possibilité d’une reprise de l’activité — via d’autres comptes, d’autres plateformes ou d’autres outils d’IA — ne peut être exclue.
Les recherches indépendantes sur l’efficacité des chatbots d’IA dans les scénarios d’escroquerie pointent vers un problème plus difficile à l’horizon. Si l’IA peut prendre en charge la longue phase de création de relation d’une arnaque de type « pig butchering » — et le faire de manière plus convaincante qu’un humain — la logique économique qui maintient actuellement la traite des êtres humains au cœur de ces opérations pourrait commencer à évoluer. Comme l’a formulé Erin West, ancienne procureure qui dirige désormais l’organisation anti-escroquerie Operation Shamrock, en réaction à ces recherches : « Nous devrions avoir très peur de ce que montre cette étude. » Un monde où les complexes d’escroquerie n’ont plus besoin de centaines de travailleurs victimes de traite pour alimenter des centres d’appels est aussi un monde où ces opérations deviennent plus petites, plus dispersées et considérablement plus difficiles à détecter.
FAQ
Quels types d’arnaques l’opération basée au Cambodge utilisait-elle ?
L’opération menait simultanément plusieurs types d’arnaques, notamment la fraude à l’investissement, les arnaques sentimentales, les systèmes de jeux d’argent et l’usurpation d’identité des forces de l’ordre. Les escrocs combinaient souvent ces tactiques au sein d’une même interaction — par exemple, en utilisant un personnage romantique pour instaurer la confiance avant d’orienter les victimes vers de fausses opérations d’investissement en cryptomonnaies ou en gold au comptant.
Comment les escrocs utilisaient-ils ChatGPT dans leurs opérations ?
ChatGPT était utilisé pour créer et maintenir de faux personnages, générer et traduire des messages frauduleux envoyés aux victimes sur WhatsApp et Telegram, produire des documents falsifiés, créer du contenu promotionnel pour des plateformes frauduleuses et soutenir le travail administratif interne, y compris les communications du personnel et la tenue des dossiers de la main-d’œuvre.
Existe-t-il un lien entre l’opération d’escroquerie et la traite des êtres humains ?
Oui, avec des réserves. Certains contenus générés au sein du réseau indiquaient un recrutement pour des rôles de travail forcé, des dossiers internes cohérents avec des pratiques de servitude pour dettes et des conversations faisant référence à des détentions et des tentatives d’évasion. Ces schémas s’alignent sur de nombreux rapports concernant les complexes de crime organisé en Asie du Sud-Est, bien qu’OpenAI ait déclaré ne pas pouvoir déterminer de manière indépendante les circonstances de chaque individu impliqué.
Quelles mesures ont été prises pour perturber l’opération d’escroquerie ?
OpenAI a banni les comptes ChatGPT associés à l’opération et a partagé des indicateurs de menace avec des partenaires du secteur et les autorités compétentes. Le premier signalement provenait de WhatsApp. Des mesures ont également été prises pour empêcher ces acteurs de retrouver l’accès aux services d’OpenAI, bien que les résultats plus larges en matière d’application de la loi dans cette affaire n’aient pas été rendus publics.
{« @context »: »https://schema.org », »@type »: »FAQPage », »mainEntity »:[{« @type »: »Question », »name »: »Quels types d’arnaques l’opération basée au Cambodge utilisait-elle ? », »acceptedAnswer »:{« @type »: »Answer », »text »: »L’opération menait simultanément plusieurs types d’arnaques, notamment la fraude à l’investissement, les arnaques sentimentales, les systèmes de jeux d’argent et l’usurpation d’identité des forces de l’ordre. Les escrocs combinaient souvent ces tactiques au sein d’une même interaction — par exemple, en utilisant un personnage romantique pour instaurer la confiance avant d’orienter les victimes vers de fausses opérations d’investissement en cryptomonnaies ou en gold au comptant. »}},{« @type »: »Question », »name »: »Comment les escrocs utilisaient-ils ChatGPT dans leurs opérations ? », »acceptedAnswer »:{« @type »: »Answer », »text »: »ChatGPT était utilisé pour créer et maintenir de faux personnages, générer et traduire des messages frauduleux envoyés aux victimes sur WhatsApp et Telegram, produire des documents falsifiés, créer du contenu promotionnel pour des plateformes frauduleuses et soutenir le travail administratif interne, y compris les communications du personnel et la tenue des dossiers de la main-d’œuvre. »}},{« @type »: »Question », »name »: »Existe-t-il un lien entre l’opération d’escroquerie et la traite des êtres humains ? », »acceptedAnswer »:{« @type »: »Answer », »text »: »Oui, avec des réserves. Certains contenus générés au sein du réseau indiquaient un recrutement pour des rôles de travail forcé, des dossiers internes cohérents avec des pratiques de servitude pour dettes et des conversations faisant référence à des détentions et des tentatives d’évasion. Ces schémas s’alignent sur de nombreux rapports concernant les complexes de crime organisé en Asie du Sud-Est, bien qu’OpenAI ait déclaré ne pas pouvoir déterminer de manière indépendante les circonstances de chaque individu impliqué. »}},{« @type »: »Question », »name »: »Quelles mesures ont été prises pour perturber l’opération d’escroquerie ? », »acceptedAnswer »:{« @type »: »Answer », »text »: »OpenAI a banni les comptes ChatGPT associés à l’opération et a partagé des indicateurs de menace avec des partenaires du secteur et les autorités compétentes. Le premier signalement provenait de WhatsApp. Des mesures ont également été prises pour empêcher ces acteurs de retrouver l’accès aux services d’OpenAI, bien que les résultats plus larges en matière d’application de la loi dans cette affaire n’aient pas été rendus publics. »}}]}
Article produit avec l’assistance de l’intelligence artificielle et relu par l’équipe éditoriale.
