Une étude : des faux comptes en ligne bon marché font de l'infox un marché noir florissant

Des chercheurs ont dressé la carte du coût de création de faux comptes en ligne dans chaque pays du monde, alors que les gouvernements et les régulateurs luttent contre la désinformation et la fraude en ligne.

L'Université de Cambridge a lancé jeudi le Cambridge Online Trust and Safety Index (COTSI), un site web qu'elle présente comme le premier outil mondial permettant de suivre en temps réel les prix de vérification de faux comptes sur plus de 500 plateformes, dont TikTok, Instagram, Amazon, Spotify et Uber.

Ces comptes servent souvent à constituer des « armées de bots », conçues pour imiter de vraies personnes et influencer le débat public en ligne. Les auteurs de l'étude affirment qu'ils peuvent être mobilisés pour inonder les conversations, promouvoir des arnaques ou des produits, ou relayer de manière coordonnée des messages politiques.

L'étude intervient à un moment critique pour la confiance en ligne, alors que les grandes plateformes de réseaux sociaux ont réduit leurs efforts de modération des contenus et ont commencé à rémunérer l'engagement des utilisateurs, ce qui pourrait encourager le recours à de fausses interactions.

Plus tôt cette semaine, le Royaume‑Uni a sanctionné des entreprises russes et chinoises soupçonnées d'être des « acteurs malveillants » de la guerre de l'information.

L'étude a également constaté que la montée de l'intelligence artificielle générative (genAI) a aggravé le problème.

« Nous constatons l'existence d'un marché souterrain florissant où des contenus inauthentiques, de la popularité artificielle et des campagnes d'influence politique sont proposés à la vente, facilement et au grand jour », a écrit Jon Roozenbeek, auteur principal de l'étude et psychologue social computationnel à l'Université de Cambridge, dans un communiqué.

« Cela peut passer par la simulation d'un soutien de base en ligne, ou par la création de polémiques pour récolter des clics et tromper les algorithmes », a-t-il ajouté.

Des vendeurs exploitant des banques de milliers de cartes SIM et des millions de vérifications prêtes à l'emploi peuvent générer de faux comptes pour quelques centimes seulement.

Les données de fournisseurs suivies pendant un an par les chercheurs montrent que la vérification est la moins chère au Royaume‑Uni, aux États‑Unis et en Russie, et nettement plus coûteuse au Japon et en Australie, où des règles plus strictes sur les cartes SIM renchérissent les coûts.

Selon l'analyse, la vérification par SMS d'un faux compte unique coûte en moyenne 0,08 $ (0,06 €) en Russie, 0,10 $ (0,086 €) au Royaume‑Uni et 0,26 $ (0,22 €) aux États‑Unis, contre 4,93 $ (4,25 €) au Japon.

Parmi les plateformes où les faux comptes sont les moins chers à l'échelle mondiale figurent Meta, Shopify, X, Instagram, TikTok, LinkedIn et Amazon.

Certains vendeurs proposent un service client, des offres en gros et des services pour gonfler les mentions J'aime, les commentaires et les abonnés, selon l'étude.

« L'IA générative signifie que les bots peuvent désormais adapter leurs messages pour paraître plus humains et même les personnaliser en fonction d'autres comptes. Les armées de bots deviennent plus convaincantes et plus difficiles à repérer », a déclaré Roozenbeek.

L'étude a également relevé de forts liens avec des systèmes de paiement russes et chinois, et indiqué que la grammaire de nombreux sites de fournisseurs laisse penser à une origine russe.

Flambées des prix liées aux élections

L'étude a également trouvé des indices selon lesquels des campagnes d'influence politique alimenteraient des pics sur le marché des faux comptes, avec une demande croissante pour des « opérations d'influence ».

« La désinformation fait l'objet de désaccords à travers tout le spectre politique. Quelle qu'en soit la nature, une grande partie de l'activité inauthentique en ligne transite par ce marché de la manipulation ; nous pouvons donc simplement suivre l'argent », a déclaré Anton Dek, chercheur associé au Cambridge Centre for Alternative Finance.

Les prix des faux comptes sur Telegram et WhatsApp ont fortement augmenté dans les pays sur le point d'organiser des élections nationales, progressant respectivement de 12 % et 15 % dans les 30 jours précédant l'ouverture des bureaux de vote.

Ces applications de messagerie affichant les numéros de téléphone, les opérateurs d'influence doivent enregistrer des comptes localement, ce qui fait grimper la demande.

Aucune tendance similaire n'a été observée sur des plateformes comme Facebook ou Instagram, où des faux comptes créés à bas coût dans un pays peuvent être utilisés pour cibler des publics ailleurs.

L'équipe à l'origine de l'étude, qui réunit des spécialistes de la désinformation et des crypto‑monnaies, estime que la régulation des cartes SIM et l'application de contrôles d'identité renchériraient le coût de production de faux comptes et contribueraient à freiner ce marché.

Selon eux, le nouvel outil peut aussi servir à tester des mesures de politique publique dans les pays du monde entier.

« L'indice COTSI éclaire l'économie souterraine de la manipulation en ligne en transformant un marché caché en données mesurables », a déclaré Sander van der Linden, coauteur de l'étude et professeur de psychologie sociale à l'Université de Cambridge.

« Comprendre le coût de la manipulation en ligne est la première étape pour démanteler le modèle économique qui sous‑tend la désinformation. »

Plus tôt cette année, le Royaume‑Uni est devenu le premier pays d'Europe à interdire les fermes de cartes SIM, et l'équipe de Cambridge indique que COTSI aidera désormais à mesurer l'impact de cette politique.

Ce texte a été traduit avec l’aide de l’intelligence artificielle. Signaler un problème : [feedback-articles-fr@euronews.com].