El coste de los Ejércitos de bots online para manipular y hacer injerencia electoral

Un grupo de investigadores ha calculado cuánto cuesta crear cuentas falsas en línea en cada país del mundo, mientras Gobiernos y reguladores lidian con la desinformación y el fraude en internet.

La Universidad de Cambridge lanzó el jueves el Cambridge Online Trust and Safety Index (COTSI), un sitio web que, según afirma, es la primera herramienta global para seguir en tiempo real los precios de verificación de cuentas falsas en más de 500 plataformas, entre ellas TikTok, Instagram, Amazon, Spotify y Uber.

Estas cuentas se utilizan a menudo para crear "Ejércitos de bots", diseñados para imitar a personas reales y moldear el debate público en línea. Los autores del estudio señalan que pueden desplegarse para inundar conversaciones, promocionar estafas o productos, o impulsar mensajes políticos de forma coordinada.

El estudio llega en un momento crítico para la confianza en línea, ya que las principales redes sociales han reducido los esfuerzos de moderación de contenidos y han empezado a pagar a los usuarios por la interacción, lo que podría incentivar la dependencia de interacciones falsas.

A comienzos de esta semana, el Reino Unido sancionó a empresas rusas y chinas sospechosas de ser 'actores maliciosos' en la guerra informativa.

El estudio también concluye que el auge de la inteligencia artificial generativa (genAI) ha agravado el problema.

"Detectamos un mercado clandestino floreciente en el que se venden fácil y abiertamente contenido no auténtico, popularidad artificial y campañas de influencia política", escribió Jon Roozenbeek, autor principal del estudio y psicólogo social computacional en la Universidad de Cambridge, en un comunicado

"Esto puede lograrse simulando apoyo de base en línea o generando controversia para cosechar clics y manipular los algoritmos", añadió.

Proveedores que operan bancos de miles de tarjetas SIM y millones de verificaciones listas pueden generar cuentas falsas por unos pocos céntimos.

Los datos de proveedores que los investigadores siguieron durante un año muestran que la verificación es más barata en el Reino Unido, Estados Unidos y Rusia, y notablemente más cara en Japón y Australia, donde normas más estrictas sobre las SIM elevan los costes.

Según el análisis, la verificación por SMS para una sola cuenta falsa cuesta de media $0.08 (0,06€) en Rusia, $0.10 (0,086€) en el Reino Unido y $0.26 (0,22€) en Estados Unidos, frente a $4.93 (4,25€) en Japón.

Entre las plataformas con los precios globales más bajos para cuentas falsas figuran Meta, Shopify, X, Instagram, TikTok, LinkedIn y Amazon.

Algunos vendedores ofrecen atención al cliente, paquetes al por mayor y servicios para inflar los me gusta, los comentarios y los seguidores, según el estudio.

"La IA generativa permite que los bots adapten los mensajes para parecer más humanos e incluso los ajusten para relacionarse con otras cuentas. Los ejércitos de bots son cada vez más persuasivos y difíciles de detectar", señaló Roozenbeek.

El estudio también detectó fuertes vínculos con sistemas de pago rusos y chinos, y señaló que la gramática de muchas páginas de proveedores sugiere autoría rusa.

Repuntes de precios vinculados a elecciones

El estudio también halló indicios de que las campañas de influencia política podrían estar impulsando picos en el mercado de cuentas falsas, con una demanda al alza de "operaciones de influencia".

"La desinformación suscita desacuerdos a lo largo del espectro político. Sea cual sea la naturaleza de la actividad inauténtica en línea, gran parte se canaliza por este mercado de manipulación, así que podemos simplemente seguir el dinero", afirmó Anton Dek, investigador asociado en el Cambridge Centre for Alternative Finance.

Los precios de cuentas falsas en Telegram y WhatsApp subieron con fuerza en países a punto de celebrar elecciones nacionales, con incrementos del 12% y del 15%, respectivamente, en los 30 días previos a la apertura de las urnas.

Como estas aplicaciones de mensajería muestran los números de teléfono, los operadores de influencia deben registrar cuentas de forma local, lo que impulsa la demanda.

No se detectó una tendencia similar en plataformas como Facebook o Instagram, donde cuentas falsas creadas a bajo coste en un país pueden usarse para dirigirse a audiencias en otros lugares.

El equipo responsable del estudio, que incluye expertos en desinformación y criptomonedas, considera que regular las tarjetas SIM y exigir comprobaciones de identidad encarecería la producción de cuentas falsas y ayudaría a frenar el mercado.

Aseguran que la nueva herramienta también puede emplearse para evaluar intervenciones políticas en países de todo el mundo.

"El índice COTSI arroja luz sobre la economía sumergida de la manipulación en línea al convertir un mercado oculto en datos medibles", dijo Sander van der Linden, coautor del estudio y profesor de psicología social en la Universidad de Cambridge.

"Comprender el coste de la manipulación en línea es el primer paso para desmantelar el modelo de negocio que hay detrás de la desinformación".

A principios de este año, el Reino Unido se convirtió en el primer país de Europa en prohibir las granjas de tarjetas SIM, y el equipo de Cambridge sostiene que COTSI ayudará ahora a medir el impacto de esa política.