Asociaciones de consumidores exigen al Gobierno alemán supervisar la IA ante riesgos de manipulación

Las asociaciones de consumidores y los reguladores de Alemania han pedido al Gobierno que designe formalmente una autoridad nacional para empezar a supervisar a los proveedores de inteligencia artificial.

Alemania no notificó a la Comisión Europea qué autoridades de vigilancia del mercado había designado para supervisar el cumplimiento de la Ley de Inteligencia Artificial. Una vez designados, los reguladores locales vigilarán a los proveedores locales de sistemas de IA para asegurarse de que cumplen la ley.

El comisario de Protección de Datos de Hamburgo, Thomas Fuchs, pidió al Gobierno federal que designara rápidamente a las autoridades de vigilancia del mercado de la IA, que en algunas zonas incluyen también a las autoridades de supervisión de la protección de datos.

"Debido al retraso, las empresas y las autoridades carecen ahora de su persona de contacto vinculante para las cuestiones relacionadas con la normativa sobre IA. Esto también es una desventaja para Alemania como lugar para la innovación en IA", dijo Fuchs.

Temen una manipulación de los consumidores

Lina Ehrig, responsable del área digital de la Federación Alemana de Organizaciones de Consumidores (VZBV), se hizo eco de estas preocupaciones. Sin supervisión, las empresas podrían utilizar la IA para manipular a los consumidores o explotar debilidades individuales, por ejemplo mediante el análisis de voz en tiempo real en los centros de llamadas, advirtió VZBV.

"Tiene que haber una autoridad supervisora que vigile esto y actúe contra las infracciones. Eso no ha ocurrido hasta ahora", afirma Ehrig. Según un funcionario de la Comisión, algunos de los 27 Estados miembros de la UE han enviado notificaciones sobre los nombramientos -que ahora se están estudiando-, sin embargo, parece que la mayoría de los Estados miembros han incumplido el plazo.

'Euronews' informó en mayo de que, a sólo tres meses de la fecha límite de principios de agosto, seguía sin estar claro en al menos la mitad de los Estados miembros qué autoridad sería nombrada.

A pesar de la falta de regulación nacional, el organismo de control de datos de Hamburgo dijo que había empezado a crear capacidad y a formar personal para las complejas pruebas de los sistemas de IA, con el fin de estar preparado para el momento de la designación legal. A principios de año, el organismo regulador formuló preguntas a Meta sobre sus herramientas de IA.

La Ley de IA entró en vigor en agosto de 2024, pero sus disposiciones empiezan a aplicarse gradualmente. Este mes deben designarse las autoridades nacionales y empiezan a aplicarse las normas sobre proveedores de uso general, como ChatGPT, Claude AI y Gemini.