L'Allemagne est invitée à mettre en place une supervision adéquate de l'IA

Les groupes de consommateurs et les régulateurs allemands ont demandé au gouvernement de nommer officiellement une autorité nationale chargée de superviser les fournisseurs d'intelligence artificielle.

L'Allemagne n'a pas respecté le délai du 2 août fixé par l'UE pour notifier à la Commission européenne les autorités de surveillance du marché qu'elle a désignées pour contrôler le respect de la loi sur l'IA par les entreprises. Une fois désignés, les régulateurs locaux surveilleront les fournisseurs locaux de systèmes d'intelligence artificielle pour s'assurer qu'ils respectent la loi.

Le commissaire à la protection des données de Hambourg, Thomas Fuchs, a appelé le gouvernement fédéral à désigner rapidement les autorités de surveillance du marché de l'IA - qui, dans certaines régions, comprennent également les autorités de contrôle de la protection des données.

"En raison de ce retard, les entreprises et les autorités n'ont plus de personne de contact pour les questions relatives à la réglementation sur l'IA. C'est également un désavantage pour l'Allemagne en tant que lieu d'innovation en matière d'IA", a déclaré M. Fuchs.

Lina Ehrig, responsable du numérique à la Fédération des organisations allemandes de consommateurs (VZBV), s'est fait l'écho de ces préoccupations. Sans supervision, les entreprises pourraient utiliser l'IA pour manipuler les consommateurs ou exploiter les faiblesses individuelles, par exemple via l'analyse vocale en temps réel dans les centres d'appels, a averti VZBV.

"Il doit y avoir une autorité de surveillance qui garde un œil sur tout cela et agit contre les violations. Cela n'a pas été le cas jusqu'à présent", selon Mme Ehrig.

Selon un fonctionnaire de la Commission, certains des 27 États membres de l'UE ont envoyé des notifications sur les nominations - qui sont maintenant à l'étude - mais il semble que la plupart des États membres aient dépassé la date limite.

Euronews a rapporté en mai qu'à trois mois de la date limite de début août, au moins la moitié des États membres n'avaient pas encore déterminé quelle autorité serait nommée.

Malgré l'absence de réglementation nationale, l'autorité de surveillance des données de Hambourg a déclaré qu'elle avait commencé à renforcer ses capacités et à former du personnel pour les tests complexes des systèmes d'IA afin d'être prête pour le moment de la désignation légale. Au début de l'année, le régulateur a posé à Meta des questions sur ses outils d'IA.

La loi sur l'IA est entrée en vigueur en août 2024, mais ses dispositions commencent à s'appliquer progressivement. Ce mois-ci, les autorités nationales doivent être désignées, et les règles relatives aux fournisseurs à vocation générale - tels que ChatGPT, Claud AI et Gemini - commencent à s'appliquer.