Un forum de l'ONU pour une régulation mondiale de l'IA ?

L'intelligence artificielle (IA) a occupé le devant de la scène lors de la réunion annuelle de haut niveau des Nations unies (ONU) cette semaine à New York.

Les dirigeants du Conseil de sécurité de l'ONU ont abordé les bénéfices et les dangers potentiels de l'IA en matière de sécurité, d'utilisation militaire et de désinformation.

"La question n'est pas de savoir si l'IA influencera la paix et la sécurité internationales, mais comment nous allons façonner son influence de manière responsable", a déclaré le Secrétaire général de l'ONU, Antonio Guterres, dans son discours d'ouverture de la réunion de mercredi.

"L'IA peut renforcer la prévention et la protection, anticiper l'insécurité alimentaire et les déplacements, soutenir le déminage, aider à identifier les potentiels foyers de violence, et bien plus encore. Mais sans garde-fous, elle peut aussi être militarisée", a ajouté Antonio Guterres.

Le débat général de mercredi s'est concentré sur la manière dont le Conseil peut aider à garantir l'application responsable de l'IA, en conformité avec le droit international et en soutenant les processus de paix et la prévention des conflits.

Comment les dirigeants mondiaux ont-ils réagi ?

Plusieurs dirigeants européens ont souligné la nécessité pour le Conseil de montrer la voie afin que l'IA ne soit pas utilisée par les militaires sans supervision humaine, pour éviter des escalades ou des erreurs potentiellement dévastatrices.

Le Premier ministre grec Kyriakos Mitsotakis a appelé le Conseil à "se montrer à la hauteur – tout comme il s'est une fois montré à la hauteur des défis posés par les armes nucléaires ou le maintien de la paix, il doit maintenant se montrer à la hauteur pour gouverner l'ère de l'IA."

Le vice-Premier ministre britannique David Lammy a souligné que l'analyse approfondie des données par l'IA offre une promesse de paix, affirmant que l'IA est capable de maintenir "une logistique ultra-précise en temps réel, une analyse des sentiments en temps réel ultra-précise, des systèmes d'alerte ultra-précoce".

L'ONU crée de nouveaux organes pour l'IA

Le mois dernier, l'Assemblée générale de l'ONU (AGNU) a annoncé qu'elle mettra en place deux organes clés pour l'IA - un panel scientifique indépendant d'experts et un forum mondial.

L'ONU a déclaré dans un communiqué que la nouvelle architecture de gouvernance sera une forme beaucoup plus inclusive de gouvernance internationale et abordera les questions entourant l'IA, tout en veillant à ce qu'elle profite à tous.

Le Panel scientifique, pour lequel 40 experts seront nommés par voie de nomination, présentera des rapports annuels lors du forum nommé Dialogue mondial sur la gouvernance de l'IA, qui se tiendra en 2026 à Genève et en 2027 à New York.

La nouvelle structure est considérée comme le dernier et le plus grand effort pour maîtriser l'IA. Les experts l'ont qualifiée de "triomphe symbolique".

Ils sont "de loin l'approche la plus inclusive au monde pour gouverner l'IA", a écrit Isabella Wilkinson, chercheuse au sein du groupe de réflexion Chatham House basé à Londres, dans un article.

Le Royaume-Uni, la France et la Corée du Sud ont tous organisé des sommets mondiaux sur l'IA, mais aucun d'entre eux n'a abouti à des engagements contraignants pour la sécurité de l'IA.

Toutefois, Isabella Wilkinson est sceptique quant à la capacité de l'administration lourde de l'ONU à réguler une technologie en évolution rapide comme l'IA.

"Mais en pratique, les nouveaux mécanismes semblent être principalement impuissants", a-t-elle ajouté.

Le chef de l'ONU tiendra une réunion pour lancer officiellement les deux nouveaux organes jeudi. Ce sera la première fois que les 193 États membres de l'ONU auront leur mot à dire sur la manière dont la gouvernance internationale de l'IA est élaborée, selon l'ONU.

Des experts en IA de premier plan et des lauréats du prix Nobel, y compris des figures de proue d'OpenAI, Google DeepMind et Anthropic, ont lancé un appel aux Nations unies pour qu'elles dirigent un traité mondial contraignant fixant des "garde-fous minimaux » pour l'IA visant à prévenir les « risques les plus urgents et inacceptables".

Parmi ceux qui ont signé l'appel figurent des législateurs européens, dont l'ancien Premier ministre italien Enrico Letta et l'ancienne présidente irlandaise Mary Robinson, actuellement haut-commissaire des Nations unies aux droits de l'homme.