Así es como la ONU propone liderar la regulación global de la IA
La inteligencia artificial (IA) fue el tema central en la reunión anual de alto nivel de las Naciones Unidas (ONU) esta semana en Nueva York. Los líderes del Consejo de Seguridad de la ONU abordaron los posibles beneficios y perjuicios de la IA en seguridad, uso militar y desinformación.
"La pregunta no es si la IA influirá en la paz y seguridad internacionales, sino cómo moldearemos su influencia para que se utilice de manera responsable", dijo el secretario general de la ONU, Antonio Guterres, en sus palabras de apertura en la reunión del miércoles.
"La IA puede fortalecer la prevención y protección, anticipando la inseguridad alimentaria y el desplazamiento, apoyando el desminado, ayudando a identificar posibles brotes de violencia y mucho más. Pero sin límites, también puede ser utilizada como arma", añadió Guterres.
El debate general del miércoles se centró en cómo el Consejo puede ayudar a garantizar la aplicación responsable de la IA para cumplir con el derecho internacional y apoyar los procesos de paz y la prevención de conflictos.
¿Cómo han reaccionado los líderes mundiales?
Varios líderes europeos destacaron la necesidad de que el Consejo lidere el camino para garantizar que la IA no sea utilizada por los militares sin supervisión humana, para evitar posibles escaladas devastadoras o errores.
El primer ministro griego, Kyriakos Mitsotakis, instó al Consejo a "estar a la altura de las circunstancias, tal como una vez se enfrentó a los desafíos de las armas nucleares o el mantenimiento de la paz, ahora también debe gobernar la era de la IA".
El viceprimer ministro británico, David Lammy, destacó que el análisis profundo de IA de los datos de situación promete la paz, diciendo que la IA es capaz de mantener "logística en tiempo real ultracorrecta, análisis de sentimientos en tiempo real ultracorrecto, sistemas de alerta temprana ultracorrectos".
El presidente español, Pedro Sánchez, participó activamente comentando que hay que buscar una forma de gobernar la IA y ha apostado por Naciones Unidas como centro de este reto.
La ONU crea nuevos organismos para la IA
El mes pasado, la Asamblea General de la ONU (AGNU) anunció que establecerá dos organismos clave sobre IA: un panel científico independiente de expertos y un foro global.
La ONU dijo en un comunicado que la nueva arquitectura de gobernanza será una forma mucho más inclusiva de gobernanza internacional, abordará los problemas relacionados con la IA y garantizará que beneficie a todas las personas.
El Panel Científico, para el cual se nombrarán 40 expertos a través de nominaciones, presentará informes anuales en el foro denominado Diálogo Global sobre la Gobernanza de la IA, que se llevará a cabo en 2026 en Ginebra y en 2027 en Nueva York.
El nuevo establecimiento se considera el último y mayor esfuerzo para controlar la IA. Los expertos lo han calificado como "un triunfo simbólico". Son "con mucho, el enfoque más inclusivo a nivel mundial para gobernar la IA", escribió Isabella Wilkinson, investigadora del think tank Chatham House con sede en Londres, en una entrada de blog.
Reino Unido, Francia y Corea del Sur han celebrado cumbres globales de IA, pero ninguna de ellas ha resultado en compromisos vinculantes para la seguridad de la IA. Sin embargo, Wilkinson es escéptica de que la administración lenta de la ONU pueda regular una tecnología tan rápida como la IA. "Pero en la práctica, los nuevos mecanismos parecen ser mayormente impotentes", añadió.
El jefe de la ONU celebrará una reunión para lanzar oficialmente los dos nuevos organismos el jueves. Será la primera vez que los 193 Estados Miembros de la ONU tendrán voz en la forma en que se desarrolla la gobernanza internacional de la IA, según la ONU.
Anteriormente, destacados expertos en IA y ganadores del Premio Nobel, incluidos altos dirigentes de OpenAI, Google DeepMind y Anthropic, habían emitido un llamado para que las Naciones Unidas lideren un tratado global vinculante que establezca "guardias mínimas" para la IA, diseñadas para prevenir los "riesgos más urgentes e inaceptables".
Entre los que firmaron el llamado se encuentran legisladores europeos, incluido el ex primer ministro italiano Enrico Letta y la expresidenta de Irlanda Mary Robinson, quien actualmente es Alta Comisionada de las Naciones Unidas para los Derechos Humanos.
Today