La amenaza de la "superinteligencia": Expertos piden frenar el desarrollo de la IA

Más de 850 figuras públicas, entre ellas líderes en el sector de la inteligencia artificial (IA) y de la tecnología, han pedido frenar la carrera para crear una forma de IA que supere el intelecto humano, conocida como "superinteligencia".

Expertos como el premio Nobel Geoffrey Hinton y como Yoshua Bengio, ampliamente considerados los padrinos de la IA, firmaron la carta, al igual que el cofundador de Apple Steve Wozniak y el fundador de Virgin Group, Richard Branson.

La superinteligencia se define de forma general como una inteligencia artificial que supera las capacidades cognitivas humanas, algo que, según temen algunos expertos tecnológicos, podría hacer que los humanos perdieran el control de estos sistemas. Que las máquinas tomen el control sería el resultado por defecto, según predijo el célebre informático Alan Turing en la década de 1950.

Los líderes mundiales sostienen que ganar la carrera de la IA es clave para la seguridad nacional y para los avances en la salud, la economía y la tecnología. Mientras tanto, empresas tecnológicas como Meta han recurrido al término superinteligencia para ensalzar sus últimos modelos de IA. Este año, Meta bautizó su división de modelos de lenguaje de gran tamaño (LLM), como Meta Superintelligence Labs.

La carta afirma que la carrera de la IA hacia la superinteligencia "ha suscitado preocupaciones, que van desde la obsolescencia económica humana y la pérdida de poder, de libertad, de libertades civiles, de dignidad y de control, hasta riesgos para la seguridad nacional e incluso la posible extinción humana".

Reclama una "prohibición del desarrollo de la superinteligencia; que no se desarrolle hasta que exista un amplio consenso científico de que se hará de forma segura y controlable, y un sólido respaldo público".

Líderes del sector de la IA como el consejero delegado de OpenAI, Sam Altman, han afirmado anteriormente que el desarrollo de una inteligencia sobrehumana de las máquinas (SMI, por sus siglas en inglés) "probablemente sea la mayor amenaza para la continuidad de la humanidad".

Por su parte, el consejero delegado de Microsoft, Mustafa Suleyman, dijo que "hasta que no podamos demostrar de manera inequívoca que es segura, no deberíamos inventarla". Sin embargo, ni Altman ni Suleyman figuraban entre los firmantes de la carta.

Altman también ha defendido la inteligencia artificial general (AGI, por sus siglas en inglés), definida de forma laxa como un tipo de IA que iguala o supera las capacidades cognitivas humanas y que se considera el paso previo a la superinteligencia.

Pero para Altman, la AGI es una forma hipotética de inteligencia capaz de resolver cualquier tarea humana, mediante métodos no limitados a su entrenamiento. Además, ha dicho que puede "elevar a la humanidad", sin aludir a la posibilidad de que las máquinas tomen el control.

Además de figuras del sector tecnológico, entre los firmantes figuran académicos, rostros mediáticos como Stephen Fry y Steve Bannon, líderes religiosos y antiguos políticos.