Inteligencia Artificial: El Consejo de Seguridad de la ONU analizó los riesgos y desafíos de esta tecnología

Ayer, el Consejo de Seguridad de Naciones Unidas llevó a cabo su primera reunión para abordar los peligros y desafíos que plantea la inteligencia artificial (IA) en el ámbito global. Durante el encuentro se destacaron las preocupaciones sobre el papel de las grandes empresas tecnológicas en la seguridad de los sistemas de IA, así como la necesidad de establecer regulaciones y principios éticos que rijan su desarrollo y uso.

Jack Clark, cofundador de la empresa de inteligencia artificial Anthropic, advirtió sobre los riesgos inherentes a la falta de comprensión y el comportamiento impredecible de los sistemas de IA. Clark enfatizó la importancia de que los países trabajen juntos para prevenir el mal uso de la tecnología y desarrollen métodos de prueba para evaluar sus capacidades y posibles fallas de seguridad.

Por su parte, el secretario General de la ONU, António Guterres, respaldó la idea de establecer normas globales para maximizar los beneficios y mitigar los riesgos de la IA. Guterres propuso la creación de un nuevo organismo de la ONU inspirado en modelos exitosos como la Agencia Internacional de Energía Atómica y el Panel Intergubernamental sobre Cambio Climático, que se encargue de la gobernanza de la IA para 2026.

Lo que hemos visto es solo el principio: nunca jamás la innovación tecnológica se va a mover tan lentamente como ahora, dijo Guterres.

"Hoy he instado al Consejo de Seguridad a abordar la Inteligencia Artificial con un sentido de urgencia, una perspectiva global y una mentalidad de aprendizaje. Debemos trabajar juntos para adoptar medidas comunes de transparencia, rendición de cuentas y supervisión de los sistemas de IA", escribió el jefe de la ONU en un tuit.  

Today I urged the Security Council to approach Artificial Intelligence with a sense of urgency, a global lens, and a learner’s mindset.

We must work together towards common measures for the transparency, accountability, and oversight of AI systems. pic.twitter.com/nll4jpGQaM

— António Guterres (@antonioguterres) July 18, 2023

"Ningún país quedará al margen de la IA, por lo que debemos implicar y comprometer a la más amplia coalición de agentes internacionales de todos los sectores", afirmó James Cleverly, ministro británico de Asuntos Exteriores. "Nuestro objetivo común será considerar los riesgos de la IA y decidir cómo pueden reducirse mediante una acción coordinada".

El profesor Zeng Yi, director del Laboratorio de Inteligencia Cognitiva inspirada en el cerebro de la Academia China de Ciencias, respaldó la participación central de Naciones Unidas en el establecimiento de un marco de trabajo sobre IA para garantizar la paz y la seguridad mundial. Sugirió la creación de un grupo de trabajo en el Consejo de Seguridad para analizar los desafíos a corto y largo plazo que plantea la IA.

¿Beneficio o amenaza para la paz mundial?

Durante la reunión, se hizo hincapié en los posibles usos militares de la IA y los riesgos que esto con lleva para la paz y la seguridad internacional. China y Estados Unidos expresaron posturas divergentes en relación con esta cuestión.

Por un lado, China llamó a establecer principios rectores para la IA y destacó la importancia de regular su desarrollo para evitar que se convierta en una amenaza. Por otro lado Estados Unidos enfatizó la necesidad de un enfoque ético y responsable en el uso militar de la IA, con el objetivo de mejorar la seguridad internacional.

También se mencionó el uso militar de armas autónomas en el campo de batalla o en otros países para asesinatos, como el robot de IA controlado por satélite que Israel envió a Irán para matar al destacado científico nuclear, Mohsen Fakhrizadeh.

Aunque hubo consenso en la importancia de regular la IA, Rusia planteó dudas sobre la necesidad de discutir el tema en el Consejo de Seguridad. Moscú argumentó que ya existen plataformas especializadas donde se lleva un debate científico y experto sobre la IA. Además aprovechó la ocasión para criticar a Estados Unidos por socavar la confianza en su propia industria de este tipo de tecnología.

El llamado a la acción global y la cooperación multilateral fue una constante en las intervenciones. Varios países resaltaron la necesidad de establecer una estructura coordinada para supervisar y regular el desarrollo de la IA, y enfatizaron el papel fundamental de la ONU en este proceso.

Un paso hacia el control de la IA

Europa lideró los esfuerzos para regular la inteligencia artificial, y el Parlamento de la Unión Europea recientemente aprobó un conjunto de normas exhaustivas sobre la IA. En este contexto, la reunión del Consejo de Seguridad proporcionará una plata forma para escuchar las opiniones de expertos y abrir un debate entre los 15 miembros sobre las implicaciones de la IA.

Reino Unido, que presidió el Consejo este mes, organizó esta primera reunión dedicada al tema, reconociendo tanto el enorme potencial como los importantes riesgos asociados con el uso de la IA, especialmente en áreas como las armas autónomas o el control de armas nucleares.

Ante este panorama, Reino Unido busca impulsar un enfoque multilateral para abordar las oportunidades y riesgos de la inteligencia artificial. La embajadora británica, Barbara Woodward, destacó que el uso adecuado de la IA podría beneficiar los programas de desarrollo de la ONU, mejorar las operaciones humanitarias y contribuir a la prevención de conflictos. Sin embargo, también es necesario abordar las serias preocupaciones de seguridad que la IA plantea.

Reino Unido también tiene previsto acoger una cumbre sobre IA este año, en la que se espera una discusión global y multilateral sobre este tema crucial. A medida que la IA avanza rápidamente y plantea desafíos cada vez mayores, es fundamental un enfoque coordinado y una regulación adecuada para garantizar su uso responsable y proteger la paz y seguridad internacional.

La reunión del Consejo de Seguridad de la ONU marcó un hito en la discusión sobre la inteligencia artificial a nivel internacional. Si bien existen diferencias de opinión y enfoques, queda claro que la comunidad internacional reconoce la importancia de regular y gobernar la IA para proteger la paz y la seguridad global.

Con información de France 24, AP y Reuters