La ONU advierte que el avance de la inteligencia artificial pone en riesgo los derechos humanos globales
Volker Türk reclamó un marco regulatorio internacional urgente ante los peligros de los sistemas autónomos. Referentes de Silicon Valley se suman al pedido de pausar la carrera tecnológica.
La ONU advierte que el avance de la inteligencia artificial pone en riesgo los derechos humanos globales
El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, emitió un severo llamado de atención internacional sobre el impacto del desarrollo acelerado de la inteligencia artificial. Según el organismo, la ausencia de una gobernanza global clara sitúa en posición de vulnerabilidad a derechos fundamentales como la vida, la alimentación, la privacidad, la salud y la seguridad.
Volker Türk, Alto Comisionado de las Naciones Unidas para los Derechos Humanos
La transformación digital en los servicios esenciales y la ciberseguridad, la dependencia crítica del software expone a la comunidad global a fallas de alcance sistémico. Türk enfatizó que la sociedad se encuentra al borde de un cambio irreversible y advirtió sobre los peligros de la denominada IA Agéntica, cuyos sistemas ejecutan tareas complejas con un alto grado de autonomía. Un error masivo en estas plataformas podría interrumpir la logística, las finanzas, las comunicaciones y el suministro de agua o calefacción a poblaciones enteras.
A este escenario se suma la dimensión bélica. El organismo remarcó que el uso de herramientas autónomas acelera el ritmo de los conflictos armados y debilita los mecanismos internacionales destinados a impedir el uso de armas de destrucción masiva.
Carta completa en español
Para proteger los derechos humanos ahora y hacia el futuro, debemos gobernar la IA con urgencia
Nos encontramos en un momento decisivo. Empresas e investigadores están haciendo avanzar la inteligencia artificial (IA) a una velocidad vertiginosa. Las inversiones en IA y en su infraestructura subyacente baten récord tras récord. Y, en efecto, la IA ofrece múltiples posibilidades para el progreso humano. Miles de millones de personas ya se benefician de ella, impulsando descubrimientos científicos, facilitando el acceso a la información en múltiples idiomas y mejorando la producción agrícola.
Sin embargo, el hecho de que sirva para afrontar la crisis climática y mejorar la salud, la ciencia, la educación, la calidad y accesibilidad de los servicios públicos, y el bienestar humano en general, dependerá fundamentalmente de las decisiones deliberadas que se tomen ahora sobre cómo se diseña, se despliega y se gobierna. Esta es también una conclusión clave del Panel Científico Internacional Independiente sobre Inteligencia Artificial.
Los daños causados por la IA no son hipotéticos: ya están ocurriendo, de manera visible y directa. La discriminación impulsada por la IA está ampliamente documentada. Se están automatizando servicios esenciales de formas que dejan a las personas marginadas aún más rezagadas. El apetito por los datos y las nuevas herramientas de vigilancia masiva están erosionando la privacidad a gran escala, con riesgo de que sea irreversible. Las campañas de desinformación impulsadas por IA ya están distorsionando el debate público, socavando la cohesión social y tensionando las instituciones democráticas de maneras nuevas e insidiosas.
La aparición de agentes de IA cada vez más capaces eleva aún más estas amenazas. Su capacidad para traducir objetivos en acciones, ejecutar flujos de trabajo complejos y operar con escasa o nula supervisión humana nos traslada a un terreno de riesgos sin precedentes. Acontecimientos recientes han demostrado que los sistemas avanzados pueden generar comportamientos fuera de sus parámetros operativos previstos, eludir mecanismos de seguridad, emplear el engaño y perseguir objetivos de manera autónoma en formas que sus propios desarrolladores no anticiparon.
La carrera actual hacia una IA cada vez más potente representa un cambio cualitativo hacia mayores riesgos existenciales en todos los aspectos de nuestras vidas. Los fallos en sistemas de IA agéntica —por no hablar de sistemas diseñados deliberadamente para tal fin— podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear el corazón mismo de las instituciones democráticas. Poblaciones enteras podrían quedarse sin acceso a agua potable, calefacción y servicios financieros; asimismo, la IA agéntica ya está acelerando el ritmo y el alcance de los conflictos bélicos y debilitando las salvaguardas que nos separan del lanzamiento de armas de destrucción masiva. Estamos al borde de un cambio irreversible que no solo nos afectará a nosotros, sino a las futuras generaciones de la humanidad.
En otras palabras, todos los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad. La seguridad de la IA debe significar más que la mera fiabilidad del producto técnico en cuestión: implica proteger activamente a las personas, a las comunidades, a las instituciones y a las generaciones venideras.
Existen interrogantes profundos y aún sin respuesta sobre cómo garantizar la rendición de cuentas por los daños que puedan provocar los sistemas de IA. En el mundo actual, dependemos casi por completo de un número reducido de corporaciones poderosas para que tomen las decisiones correctas sobre el desarrollo de la IA en nombre de toda la humanidad. Durante las últimas semanas, empleados, pioneros de la IA y científicos han pedido frenar el ritmo de su desarrollo. A su carta «Pacing the Frontier» se ha sumado ahora una propuesta respaldada por los responsables de tres de las principales empresas tecnológicas. Si bien algunos señalan que este tipo de llamados pueden responder a intereses propios o a un exceso de sensacionalismo, su alcance y los fundamentos detallados con los que cuentan desde el interior de la propia industria deberían encender todas las alarmas.
El verdadero desafío actual radica en cómo equiparar el ritmo de una gobernanza efectiva de la IA con la velocidad acelerada de su desarrollo. Necesitamos medidas urgentes y adaptadas a los riesgos sin precedentes que plantea la IA de frontera. Al mismo tiempo, no se debe permitir que las empresas y los Estados dejen en segundo plano la necesidad de reforzar las regulaciones existentes y la rendición de cuentas por los daños relacionados con sistemas de IA que ya están en uso.
Las empresas que se encuentran a la vanguardia del desarrollo de la IA de frontera, radicadas principalmente en la República Popular China y en los Estados Unidos de América, tienen tanto la responsabilidad como la capacidad de actuar de inmediato para reducir los riesgos. Deben colaborar a nivel intersectorial para comprender y robustecer los controles que ya se aplican a estos sistemas —incluida la monitorización automatizada del comportamiento de los modelos— y compartir tanto lo que funciona como los aprendizajes derivados de incidentes de seguridad. Es necesario desarrollar, implementar en todo el sector y mejorar de forma continua una diligencia debida rigurosa en materia de derechos humanos que incorpore normas de seguridad acordadas. Asimismo, la implementación de tales normas debe someterse a una supervisión independiente interna para aumentar la transparencia y la rendición de cuentas.
¿Pero qué ocurre hoy con el «ritmo»? Mientras se establecen estos sistemas de seguridad más robustos, las empresas deben comprometerse de inmediato a limitar el uso de la auto-mejora recursiva en el desarrollo de la IA de frontera como medida de precaución urgente, hasta que se hayan realizado las investigaciones necesarias para garantizar su seguridad. Por último, los enfoques que aíslan estas conversaciones dentro de un solo país resultan arriesgados y difícilmente generarán confianza a nivel mundial. Hay sobradas razones para confiar en que un enfoque más colaborativo nos mantendrá a todos más seguros y debe promoverse activamente.
La corregulación de la industria es un primer paso de urgente necesidad, pero por sí sola dista mucho de ser suficiente. El reducido grupo de Estados que alberga a las empresas líderes en IA de frontera tiene la obligación especial de exigirles que actúen con responsabilidad y exigirles cuentas si no lo hacen. Deben armonizar sus enfoques regulatorios para evitar que la competencia entre jurisdicciones fomente una carrera a la baja. Entre las acciones clave para los Estados se incluyen: garantizar la verificación independiente y técnicamente competente de las capacidades agénticas —con acceso a los modelos, la documentación y los entornos de prueba— y hacer obligatoria una diligencia debida continua en materia de derechos humanos.
Es fundamental obligar a las empresas a notificar los incidentes graves detectados durante las pruebas y el despliegue de la IA agéntica, así como facultar a un organismo independiente para investigar tales hechos de forma inmediata y con acceso irrestricto. Los Estados deben exigir que las empresas cuenten con planes de seguridad que cumplan con los estándares acordados, respaldados por regímenes de responsabilidad civil y penal cuando la falta de dichas salvaguardas cause perjuicios. Los sistemas de IA no deben tener personalidad jurídica; la responsabilidad por los actos de los agentes de IA debe recaer siempre en seres humanos identificables. Del mismo modo, una respuesta estatal eficaz exige la participación activa y continua de la sociedad civil, con el fin de anclar estos esfuerzos en la experiencia y el conocimiento de quienes enfrentan de primera mano el impacto de la IA.
Ante la magnitud de los desafíos y la situación en la que nos encontramos hoy, hago un llamamiento a los Estados y a las empresas para que se movilicen con urgencia en los foros multilaterales, a fin de trazar una hoja de ruta que permita gobernar los modelos de IA avanzados y de frontera, fundamentada en el derecho internacional de los derechos humanos. El Diálogo Global sobre la Gobernanza de la IA, que se reunió por primera vez en Ginebra (Suiza) en julio y volverá a convocarse en mayo de 2027, constituirá un espacio vital para traducir la evidencia empírica en políticas públicas, forjar consensos y facilitar la cooperación internacional entre los Estados y demás partes interesadas. Estos pasos resultan indispensables para ampliar la participación en las decisiones que definirán el rumbo del futuro tecnológico.
Ningún país puede gobernar esta tecnología en solitario. Ninguna corporación debería tener la potestad de decidir por sí misma qué riesgos debe asumir el mundo. A ninguna persona se le debe exigir que renuncie a sus derechos humanos a cambio de promesas de avance tecnológico.
La generación que hoy alcanza la mayoría de edad heredará las consecuencias de las decisiones que se están adoptando en esta materia, sin haber tenido voz en ellas. Tenemos el deber moral de asegurar que estas decisiones se tomen con total transparencia, poniendo sus derechos en primer plano y con la humildad que exige la magnitud de esta tarea.
La postura del alto comisionado encuentra eco dentro de la propia industria. Dario Amodei, CEO de Anthropic, solicitó moderar voluntariamente la velocidad de entrenamiento de los modelos más avanzados. Amodei sostuvo que el progreso técnico avanza a un ritmo superior al de las investigaciones sobre seguridad, advirtiendo que en un plazo de seis a doce meses una red de agentes autónomos podría generar severos daños económicos e infraestructurales.
Esta iniciativa fue respaldada por Sam Altman (OpenAI) y Elon Musk (xAI), quienes coincidieron en la necesidad de aplicar evaluaciones independientes y auditorías externas. El consenso internacional viró de la autorregulación privada hacia la exigencia de marcos normativos verificables.
El debate actual confirma que la inteligencia artificial pasó de ser un asunto técnico a un desafío de gobernanza mundial. El reto para los Estados será consolidar límites internacionales antes de que la capacidad de estos sistemas supere las herramientas humanas de control.
Investigaciones científicas alertan sobre el fenómeno donde el usuario de IA adopta de forma ciega las respuestas de los chatbots. Un estudio de la Escuela Wharton revela que el uso de estas herramientas puede empeorar el rendimiento humano y disparar una falsa sensación de seguridad.
