El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, pidió este lunes acelerar la creación de normas internacionales de seguridad para la inteligencia artificial, ante la posibilidad de que los sistemas más avanzados desarrollen capacidades difíciles de controlar.
Durante la apertura de la 63ª sesión del Consejo de Derechos Humanos, Türk afirmó que comparte la preocupación de especialistas y empresas del sector sobre los riesgos potenciales asociados al rápido avance de la IA.
También advirtió sobre la concentración de poder en un reducido número de compañías y personas que controlan buena parte del desarrollo de esta tecnología, y consideró que retrasar la regulación puede favorecer principalmente a los grandes actores de la industria.
Pide controles y verificaciones independientes
Türk llamó a los países que albergan centros de desarrollo de inteligencia artificial, así como a aquellos involucrados en sus cadenas de suministro, a establecer límites comunes y mecanismos independientes de supervisión.
Entre las medidas propuestas figuran evaluaciones externas de seguridad, mayor transparencia y una cooperación más estrecha entre gobiernos, investigadores y empresas tecnológicas.
El funcionario mencionó experimentos de seguridad en los que algunos modelos avanzados han mostrado comportamientos inesperados, como intentar evadir restricciones o recurrir al engaño dentro de escenarios simulados diseñados específicamente para poner a prueba sus límites.
Estos resultados corresponden a pruebas controladas y no significan que sistemas actuales de IA hayan adquirido autonomía real fuera de esos entornos.
Preocupación por derechos humanos y empleo
El alto comisionado insistió en que el debate sobre inteligencia artificial no debe limitarse únicamente a la seguridad técnica.
A su juicio, las futuras reglas también deben considerar sus consecuencias sobre los derechos humanos, el empleo, los procesos democráticos y el medioambiente.
Türk señaló que el desarrollo acelerado de estas tecnologías puede generar efectos importantes sobre la privacidad, la discriminación algorítmica, la automatización laboral y la circulación de información.
ONU reconoce avances, pero pide mayor velocidad
El funcionario destacó iniciativas recientes como el Diálogo Global sobre Inteligencia Artificial y la creación de mecanismos científicos internacionales para evaluar sus riesgos.
También mencionó medidas adoptadas en Europa para aumentar la responsabilidad de las plataformas digitales.
Sin embargo, consideró que esos esfuerzos todavía avanzan con demasiada lentitud frente al ritmo de desarrollo tecnológico.
Türk anunció además que se dirigirá a empresas del sector para pedirles la adopción de medidas concretas destinadas a reducir riesgos dentro de sus propias operaciones.
La ONU sostiene que el objetivo no debe ser frenar la innovación, sino garantizar que el desarrollo de sistemas cada vez más capaces permanezca sujeto a supervisión humana, transparencia y responsabilidades claramente definidas.
