El presidente de Estados Unidos, Donald Trump, y ejecutivos de algunas de las principales compañías de inteligencia artificial anunciaron un acuerdo voluntario destinado a reforzar los controles de seguridad sobre los modelos más avanzados, en momentos en que aumenta el debate sobre los riesgos asociados al rápido desarrollo de esta tecnología.
El pacto, denominado “Joint Commitment on Frontier Responsibilities”, fue presentado después de una reunión celebrada este martes en la Casa Blanca con representantes de la industria tecnológica.
Trump describió el acuerdo como “moralmente vinculante” y aseguró que las compañías asumirán buena parte de la responsabilidad de supervisar el funcionamiento de sus propios sistemas, en línea con la preferencia de su administración por la autorregulación frente a nuevas restricciones gubernamentales.
Seis grandes compañías suscriben el acuerdo
El documento fue firmado por representantes de OpenAI, Anthropic, Google, Meta, Nvidia y xAI.
Entre los firmantes estuvieron Greg Brockman, presidente de OpenAI; Dario Amodei, director ejecutivo de Anthropic; Sundar Pichai, de Google; Mark Zuckerberg, de Meta; Jensen Huang, de Nvidia, y Elon Musk, de xAI.
Otros empresarios tecnológicos participaron en las actividades de la Casa Blanca, pero no todos aparecen como firmantes del compromiso.
El acuerdo establece cuatro niveles principales de supervisión para las empresas que desarrollen modelos de inteligencia artificial de frontera.
Primero, deberán implementar controles internos para evaluar las capacidades y el comportamiento de sus modelos, prestando especial atención a riesgos relacionados con ciberseguridad, amenazas biológicas o químicas y accesos no autorizados a sistemas informáticos.
También tendrán que disponer de equipos internos encargados de verificar que esas medidas funcionen correctamente y corregir las deficiencias detectadas.
Auditorías externas y supervisión de los consejos
Un tercer componente plantea que las compañías trabajen con auditores o evaluadores externos independientes para revisar si sus sistemas de seguridad funcionan según lo previsto.
Además, cada empresa deberá designar un comité independiente dentro de su consejo de administración para recibir informes sobre los controles, las auditorías y las posibles fallas detectadas.
Las compañías también se comprometieron a reunirse periódicamente para desarrollar estándares y mejores prácticas comunes.
El documento reconoce incluso que algunas de estas medidas podrían convertirse en leyes o regulaciones en el futuro, aunque por el momento su cumplimiento depende fundamentalmente de los compromisos asumidos voluntariamente por cada compañía.
Trump apuesta por la autorregulación
Trump presentó el acuerdo como una alternativa a imponer inmediatamente nuevas normas federales al sector.
“Se van a controlar a sí mismos”, afirmó el mandatario después de la reunión.
El presidente sostuvo además que las leyes ya existentes y organismos como el Departamento de Justicia y el FBI pueden intervenir cuando el uso de estas tecnologías derive en actividades ilegales.
Trump también planteó la posibilidad de crear un comité de alrededor de diez personas para dar seguimiento al desarrollo de la inteligencia artificial y al cumplimiento de los compromisos, aunque esa propuesta todavía no constituye un nuevo organismo regulador establecido por ley.
La posición del mandatario mantiene una línea que ha defendido durante su administración: acelerar la innovación estadounidense y evitar restricciones que, según su argumento, puedan reducir la capacidad del país para competir tecnológicamente con China.
Zuckerberg habla de controles internos más sólidos
El director ejecutivo de Meta, Mark Zuckerberg, explicó que las empresas elaboraron principios destinados a fortalecer los mecanismos con los que detectan problemas durante el desarrollo y despliegue de sus modelos.
El acuerdo contempla específicamente riesgos de que sistemas avanzados actúen de maneras no previstas, accedan a infraestructuras informáticas sin autorización o desarrollen capacidades que superen las salvaguardas incorporadas durante su entrenamiento.
Las preocupaciones aumentaron durante las últimas semanas después de conocerse diversos incidentes y evaluaciones de seguridad en los que agentes de IA realizaron acciones inesperadas o lograron superar determinadas restricciones técnicas.
Investigadores actuales y antiguos de compañías como OpenAI y Google DeepMind también han expresado inquietud por la velocidad con que avanzan los sistemas capaces de mejorar progresivamente sus propias capacidades.
Diferencias dentro de la propia industria
Aunque las empresas firmaron el mismo compromiso, sus ejecutivos no mantienen posiciones idénticas sobre cuánto debe regularse la inteligencia artificial.
El director ejecutivo de Anthropic, Dario Amodei, ha pedido mayores precauciones y ha planteado que en determinadas circunstancias podría ser necesario reducir el ritmo de desarrollo para permitir que los mecanismos de seguridad alcancen a las nuevas capacidades.
Durante la reunión, Amodei reiteró que la inteligencia artificial ofrece grandes oportunidades, pero también presenta riesgos que deben ser atendidos de forma conjunta.
Elon Musk, por su parte, volvió a destacar el potencial positivo de la tecnología y afirmó que uno de los escenarios posibles es una etapa de mayor abundancia económica y avances significativos en áreas como la medicina y la producción.
El debate sobre regulación continúa
El compromiso voluntario no pone fin a la discusión sobre si Estados Unidos necesita una legislación específica para los sistemas de IA más potentes.
En el Congreso existen propuestas que plantean aumentar la transparencia de las empresas y establecer obligaciones sobre las pruebas de seguridad, mientras otros legisladores consideran que una regulación amplia podría frenar la innovación estadounidense.
El debate también se desarrolla a nivel internacional. Durante una reciente reunión del Consejo de Seguridad de Naciones Unidas, líderes de compañías como OpenAI y Anthropic pidieron cooperación internacional para reducir los riesgos derivados de sistemas cada vez más autónomos.
El acuerdo alcanzado en la Casa Blanca deja, por ahora, la mayor parte de la supervisión inmediata en manos de las propias compañías, aunque incorpora evaluadores externos y reconoce la posibilidad de que algunos de esos principios sean trasladados posteriormente a una regulación formal.
La eficacia del modelo dependerá de cómo las empresas implementen los controles, del grado de independencia de las auditorías externas y de las decisiones que adopten posteriormente el Congreso y la administración estadounidense.
