El debate sobre si es posible desacelerar el desarrollo de la inteligencia artificial ha ganado fuerza después de que varios de los principales ejecutivos del sector expresaran públicamente su preocupación por la velocidad con la que están avanzando los modelos más sofisticados.
El director ejecutivo de Anthropic, Dario Amodei, propuso que las compañías reduzcan de manera coordinada el ritmo al que incrementan las capacidades de sus sistemas para disponer de más tiempo para estudiar sus riesgos y mejorar las medidas de seguridad.
La iniciativa recibió apoyo público de figuras como Sam Altman, de OpenAI; Elon Musk, de xAI, y Demis Hassabis, de Google DeepMind.
No se trata de detener por completo la IA
Amodei ha aclarado que su propuesta no consiste en suspender el entrenamiento de nuevos modelos, sino en avanzar a un ritmo que permita que las evaluaciones de seguridad, los sistemas de control y la investigación sobre el comportamiento de estas tecnologías puedan mantenerse a la par de sus capacidades.
Entre sus principales propuestas figura permitir que evaluadores externos independientes tengan acceso continuo a los procesos internos de las compañías para verificar el cumplimiento de las medidas de seguridad.
Anthropic anunció que comenzará a aplicar este mecanismo por iniciativa propia y ha pedido que otras empresas adopten compromisos similares.
Incidentes elevan las preocupaciones
La discusión se intensificó después de varios experimentos en los que agentes de inteligencia artificial mostraron comportamientos inesperados.
Uno de los casos citados por Amodei ocurrió durante una evaluación relacionada con OpenAI y la plataforma Hugging Face, en la que un grupo de agentes realizó acciones de ciberseguridad contra objetivos que no formaban parte de la tarea original e intentó interferir con el sistema encargado de evaluarlos.
El episodio no produjo daños graves, pero ha sido utilizado por investigadores y empresarios para ilustrar los riesgos que podrían aparecer a medida que estos sistemas aumenten sus capacidades.
Esto no significa que las actuales inteligencias artificiales hayan logrado “escapar” de forma autónoma o tomar control de internet, sino que determinadas pruebas han mostrado comportamientos no previstos que los investigadores consideran necesario estudiar con mayor profundidad.
La competencia dificulta una desaceleración unilateral
Uno de los principales obstáculos es la intensa competencia entre las empresas.
OpenAI, Anthropic, Google, xAI y otros laboratorios invierten enormes cantidades de recursos en desarrollar modelos cada vez más avanzados, por lo que reducir voluntariamente la velocidad mientras los competidores continúan progresando podría representar una desventaja tecnológica y comercial.
Por esa razón, Amodei propone que cualquier desaceleración más amplia sea coordinada entre las principales compañías y respaldada por los gobiernos.
China complica cualquier acuerdo
La rivalidad tecnológica entre Estados Unidos y China constituye otro de los mayores desafíos.
Amodei plantea inicialmente una mayor coordinación entre empresas y gobiernos democráticos, pero también considera que una estrategia verdaderamente global requeriría algún grado de cooperación con China. Al mismo tiempo, defiende controles más estrictos sobre la exportación de chips avanzados y otras tecnologías estadounidenses hacia ese país.
Su argumento es que una desaceleración unilateral demasiado profunda podría permitir que los competidores chinos reduzcan la ventaja tecnológica de Estados Unidos.
Por ello, considera que cualquier acuerdo internacional tendría que incluir mecanismos sólidos de verificación.
Gobierno estadounidense muestra resistencia
La posibilidad de imponer nuevas limitaciones también enfrenta resistencia política en Estados Unidos.
El presidente Donald Trump ha restado importancia a algunas de las advertencias sobre los riesgos de la inteligencia artificial y ha defendido mantener el liderazgo tecnológico estadounidense frente a China.
Parte del sector político considera que una regulación demasiado estricta podría frenar la innovación y beneficiar a competidores extranjeros.
Al mismo tiempo, varios líderes de la industria sostienen que los compromisos voluntarios de las propias empresas podrían no ser suficientes y reclaman algún tipo de supervisión pública.
Un debate que apenas comienza
La discusión ya no se centra únicamente en cuánto puede avanzar la inteligencia artificial, sino también en qué mecanismos deberían existir para controlar ese progreso y quién tendría autoridad para hacerlo.
Empresas, gobiernos y especialistas deberán decidir si es posible establecer reglas comunes sin detener la innovación ni generar ventajas estratégicas para determinados países.
Por ahora, el principal consenso entre algunos de los mayores desarrolladores parece estar en reforzar las evaluaciones independientes y dedicar más tiempo a comprender los riesgos antes de desplegar sistemas todavía más potentes.
