¿Qué ocurre cuando las personas que compiten por construir los sistemas de IA más potentes empiezan a admitir que la propia carrera podría estar avanzando demasiado rápido?
Esa es la historia más importante detrás del último debate que involucra al director ejecutivo de OpenAI, Sam Altman, y al director ejecutivo de Anthropic, Dario Amodei.
Amodei ha pedido que la industria de la IA en la frontera reduzca el ritmo, argumentando que los sistemas de seguridad y la sociedad necesitan tiempo para ponerse al día con las capacidades que aumentan rápidamente. Su propuesta incluye una evaluación externa más sólida y una mayor coordinación entre las empresas de IA y los gobiernos.
El acuerdo de Altman es significativo porque no proviene de un crítico externo que exija que las empresas de IA dejen de innovar. Viene desde dentro de la carrera por los modelos de vanguardia.
Y eso cambia la conversación.
El verdadero cuello de botella ya podría no ser simplemente la potencia de cómputo, los chips o los datos de entrenamiento. Podría estar convirtiéndose, cada vez más, en la verificación.
Que un modelo sea más capaz es una cosa. Saber exactamente de lo que ese modelo puede hacer, cuándo puede comportarse de forma inesperada, cómo puede usarse indebidamente y si las salvaguardas existentes realmente funcionan, es otra.
Las preocupaciones recientes sobre agentes autónomos de IA, operaciones cibernéticas y el uso indebido han hecho que esa distinción sea más difícil de ignorar.
Así que “frenar” no necesariamente significa “detener la IA”.
Podría significar: construir la infraestructura de seguridad a la misma velocidad que la propia inteligencia.
Por lo tanto, la próxima fase de la carrera de la IA podría medirse de manera diferente.
No solo por quién lanza primero el modelo más inteligente.
Pero ¿quién puede demostrar que los modelos cada vez más potentes se pueden desplegar de manera responsable?
Eso podría convertirse en una de las ventajas competitivas más importantes en IA.
La carrera de la IA se está acelerando. Pero quizá la verdadera carrera ahora sea hacer que esa aceleración sea controlable.
