Abrí la documentación del Newton Protocol esperando pasar la mayor parte de mi tiempo aprendiendo sobre agentes de IA. En cambio, terminé pensando en algo mucho más simple, pero probablemente más importante: ¿quién tiene el derecho de decidir qué se le permite realmente hacer a una IA?
Durante mucho tiempo asumí que el mayor desafío era hacer que la IA fuera más inteligente. Pero cuanto más leía, más esa suposición empezó a desmoronarse. La IA no se detiene para cuestionar una instrucción ni para preguntarse si es una buena idea. Si tiene permiso, actúa. Eso me recordó de inmediato el experimento de Stanley Milgram. Las personas involucradas no necesariamente intentaban hacer daño: estaban respondiendo a la autoridad. La IA, claro, no es humana, pero también opera dentro de la autoridad que le otorgamos. Esa similitud se quedó conmigo.
Lo que me pareció interesante del Protocolo Newton no fue otra forma de hacer que la IA sea más capaz. Fue el enfoque en la autorización antes de la ejecución. En lugar de darle a una IA acceso a una cartera y esperar que se comporte como se pretende, los desarrolladores pueden decidir con antelación qué se le permite hacer, con qué protocolos puede interactuar, cuánto puede gastar y cuándo todavía debería intervenir un humano. Esas reglas no son solo sugerencias: están diseñadas para convertirse en parte de cómo funciona el sistema.
No creo que la documentación responda todas las preguntas, y está bien. Aun así, me sigo preguntando cómo evolucionarán estos modelos de autorización a medida que los agentes de IA se vuelvan más independientes. Pero una cosa cambió para mí después de leerla. Dejé de pensar que el futuro de la IA lo decidirían únicamente mejores modelos. Quizá dependa tanto de lo cuidadosamente que definamos los límites que los rodean.
