Lo que destacó para mí no fue cuánto intenta habilitar Newton con IA. Fue cuánto intenta limitar Newton con IA.
Pasé un tiempo observando cómo se autoriza cada acción y el patrón se repetía una y otra vez. El protocolo parece estar mucho menos interesado en crear agentes que puedan hacerlo todo y mucho más interesado en asegurarse de que los agentes solo hagan exactamente lo que se les permite.
Eso suena restrictivo hasta que empiezas a pensar en la escala.
Un agente de IA que toma 5 decisiones al día es manejable. Un agente que toma 5.000 decisiones al día en billeteras, APIs, exchanges y flujos financieros es otro problema. En ese punto, una tasa de fallos del 0,1% significa 5 acciones inesperadas. Llévalo a 100.000 acciones y de repente estás lidiando con 100 errores.
La mayoría de las conversaciones sobre IA se centran en el crecimiento de la capacidad. Newton parece centrarse en los límites de permisos.
Probé algunos flujos de autorización y noté algo interesante. El sistema sigue preguntando variaciones de la misma cuestión: ¿Debe ocurrir esta acción? No: ¿Puede el modelo generarla? No: ¿El modelo la solicitó? Pero sí: ¿se debería permitir realmente?
Esa diferencia parece pequeña hasta que la comparas con modelos de agentes sin restricciones, donde la ejecución a menudo sigue a la generación con muy poca fricción.
El compromiso es evidente. Más controles implican más carga. Más gobernanza significa menos libertad. Probablemente a algunas personas esto les va a molestar.
Pero después de ver cómo los sistemas de IA se vuelven cada vez más autónomos, empiezo a pensar que la inteligencia sin restricciones quizá no sea el problema difícil ahora.
El problema más difícil podría ser decidir quién tiene derecho a autorizar la inteligencia cuando empieza a operar a velocidad de máquina.
Newton parece estar apostando a que esa respuesta importa más que la capacidad en sí. Que los desarrolladores estén de acuerdo con esa apuesta es probablemente donde comienza el verdadero debate...
@NewtonProtocol $NEWT #Newt
Pasé un tiempo observando cómo se autoriza cada acción y el patrón se repetía una y otra vez. El protocolo parece estar mucho menos interesado en crear agentes que puedan hacerlo todo y mucho más interesado en asegurarse de que los agentes solo hagan exactamente lo que se les permite.
Eso suena restrictivo hasta que empiezas a pensar en la escala.
Un agente de IA que toma 5 decisiones al día es manejable. Un agente que toma 5.000 decisiones al día en billeteras, APIs, exchanges y flujos financieros es otro problema. En ese punto, una tasa de fallos del 0,1% significa 5 acciones inesperadas. Llévalo a 100.000 acciones y de repente estás lidiando con 100 errores.
La mayoría de las conversaciones sobre IA se centran en el crecimiento de la capacidad. Newton parece centrarse en los límites de permisos.
Probé algunos flujos de autorización y noté algo interesante. El sistema sigue preguntando variaciones de la misma cuestión: ¿Debe ocurrir esta acción? No: ¿Puede el modelo generarla? No: ¿El modelo la solicitó? Pero sí: ¿se debería permitir realmente?
Esa diferencia parece pequeña hasta que la comparas con modelos de agentes sin restricciones, donde la ejecución a menudo sigue a la generación con muy poca fricción.
El compromiso es evidente. Más controles implican más carga. Más gobernanza significa menos libertad. Probablemente a algunas personas esto les va a molestar.
Pero después de ver cómo los sistemas de IA se vuelven cada vez más autónomos, empiezo a pensar que la inteligencia sin restricciones quizá no sea el problema difícil ahora.
El problema más difícil podría ser decidir quién tiene derecho a autorizar la inteligencia cuando empieza a operar a velocidad de máquina.
Newton parece estar apostando a que esa respuesta importa más que la capacidad en sí. Que los desarrolladores estén de acuerdo con esa apuesta es probablemente donde comienza el verdadero debate...
@NewtonProtocol $NEWT #Newt