Como alguien que ha sido escritor por@DAO Labs bastante tiempo, he tenido mucha experiencia explorando proyectos de IA. He visto tanto lo que los agentes de IA pueden hacer como los riesgos que conlleva darles más libertad.
¿Qué sucede cuando los agentes de IA se vuelven lo suficientemente capaces como para actuar por su cuenta, pero aún no podemos confiar plenamente en las acciones que toman?
Hacer que los agentes de IA sean seguros y fiables es fundamental para su adopción y utilidad. NEAR Protocol, con el lanzamiento de IronClaw 1.0, es el primero en intentar proporcionar marcos y herramientas para abordar este desafío.
En última instancia, el marco está diseñado para garantizar que los agentes de IA no actúen sin la intervención humana para evaluar la seguridad y el impacto de sus acciones. Propone separar los componentes de pensar y actuar de un agente de IA.
A los agentes de IA se les encarga pensar el curso de acción necesario para ejecutar una tarea. Luego se sigue este paso con el módulo del “guardia”, que evalúa la acción para determinar si es seguro realizarla.
Imagina un asistente de IA que está equipado con un oficial de seguridad personal para supervisar sus decisiones y acciones.
En el marco de IronClaw, los agentes de IA pueden acercarse a un curso de acción y a un plan para ejecutarlo, pero el oficial de seguridad personal (el guardia) es quien toma la decisión final de permitir que la acción ocurra o no.
Los agentes de IA, en ausencia de módulos de guardia, pueden ejecutar acciones que tienen impactos negativos significativos cuando se trata de datos sensibles, o si se realizan acciones no autorizadas sobre un sistema.
Las estadísticas también son impresionantes
IronClaw también destaca en importantes benchmarks para agentes de IA.
Con el modelo base DeepSeek-V4-Flash, IronClaw registró lo siguiente:
- 93.5% en PinchBench
- 88.6% en ClawBench
- 76.4% en OfficeQA
Impresionantemente, enfocarse más en la seguridad no ha perjudicado el rendimiento de este agente de IA.
IronClaw busca tener ambas cosas.
4 características fundamentales
1. Seguridad desde el diseño
La preocupación principal con los agentes de IA es demasiada libertad.
IronClaw lo aborda exigiendo aprobación antes de que se puedan realizar acciones específicas. En lugar de que los agentes de IA Jenky actúen, IronClaw coloca controles antes de que las acciones se pongan en marcha.
2. Recuerda en qué punto lo dejó
Imagina pedirle a un agente de IA que resuelva un problema que tomará horas, para que el sistema falle en el último minuto.
Sería una pérdida total de horas de trabajo tener que empezar de nuevo todo.
IronClaw guarda el progreso usando puntos de control. Por eso, si un agente tiene que detenerse, puede reiniciarse y luego continuar trabajando desde donde lo dejó, en lugar de perder todo su trabajo.
Para tareas de IA que pueden tardar horas en completarse, esto sería muy útil para las empresas.
3. Puede funcionar en distintas plataformas
Los usuarios no tienen una sola aplicación durante todo el día.
IronClaw admite interactuar con un agente a través de varias plataformas, incluyendo CLI, Web, Slack y Telegram.
El objetivo es conservar la memoria y el contexto del agente cuando se cambian los canales de interfaz.
4. Los equipos pueden mantener su trabajo separado
Los distintos proyectos, empleados y datos sensibles definen la mayoría de las organizaciones.
IronClaw incluye aislamiento del equipo, lo que ayuda a mantener la separación del espacio de trabajo y de los datos.
Un asistente de IA para una empresa requiere más que inteligencia; necesita áreas de operación definidas.
Dónde entra NEAR AI y el staking
#IronClaw es uno de muchos elementos del proyecto de IA de NEAR.
Busca ofrecer infraestructura de IA donde los usuarios no estén a merced de unas pocas grandes empresas para proporcionarles datos, modelos y agentes de IA.
Construir infraestructura de IA requiere stacks descentralizados.
Hacer staking de NEAR no solo se trata de recompensas; también ayuda a los usuarios a respaldar una red de validadores que ejecuta la blockchain de NEAR, manteniéndola segura y operativa.
Esto se vuelve importante a medida que aumenta el número de agentes de IA y de aplicaciones que utilizan infraestructura descentralizada.
A continuación se muestra visualizado por qué el staking en NEAR importa.
Hacer staking tiene recompensas asociadas, pero también tiene su lado más altruista. Cuando alguien hace staking de NEAR, esencialmente ayuda a asegurar y sostener la red de validadores de la blockchain de NEAR.
Eso se vuelve aún más importante a medida que más agentes de IA y aplicaciones comienzan a usar infraestructura descentralizada.
Los agentes de IA son los trabajadores. NEAR AI proporciona parte del entorno en el que pueden trabajar. El staking ayuda a asegurar la infraestructura de ese entorno.
IronClaw 1.0 demuestra cómo se puede hacer que los agentes de IA sean más capaces, manteniendo a la vez mecanismos de seguridad vitales.
Con proyectos como IronClaw y el próximo OpenClaw, la pregunta que debería hacerse ya no es solo "¿Qué tan inteligente puede ser la IA?".
También es “¿Podemos crear una IA lo bastante inteligente y lo bastante segura como para depender de ella?”
#NEARAI se centra exactamente en estos objetivos.