Ultimamente, tenho pensado em algo que parece fácil de ignorar.
Nós frequentemente perguntamos se a IA entende nossas instruções. Mas talvez essa não seja a pergunta real.
E se ela seguir cada instrução perfeitamente... e ainda assim deixar passar aquilo que realmente queríamos dizer?
Isso mudou a forma como penso sobre IA no Web3.
Um agente de IA poderia executar cada transação corretamente, seguir cada regra que eu defini e, tecnicamente, não fazer nada errado. Ainda assim, eu poderia olhar para o resultado e pensar: "Isso não é o que eu estava tentando alcançar."
Para mim, essa é a diferença entre seguir instruções e compreender a intenção.
Quando comecei a ler sobre o Newton Protocol, eu esperava que o foco fosse tornar a IA mais inteligente. Em vez disso, o que chamou minha atenção foi a ênfase em políticas, permissões e autorização antes de uma ação sequer chegar à blockchain.
Isso fez sentido para mim.
Quanto mais penso nisso, mais sinto que apenas uma IA melhor não é suficiente. Ela também precisa de limites claros para agir dentro da intenção que eu já defini, e não apenas nas instruções literais que eu dei.
É o tipo de automação em que eu me sentiria muito mais confortável para confiar.
Curioso para ouvir como outras pessoas pensam sobre isso.
@NewtonProtocol $NEWT #Newt @Newton-