Plus j’étudie la finance autonome et les systèmes d’exécution pilotés par l’IA, plus une question revient sans cesse.

Nous avons l’habitude de penser que les systèmes échouent lorsqu’ils prennent de mauvaises décisions. Mais l’histoire des marchés — qu’il s’agisse de la crise LDI au Royaume‑Uni ou des modèles automatisés de trésorerie et d’allocation en crypto d’aujourd’hui — montre quelque chose de différent. Parfois, chaque décision est techniquement correcte, mais l’environnement autour de ces décisions a déjà changé.

C’est exactement pour cela que des projets comme attirent mon attention.

Il ne s’agit pas seulement de construire une infrastructure d’IA. L’idée réelle est de créer des systèmes dans lesquels l’exécution ne se produit que si les conditions du monde réel justifient encore la stratégie d’origine. Autrement dit, l’intelligence ne consiste pas seulement à prendre de meilleures décisions — elle consiste aussi à empêcher des hypothèses dépassées d’atteindre l’exécution.

La conception des politiques fonctionne de la même manière. Un système peut démarrer avec un refus par défaut, mais une seule règle d’approbation trop faible peut compromettre silencieusement toute la couche de sécurité.

Je commence à penser que le plus grand risque des systèmes autonomes n’est pas une mauvaise optimisation.

Le vrai risque, c’est lorsque les machines continuent d’exécuter parfaitement… alors que le marché pour lequel elles ont été conçues n’existe plus.

Peut-être que le futur n’appartiendra pas à la IA la plus intelligente.

Il appartiendra à des systèmes qui savent quand ne pas agir.
@NewtonProtocol $NEWT #newt