Je suis assise dans une petite salle d’audience des affaires de faible montant, sans être partie à un quelconque litige, juste en attendant que l’affaire d’un ami soit appelée, et je remarque quelque chose d’étrange dans la façon dont la juge écoute. Elle n’entend pas seulement ce que chaque camp prétend être arrivé. Elle demande, à répétition, « comment le savez-vous ». Ce n’est pas parce qu’elle doute de la probité de qui que ce soit, mais parce qu’elle a pris l’habitude de ne jamais accepter une affirmation sans demander sur quoi elle s’appuie. La moitié des affaires s’effondrent dès là, non pas à cause de mensonges exactement, mais à cause de personnes qui étaient convaincues de choses qu’elles ne pouvaient pas, en réalité, vérifier.
Je repense sans cesse à cette formule, « comment savez-vous que… ? », parce que c’est la question que la plupart des systèmes évitent silencieusement. Nous construisons des marchés entiers, des lieux de travail et des relations sur des affirmations qui ne sont pas vérifiées, simplement parce que les vérifier coûte cher ou est mal commode. Un entrepreneur dit que les fondations sont solides. Un gestionnaire de fonds dit que la stratégie est peu risquée. Un ami dit qu’il s’en occupera. Nous les croyons le plus souvent, pas par naïveté, mais parce que vérifier coûte plus de temps et de « capital de confiance » que nous n’avons envie de dépenser. Alors nous remplaçons la vérification par un signal moins coûteux : la réputation, les diplômes, l’ambiance, les performances passées. Ça marche jusqu’au jour où ça ne marche plus, et ensuite nous faisons comme si nous étions surpris que l’écart entre la promesse et la réalité était déjà là depuis le début.
Ce qui me frappe dans cette habitude au tribunal, c’est qu’il ne s’agit pas de cynisme. Le juge ne suppose pas que les gens mentent. Elle part du principe que la confiance et la justesse sont des choses différentes, et que tout système qui s’appuie sur la première pour garantir la seconde est fragile. C’est une posture bien plus utile que la confiance aveugle ou la suspicion totale : une exigence d’un type de preuve précis, proportionné à ce qui est en jeu.
C’est ici que l’idée d’agents financiers automatisés commence à ressembler moins à une curiosité technique et plus à un problème de confiance revêtu d’un costume technique. Si je donne à un agent IA l’autorisation de rééquilibrer mon portefeuille ou d’exécuter des transactions à ma place, je ne fais pas seulement confiance au code : je fais confiance à quiconque l’a écrit, à quiconque l’exécute, et à l’hypothèse qu’il se comportera à l’intérieur des limites que je fixe, à chaque fois, même quand personne ne regarde. C’est une demande bien plus lourde que faire confiance à un entrepreneur, parce que l’agent fonctionne en continu et à une échelle qu’aucun relecteur humain ne peut superviser en temps réel.
La réponse à cela, selon le protocole Newton, est structurelle plutôt que réputationnelle : au lieu de demander aux utilisateurs de faire confiance à l’opérateur d’un agent, elle cherche à rendre la conformité de l’agent vérifiable. Les autorisations sont encodées et appliquées via un rollup dédié ; les actions s’exécutent dans des environnements d’exécution sécurisés, et les résultats sont ensuite enveloppés dans des preuves cryptographiques que chacun peut vérifier après coup. Les opérateurs déposent du NEWT comme garantie : un agent qui se comporte mal n’est pas seulement gênant, c’est aussi coûteux. En principe, cela transforme « faites-moi confiance » en « vérifiez-moi », le même glissement que celui que le juge opér a— mais automatisé et poussé sur la chaîne.
Mais je veux m’arrêter sur la réfutation évidente au lieu de la contourner. Prouver une exécution correcte n’est pas la même chose que prouver un bon jugement. Une preuve cryptographique peut confirmer qu’un agent a suivi exactement sa règle programmée, et pourtant ne rien dire sur le caractère avisé de cette règle, ne serait-ce que dès le départ. Si je dis à un agent « rééquilibre lorsque la volatilité dépasse X », et que X s’avère être un mauvais seuil choisi sur un coup de surestimation de ma part, le système exécutera fidèlement mon erreur avec une vérifiabilité parfaite. La vérification protège contre la trahison, pas contre la mauvaise conception, et les confondre est un piège dans lequel toute couche d’automatisation peut tomber, aussi bien construite soit-elle, si ses utilisateurs commencent à traiter « vérifiable » comme synonyme de « sûr ».
Il y a aussi une question de gouvernance qui ne se résout pas simplement parce que l’architecture est élégante. La réduction de garantie (slashing) dissuade les opérateurs de comportements manifestement fautifs, mais elle suppose que la faute est facile à détecter et à attribuer, ce qui n’est pas toujours vrai pour des défaillances subtiles, des bogues corrélés ou des agents qui se comportent correctement isolément, mais interagissent mal une fois agrégés. Et décentraliser l’ensemble des validateurs, qui est le plan à long terme, échange un type de risque — une fondation avec trop de contrôle — contre un autre : un éventail plus large de participants, possiblement avec moins de contexte et une coordination plus lente lorsqu’il se passe réellement quelque chose de grave. Aucun de ces arbitrages n’est gratuit, et aucune conception de rollup ne fait disparaître cette tension : elle la déplace simplement.
Ce qui me revient, depuis ce tribunal, c’est que la vérification n’est jamais un état final : c’est une discipline continue. Le juge n’a pas demandé une fois « comment savez-vous que… ? » puis s’est relâchée ; elle l’a demandée à chaque fois qu’une nouvelle affirmation apparaissait, parce que la confiance doit être regagnée au rythme où de nouvelles affirmations sont formulées. Un système comme Newton n’est aussi bon que sa volonté de continuer à se poser cette question sur lui-même, y compris sur ses propres hypothèses concernant ce que la preuve garantit réellement. Rendre l’automatisation vérifiable est un progrès réel par rapport à une délégation aveugle. Mais savoir si cela suffit à rendre la délégation véritablement sûre est une question distincte, et probablement une qui ne sera pas tranchée par l’architecture seule : elle dépendra de la façon dont les gens qui s’appuient sur le système réagiront la première fois qu’un agent dont la correction est prouvée fera quelque chose que personne n’avait réellement voulu.
