Tout le monde parle de protéger les données privées.
Je pense que le problème le plus difficile commence une fois que les données sont déjà protégées.
Le chiffrement résout un défi important.
Cela maintient l’information cachée pendant qu’elle circule à travers les réseaux et lorsqu’elle est stockée.
Mais les systèmes financiers ne chiffrent pas les données uniquement pour les garder verrouillées indéfiniment.
À un moment donné, quelqu’un doit prendre une décision.
C’est là que la confidentialité devient étonnamment complexe.
Imaginez un agent IA qui examine une transaction du trésor d’une entreprise.
La demande inclut des bilans financiers confidentiels, des limites de risque internes et des registres de conformité.
Tout est chiffré avant de quitter l'entreprise.
Aucun tiers ne peut la lire.
Le stockage reste sécurisé.
La transmission reste sécurisée.
Vu de l'extérieur, le problème de confidentialité semble résolu.
Mais alors la demande d'autorisation arrive.
Quelqu'un, ou quelque chose, doit évaluer si cette transaction doit avoir lieu.
Au moment où une décision devient nécessaire, une question difficile apparaît.
Un système peut-il prendre la bonne décision sans exposer l'information qui la sous-tend ?
Je pense que c'est l'un des défis les moins abordés dans l'IA institutionnelle.
La plupart des conversations considèrent la confidentialité comme un problème de stockage.
Les institutions l'expérimentent comme un problème de décision.
Garder les secrets cachés n'est que le début.
Le vrai défi est de décider qui doit apprendre ces secrets avant que l'autorisation devienne possible.
Les systèmes traditionnels acceptent généralement un compromis simple.
Avant qu'une politique puisse être évaluée, l'information sous-jacente devient visible pour quiconque effectue la vérification.
Cette approche fonctionne.
Mais cela crée discrètement une autre hypothèse de confiance.
Vous ne faites plus confiance uniquement à la politique.
Vous faites confiance aux personnes et à l'infrastructure qui obtiennent temporairement accès à l'information.
Cette hypothèse devient de plus en plus inconfortable à mesure que l'IA commence à gérer des dossiers médicaux, des finances d'entreprise, des portefeuilles tokenisés, le filtrage des sanctions et la vérification d'identité.
La valeur des données augmente.
Et le coût de sa divulgation aussi.
En explorant différentes architectures d'autorisation, @newton_xyz a abordé ce problème différemment.
Au lieu de considérer le chiffrement comme la couche finale de protection, il étend la confidentialité au processus d'autorisation lui-même.
Les informations sensibles sont chiffrées sur le client avant d'entrer dans le réseau.
Plutôt que d'envoyer du texte en clair dans l'évaluation de la politique, le client téléverse des SecureEnvelopes chiffrées et reçoit des identifiants de référence.
Ces références deviennent une partie de la demande d'autorisation au lieu d'exposer les données originales.
Cette conception crée une autre couche de protection intéressante.
Les informations chiffrées seules ne suffisent pas.
Newton lie aussi l'autorisation à la fois à l'intention de l'utilisateur et à l'approbation de l'application, via un modèle à double signature.
Même si des références chiffrées existent, elles ne peuvent pas être simplement réutilisées dans un autre contexte sans la chaîne d'autorisation requise.
La confidentialité n'est plus uniquement rattachée aux données.
Elle est rattachée à la décision que les données étaient destinées à soutenir.
Cela ressemble à un changement important.
Au lieu de demander,
"À qui appartient cette information ?"
Le système pose aussi,
"Qui est autorisé à utiliser cette information, pour cette décision, dans ces conditions précises ?"
Ce sont des questions très différentes.
Et je pense que la finance institutionnelle accordera de plus en plus d'importance au second.
Si la confidentialité doit un jour soutenir une décision, alors chaque système d'autorisation est confronté au même dilemme.
Doit-elle révéler des informations sensibles pour prendre une meilleure décision ?
Ou devrait-elle protéger l'information même si cela rend l'évaluation plus difficile ?
Aucun des deux choix n'est parfait.
Rendre les données visibles renforce la confiance dans la décision, mais cela augmente aussi l'exposition.
Garder tout caché protège la confidentialité, mais cela peut limiter ce que le système est capable de vérifier.
La confidentialité ne supprime pas la confiance. Elle modifie l'endroit où la confiance doit exister.
Cela pourrait devenir l'une des questions déterminantes pour la finance pilotée par l'IA.
Les systèmes traditionnels résolvent généralement cela en faisant confiance à celui qui effectue la vérification.
Quelqu'un déchiffre l'information.
Quelqu'un vérifie la politique.
Quelqu'un approuve la demande.
Ce modèle a fonctionné pendant des années.
Mais l'IA change l'échelle.
Des milliers de décisions automatisées peuvent survenir chaque heure.
Chaque point supplémentaire où des informations sensibles deviennent visibles devient aussi un autre point qui doit être digne de confiance.
C'est pourquoi je pense que l'avenir de la confidentialité n'est pas simplement un chiffrement plus robuste.
C'est une évaluation plus intelligente.
L'architecture de Newton reflète cette direction.
Pour de nombreuses charges de travail, les opérateurs peuvent évaluer collectivement des informations protégées sans dépendre d'une seule partie de confiance. À mesure que les exigences de confidentialité deviennent plus strictes, l'architecture explore aussi des approches qui réduisent la quantité d'informations sensibles qui doivent être exposées pendant l'évaluation elle-même.
L'idée importante n'est pas qu'une seule technologie résout tous les problèmes.
C'est parce que la confidentialité devient une partie de l'autorisation, au lieu de se terminer avant que l'autorisation commence.
Prenons un autre exemple.
Imaginez qu'un fonds immobilier tokenisé utilise l'IA pour approuver les retraits des investisseurs.
Le portefeuille a la permission.
La transaction est correctement signée.
La politique est valide.
Mais l'approbation dépend aussi d'enregistrements de propriété confidentiels, de contrôles de conformité et de limites internes de fonds.
Si chaque évaluateur doit d'abord lire toute cette information, la confidentialité s'affaiblit à chaque fois qu'une décision est prise.
Si le processus d'autorisation peut évaluer la demande en limitant l'exposition inutile, le système protège davantage que les données.
Elle protège la décision elle-même.
Cela crée un changement important dans la manière dont les institutions peuvent évaluer l'infrastructure blockchain.
Pendant des années, la confidentialité a été mesurée par une seule question.
"Ce système peut-il garder l'information secrète ?"
Je pense que la prochaine question sera bien plus difficile.
"Ce système peut-il prendre la bonne décision en révélant le moins d'informations possible ?"
Ce sont des normes complètement différentes.
La première mesure concerne le stockage.
La seconde mesure concerne la gouvernance.
La première protège l'information.
Le second protège la prise de décision.
Cette distinction comptera encore davantage à mesure que l'IA commence à gérer les dossiers de santé, les trésoreries d'entreprise, les fonds tokenisés, l'identité numérique et les actifs financiers réglementés.
Les systèmes les plus précieux ne sont peut-être pas ceux qui chiffrent le plus de données.
Ils peuvent être ceux qui révèlent le moins d'informations tout en produisant des décisions dignes de confiance.
Peut-être que c'est la vraie transition qui se déroule sous la conversation sur la confidentialité d'aujourd'hui.
Pendant des années, nous avons demandé,
"Cette donnée peut-elle rester privée ?"
La prochaine génération d'institutions pourrait poser quelque chose de beaucoup plus important.
"Combien de confidentialité a dû être sacrifiée avant que cette décision devienne possible ?"
Parce que l'avenir de la confidentialité n'appartiendra peut-être pas au système qui cache l'information le plus longtemps.
Elle peut appartenir au système qui révèle le moins d'informations tout en permettant de prendre la bonne décision.
