đš UN BON IA PEUT ENCORE FAIRE DES CHOSES MAUVAISES.
Cela semble contradictoire.
Mais cela pourrait devenir lâun des dĂ©fis majeurs de la finance native de lâIA.
La plupart des gens pensent que le plus grand risque, câest lâIA malveillante.
Je ne pense pas.
Le risque le plus important, câest une IA performante qui exĂ©cute parfaitement de mauvaises politiques.
LâIA ne comprend pas lâĂ©thique.
Elle ne comprend pas les conséquences.
Elle ne décide pas de ce qui est juste ou injuste.
Elle se contente dâexĂ©cuter les autorisations, objectifs et politiques qui lui sont donnĂ©s.
Câest pourquoi une IA trĂšs intelligente peut encore prendre des dĂ©cisions financiĂšres catastrophiques â non pas parce quâelle a Ă©chouĂ©, mais parce quâelle a exĂ©cutĂ© exactement ce Ă quoi elle Ă©tait autorisĂ©e.
Câest aussi pour cela que je pense que la conversation doit Ă©voluer.
Au lieu de demander : « Comment construire une IA plus intelligente ? »
Nous devrions demander : « Comment construire une meilleure autorisation ? »
đĄïž Câest prĂ©cisĂ©ment lĂ que @NewtonProtocol se distingue.
$NEWT nâessaie pas de remplacer le jugement humain par lâIA.
Elle construit la couche dâautorisation pour la finance native de lâIA, afin que les agents IA fonctionnent dans des limites programmables et vĂ©rifiables plutĂŽt que dans des autorisations illimitĂ©es.
GrĂące Ă lâautorisation avant exĂ©cution (Authorization Before Execution), chaque action de lâIA est Ă©valuĂ©e par rapport Ă des politiques prĂ©dĂ©finies avant dâĂȘtre exĂ©cutĂ©e.
Avec des autorisations programmables, les dĂ©veloppeurs et les institutions peuvent dĂ©finir exactement quels actifs une IA peut consulter, avec quels protocoles elle peut interagir, les plafonds de dĂ©pense, les conditions dâexĂ©cution et les exigences dâapprobation avant mĂȘme que des capitaux ne bougent.
CombinĂ© Ă un moteur de politique, Ă lâautorisation des agents IA et Ă lâexĂ©cution vĂ©rifiable des politiques, Newton transforme la confiance dâune dĂ©cision manuelle en une infrastructure programmable.
Câest un changement fondamental.
Car dans le futur, lâIA la plus sĂ»re ne sera pas forcĂ©ment la plus intelligente.
Ce sera celle qui sait ce quâelle a le droit de faire â et ce quâelle nâa pas le droit de faire.
đ€ Si une IA suivait parfaitement toutes les rĂšgles telles quâelles ont Ă©tĂ© conçues, mais quâelle effaçait quand mĂȘme lâintĂ©gralitĂ© de votre portefeuille⊠qui est vraiment responsable ?
LâIA, le dĂ©veloppeur, ou la personne qui a Ă©crit les rĂšgles ?
Vous ne pouvez en choisir QUâUNE.
#Newt
Cela semble contradictoire.
Mais cela pourrait devenir lâun des dĂ©fis majeurs de la finance native de lâIA.
La plupart des gens pensent que le plus grand risque, câest lâIA malveillante.
Je ne pense pas.
Le risque le plus important, câest une IA performante qui exĂ©cute parfaitement de mauvaises politiques.
LâIA ne comprend pas lâĂ©thique.
Elle ne comprend pas les conséquences.
Elle ne décide pas de ce qui est juste ou injuste.
Elle se contente dâexĂ©cuter les autorisations, objectifs et politiques qui lui sont donnĂ©s.
Câest pourquoi une IA trĂšs intelligente peut encore prendre des dĂ©cisions financiĂšres catastrophiques â non pas parce quâelle a Ă©chouĂ©, mais parce quâelle a exĂ©cutĂ© exactement ce Ă quoi elle Ă©tait autorisĂ©e.
Câest aussi pour cela que je pense que la conversation doit Ă©voluer.
Au lieu de demander : « Comment construire une IA plus intelligente ? »
Nous devrions demander : « Comment construire une meilleure autorisation ? »
đĄïž Câest prĂ©cisĂ©ment lĂ que @NewtonProtocol se distingue.
$NEWT nâessaie pas de remplacer le jugement humain par lâIA.
Elle construit la couche dâautorisation pour la finance native de lâIA, afin que les agents IA fonctionnent dans des limites programmables et vĂ©rifiables plutĂŽt que dans des autorisations illimitĂ©es.
GrĂące Ă lâautorisation avant exĂ©cution (Authorization Before Execution), chaque action de lâIA est Ă©valuĂ©e par rapport Ă des politiques prĂ©dĂ©finies avant dâĂȘtre exĂ©cutĂ©e.
Avec des autorisations programmables, les dĂ©veloppeurs et les institutions peuvent dĂ©finir exactement quels actifs une IA peut consulter, avec quels protocoles elle peut interagir, les plafonds de dĂ©pense, les conditions dâexĂ©cution et les exigences dâapprobation avant mĂȘme que des capitaux ne bougent.
CombinĂ© Ă un moteur de politique, Ă lâautorisation des agents IA et Ă lâexĂ©cution vĂ©rifiable des politiques, Newton transforme la confiance dâune dĂ©cision manuelle en une infrastructure programmable.
Câest un changement fondamental.
Car dans le futur, lâIA la plus sĂ»re ne sera pas forcĂ©ment la plus intelligente.
Ce sera celle qui sait ce quâelle a le droit de faire â et ce quâelle nâa pas le droit de faire.
đ€ Si une IA suivait parfaitement toutes les rĂšgles telles quâelles ont Ă©tĂ© conçues, mais quâelle effaçait quand mĂȘme lâintĂ©gralitĂ© de votre portefeuille⊠qui est vraiment responsable ?
LâIA, le dĂ©veloppeur, ou la personne qui a Ă©crit les rĂšgles ?
Vous ne pouvez en choisir QUâUNE.
#Newt
