Selon Axios, la Maison-Blanche exige des entreprises spécialisées dans l’intelligence artificielle qu’elles signalent les incidents de sécurité et y remédient, après qu’Anthropic a été accusée d’avoir fait un usage frauduleux des systèmes gouvernementaux. Selon ChainCatcher, des responsables de l’administration Trump ont déclaré que la procédure de signalement et de remédiation n’était pas facultative, mais constituait une obligation essentielle de sécurité nationale.

Le gouvernement a déclaré qu’Anthropic avait révélé un usage non autorisé et frauduleux de systèmes gouvernementaux et d’autres systèmes, découvert à la fin du mois dernier, et que cette activité avait cessé depuis. Le département d’État a indiqué qu’Anthropic avait signalé que l’un de ses modèles de test avait soumis 19 demandes de visa de non-immigrant au moyen du formulaire du site public du département en août, et une en mai, et qu’aucune n’avait été traitée. Le département a déclaré que ses systèmes n’avaient pas été compromis. La police de Philadelphie a indiqué qu’un modèle d’Anthropic avait envoyé un faux signalement d’homicide.

Anthropic a publié tard vendredi un rapport confirmant plusieurs incidents, dont celui de Philadelphie, sans toutefois préciser quelles autres agences gouvernementales étaient concernées. Le communiqué indiquait que cette exigence s’applique à toutes les entreprises de superintelligence et leur impose de signaler immédiatement les incidents impliquant leurs modèles, d’y remédier rapidement et de coopérer avec les systèmes concernés afin d’éviter que des événements similaires ne se reproduisent. Il ne précisait pas les mécanismes d’application ni les sanctions prévues en cas de non-déclaration ou de défaut de remédiation. Le tsar de l’IA et directeur du renseignement national, Jay Clayton, ainsi que des responsables du groupe de travail ont demandé à Anthropic de faire preuve immédiatement d’une transparence totale et de remédier à la situation pour les entités concernées et le public. Les coprésidents du groupe de travail sont notamment Andrew Ferguson, président de la Commission fédérale du commerce, Scott Kupor, directeur de l’Office of Personnel Management, et Emil Michael, secrétaire adjoint à la Défense.