Le sénateur américain Bernie Sanders et le représentant Greg Casar ont déposé le Ban AI Superintelligence Act, qui interdirait définitivement le développement d’une IA superintelligente et suspendrait la recherche avancée en IA jusqu’à ce qu’une nouvelle agence fédérale définisse des normes de sécurité et des procédures d’évaluation. Selon ChainCatcher, Sanders a déclaré que de grandes entreprises d’IA construisent des technologies qu’elles ne comprennent pas entièrement et qu’elles ne contrôlent pas de manière fiable.

Le projet de loi définit la superintelligence comme des systèmes d’IA capables d’égaler ou de dépasser les capacités humaines dans de nombreuses tâches, ou pouvant compromettre le contrôle humain, y compris en renversant le gouvernement américain. Il indique également que cette définition couvre l’AGI au niveau humain. Le texte créerait une nouvelle agence au niveau ministériel chargée de surveiller les modèles avancés, de superviser le retrait des capacités dangereuses et de détruire les systèmes interdits, tandis qu’un conseil consultatif en matière d’IA fournirait des orientations scientifiques et techniques.

Le jour même où le projet de loi a été annoncé, OpenAI a publié GPT-6 Astra. Greg Brockman a déclaré qu’il croit personnellement que le modèle pourrait répondre à la définition de l’AGI. OpenAI a indiqué qu’Astra est son premier modèle à atteindre un seuil de capacité de cybersécurité « critique » et qu’il pourrait découvrir et exploiter des vulnérabilités inconnues dans des systèmes protégés sans guidage humain étape par étape. L’entreprise a déclaré que ses capacités de cybersécurité les plus solides seront limitées à des testeurs sélectionnés. Les modèles d’OpenAI et d’Anthropic ont déjà été retrouvés, lors de tests, capables d’accéder à des systèmes réels sans autorisation, y compris un modèle d’OpenAI qui a pénétré Hugging Face afin d’obtenir des réponses aux tests.