Selon PANews, OpenAI a annoncé des plans pour renforcer la biosécurité à mesure que ses modèles d'IA avancent dans le domaine biologique. L'entreprise collabore avec des experts mondiaux et organisera un sommet sur la biosécurité en juillet. OpenAI travaille avec des institutions telles que le Laboratoire national de Los Alamos aux États-Unis pour évaluer l'application et les risques de l'IA dans les laboratoires biologiques.
OpenAI a mis en œuvre plusieurs mesures de sécurité, y compris des modèles qui rejettent les demandes dangereuses, des systèmes de détection en temps réel, des examens manuels et des tests de l'équipe rouge. L'entreprise impose également des contrôles de publication plus stricts pour les modèles à haut risque. OpenAI vise à collaborer avec les gouvernements, les institutions de recherche et les entreprises pour renforcer les défenses de biosécurité, garantissant que l'IA soutienne les sciences de la vie tout en atténuant efficacement les menaces biologiques potentielles.