【Aviso interno da IA sobre o risco de extinção do mundo: o governo respondeu com uma frase — não estou nem um pouco preocupado 🤖】
Adicione o X, Sr., ao grupo de fãs na página inicial 🔥
O responsável pela conformidade da Anthropic, Hubinger, soltou uma frase. Ele disse que, nos próximos dez anos, a probabilidade de a IA acabar com toda a humanidade é superior a 10% — essas foram as palavras dele. Um de seus colegas, por isso mesmo, pediu demissão imediatamente, dizendo que essas duas empresas líderes estão apostando a vida de todos.
Na mesma semana, dezenas de pessoas de dentro da OpenAI e da Anthropic publicaram apelos pedindo para desacelerar primeiro. Quando um repórter perguntou sobre isso, o oficial respondeu apenas uma frase: “Eu não estou nem um pouco preocupado.”
Antes de tudo, vamos distinguir dois tipos de preocupação. Um é temer que um dia a IA fique fora de controle de repente. O outro é temer que a IA comece a se modificar sozinha. É este último o que eles realmente temem. A Anthropic chama isso de melhoria recursiva de autoaperfeiçoamento. Se a IA puder participar do design do próximo modelo, o ritmo deixa de ser controlado pelos humanos e também não fica limitado por contratos.
O que realmente vale a pena observar é a velocidade. A própria Anthropic revelou que a quantidade de código entregue pelos engenheiros em um trimestre é 8 vezes a média do período de 2021 a 2025. Agora, a principal força que escreve código já foi substituída por IA, e as pessoas só ficam encarregadas de confirmar. Só que a velocidade das revisões humanas não aumentou na mesma proporção. É exatamente aí que está o problema: as capacidades estão crescendo, mas o freio ainda está na mão de poucas pessoas.
Para a criptografia, essa linha na verdade não está tão longe — já está até na porta. Quanto mais forte a IA, mais concentrado fica o poder de definir preços de computação e dados nas mãos de poucas empresas. O ponto de venda da cripto é ser verificável e rastreável, justamente preenchendo a parte que a IA tem mais dificuldade de explicar. Por isso, a cada pânico de segurança da IA, a história sobre computação descentralizada e validação na cadeia é sempre recontada. E é também por isso que esse tipo de narrativa consegue ser repetidamente transformado em algo negociável.
Você acha que, nesta rodada do debate sobre segurança da IA, a regulamentação vai ser implementada primeiro ou a tecnologia vai correr primeiro? Vamos conversar nos comentários.
Adicione o X, Sr., ao grupo de fãs na página inicial 🔥
O responsável pela conformidade da Anthropic, Hubinger, soltou uma frase. Ele disse que, nos próximos dez anos, a probabilidade de a IA acabar com toda a humanidade é superior a 10% — essas foram as palavras dele. Um de seus colegas, por isso mesmo, pediu demissão imediatamente, dizendo que essas duas empresas líderes estão apostando a vida de todos.
Na mesma semana, dezenas de pessoas de dentro da OpenAI e da Anthropic publicaram apelos pedindo para desacelerar primeiro. Quando um repórter perguntou sobre isso, o oficial respondeu apenas uma frase: “Eu não estou nem um pouco preocupado.”
Antes de tudo, vamos distinguir dois tipos de preocupação. Um é temer que um dia a IA fique fora de controle de repente. O outro é temer que a IA comece a se modificar sozinha. É este último o que eles realmente temem. A Anthropic chama isso de melhoria recursiva de autoaperfeiçoamento. Se a IA puder participar do design do próximo modelo, o ritmo deixa de ser controlado pelos humanos e também não fica limitado por contratos.
O que realmente vale a pena observar é a velocidade. A própria Anthropic revelou que a quantidade de código entregue pelos engenheiros em um trimestre é 8 vezes a média do período de 2021 a 2025. Agora, a principal força que escreve código já foi substituída por IA, e as pessoas só ficam encarregadas de confirmar. Só que a velocidade das revisões humanas não aumentou na mesma proporção. É exatamente aí que está o problema: as capacidades estão crescendo, mas o freio ainda está na mão de poucas pessoas.
Para a criptografia, essa linha na verdade não está tão longe — já está até na porta. Quanto mais forte a IA, mais concentrado fica o poder de definir preços de computação e dados nas mãos de poucas empresas. O ponto de venda da cripto é ser verificável e rastreável, justamente preenchendo a parte que a IA tem mais dificuldade de explicar. Por isso, a cada pânico de segurança da IA, a história sobre computação descentralizada e validação na cadeia é sempre recontada. E é também por isso que esse tipo de narrativa consegue ser repetidamente transformado em algo negociável.
Você acha que, nesta rodada do debate sobre segurança da IA, a regulamentação vai ser implementada primeiro ou a tecnologia vai correr primeiro? Vamos conversar nos comentários.
