Um hacker de identidade desconhecida lançou ataques direcionados contra várias instituições financeiras da Coreia do Sul entre o fim de setembro e o início de outubro e roubou dados. Durante as operações, combinou um LLM com a ferramenta de teste de intrusão de código aberto ARTEX.
O que realmente merece atenção não é apenas que “o hacker usou IA”, mas que a IA está começando a fazer parte da cadeia de ataque.
No passado, o trabalho de intrusão dependia sobretudo de análise humana, scripts e processos fixos. Agora, os modelos podem ajudar a compreender os alvos, organizar etapas e ajustar as ações com base no feedback.
A IA pode não criar novas vulnerabilidades, mas pode reduzir as barreiras ao uso das ferramentas existentes, tornando mais fácil para poucas pessoas realizar tarefas que antes exigiam a colaboração de uma equipe especializada.
E as ferramentas de código aberto ampliam ainda mais essa mudança. As ferramentas em si não são necessariamente maliciosas, mas, quando as ferramentas de código aberto reduzem as barreiras técnicas e os LLMs reduzem as barreiras operacionais, a capacidade de ataque pode deixar de estar concentrada nas mãos de poucos especialistas.
Por isso, o que realmente deveria preocupar nesses relatos não é o sensacionalismo em torno dos “hackers de IA”, mas a mudança na estrutura de custos para atacantes e defensores.
Ao mesmo tempo que a IA reduz as barreiras de acesso à produtividade, também pode reduzir o custo dos ataques.
O que realmente merece atenção não é apenas que “o hacker usou IA”, mas que a IA está começando a fazer parte da cadeia de ataque.
No passado, o trabalho de intrusão dependia sobretudo de análise humana, scripts e processos fixos. Agora, os modelos podem ajudar a compreender os alvos, organizar etapas e ajustar as ações com base no feedback.
A IA pode não criar novas vulnerabilidades, mas pode reduzir as barreiras ao uso das ferramentas existentes, tornando mais fácil para poucas pessoas realizar tarefas que antes exigiam a colaboração de uma equipe especializada.
E as ferramentas de código aberto ampliam ainda mais essa mudança. As ferramentas em si não são necessariamente maliciosas, mas, quando as ferramentas de código aberto reduzem as barreiras técnicas e os LLMs reduzem as barreiras operacionais, a capacidade de ataque pode deixar de estar concentrada nas mãos de poucos especialistas.
Por isso, o que realmente deveria preocupar nesses relatos não é o sensacionalismo em torno dos “hackers de IA”, mas a mudança na estrutura de custos para atacantes e defensores.
Ao mesmo tempo que a IA reduz as barreiras de acesso à produtividade, também pode reduzir o custo dos ataques.