Um agente de IA é um sistema de software que toma decisões autônomas ou realiza tarefas com base em entradas de dados e metas específicas. Esses agentes podem interpretar entradas de usuários, planejar ações e raciocinar sem intervenção humana. Eles estão sendo usados para automatizar tarefas e melhorar a eficiência e a tomada de decisões em várias indústrias. Sua adoção em grande escala deu origem à internet da IA.
Ao mesmo tempo, as superfícies de ataque aumentam à medida que cada agente se torna um potencial ponto de entrada ou vulnerabilidade, e reconhecer as possíveis consequências para a segurança se tornou mais importante do que nunca.
O que é a internet da IA?
Agentes de IA compartilham conhecimento e interagem de forma autônoma dentro de uma rede conhecida como a internet da IA. Eles colaboram nesta rede de inteligência global em tempo real, não diferente de como os humanos interagem online. O ecossistema interconectado ajuda a amplificar as capacidades coletivas dos agentes de IA e impulsionar a eficiência em múltiplos campos. Essa mudança promete custos mais baixos, soluções mais inteligentes e mercados mais eficazes impulsionados por serviços de IA.
Por outro lado, as redes de agentes de IA enfrentam riscos de segurança aumentados, incluindo superfícies de ataque ampliadas. Cibercriminosos que os infectam com malware infostealer podem obter acesso sem precedentes a dados pessoais e credenciais. Os atacantes também abusam de ferramentas integradas para manipular o agente por meio de prompts enganosos, o que pode envolver a exploração de vulnerabilidades ou a ativação de ações não intencionais, resultando em execução prejudicial ou não autorizada.
Malware infostealer está no centro de um ciberataque
Os ciberataques são meticulosamente planejados com base em um conjunto de técnicas e táticas metodológicas na seguinte ordem: reconhecimento, armamento, distribuição, exploração, conexão, comando e controle, e ações em alvos. O atacante obtém acesso, estabelece um ponto de apoio na fase de conexão (ou instalação) e mantém acesso ao ambiente comprometido por meio de um canal de comando e controle.
Malware infostealer entra em cena durante as fases intermediárias. Esse tipo de software malicioso foi especificamente desenvolvido para extrair dados sensíveis de um sistema comprometido. Os dados roubados podem ser vendidos no mercado negro ou usados para chantagear vítimas, onde o atacante ameaça divulgá-los a menos que a vítima pague um resgate. Se os dados incluem nomes de usuário, senhas ou chaves privadas, o cibercriminoso pode avançar em seu ataque usando esses dados para comprometer outros sistemas.
Malware infostealer comprometeu recentemente 16 bilhões de credenciais de login, incluindo senhas de contas do Google, Facebook e Apple, além de outros serviços de mídia social e governo. Pesquisadores denominaram o ataque "um plano para exploração em massa." Com tantos registros de login expostos, cibercriminosos têm acesso sem precedentes a dados que podem usar para roubo de identidade, tomada de conta e phishing altamente direcionado.
O plano da HyperCycle para sistemas de agentes de IA seguros e escaláveis
O vazamento de múltiplos bancos de dados ilustra o efeito dominó de uma falha descentralizada resultante de credenciais roubadas, semelhante às vulnerabilidades enfrentadas por redes de agentes de IA em arquiteturas peer-to-peer. As graves consequências de tais ataques fundamentam a defesa da HyperCycle por autenticação de nó descentralizada e defesas criptográficas. A plataforma, que está avançando na colaboração de sistemas de IA ao projetar infraestrutura para uma rede P2P para sistemas multi-agente, exorta usuários comuns e empresas a adotarem gerenciadores de senhas, autenticação de dois fatores e chaves de acesso para neutralizar riscos de malware.
Além de meras recomendações, a HyperCycle fornece um plano para sistemas de agentes de IA seguros e escaláveis por meio de provas criptográficas. Nós comprometidos ou agentes desonestos podem se passar por outros agentes ou exfiltrar dados, e verificações comportamentais e de identidade robustas são necessárias para mitigar esse risco. Como parte do processo de segurança da internet de agentes de IA, a HyperCycle utiliza Toda/IP, uma arquitetura sem livro-razão com protocolos e provas criptográficas, para garantir a integridade das transações. Provas criptográficas ajudam a prevenir o acesso não autorizado a dados porque dados criptografados são ilegíveis sem chaves criptográficas, independentemente de estarem em repouso, em uso ou em trânsito. As chaves podem ser protegidas usando enclaves seguras ou atestação baseada em hardware.
Agentes podem exigir prova criptográfica de origem, autorização e integridade antes de aceitar entradas ou instruções. Sistemas de identidade criptográfica garantem que cibercriminosos não possam facilmente falsificar agentes ou aplicativos. Provas de conhecimento zero evitam o vazamento de credenciais ao validar direitos de acesso sem expor senhas, tokens, etc. Pode-se verificar dados e comandos assinados para evitar adulteração de carga, ajudando a detectar e rejeitar quaisquer alterações feitas por malware.
O design da plataforma HyperCycle garante não apenas segurança, mas também escalabilidade e velocidade. Sua infraestrutura de rede pode acomodar um número crescente de agentes e serviços de IA sem comprometer o desempenho. Essa interoperabilidade permite que agentes de IA desenvolvidos em diferentes plataformas colaborem e se comuniquem de forma eficaz. Os nós da rede HyperCycle são estabelecidos através de uma Fábrica de Nós, onde eles se auto-replicam, escalando de um nó para 1024 sem custos excessivos. A escalabilidade gera receita para desenvolvedores de IA, tornando-o rentável e eficiente para implantar muitos agentes de IA.
O HyperCycle Explorer permite que os usuários monitorem em tempo real o tempo de atividade e o status da Fábrica de Nós e do ANFE. A plataforma também possibilita o aumento da receita dos agentes de IA ao permitir que os agentes acessem e ofereçam serviços de forma contínua. Cada IA dentro da rede pode gerar mais receita ou melhorar suas próprias capacidades por meio de uma colaboração mais ampla. Essencialmente, a HyperCycle permite que desenvolvedores construam aplicações eficientes e impulsionem o crescimento da receita, garantindo a segurança e integridade dos agentes de IA.
Abordando a falsificação de identidade e a injeção de prompt
Ao ir além das aplicações convencionais de LLM, os agentes de IA integram ferramentas externas que muitas vezes estão incorporadas em diferentes estruturas e linguagens de programação, resultando em uma superfície de ataque ainda mais vasta. As provas criptográficas da Hypercycle podem ajudar a mitigar a falsificação de identidade e a impersonação, onde os atacantes exploram autenticação comprometida ou fraca para se passar por usuários legítimos ou agentes de IA. O roubo de credenciais de agentes permite que os atacantes acessem sistemas, dados ou ferramentas sob uma identidade falsa.
Assinaturas digitais, provas ZK e infraestrutura de chave pública podem ser usadas para verificar a identidade de um usuário ou sistema sem revelar informações sensíveis. Por exemplo, um modelo poderia envolver a assinatura de mensagens recebidas com uma chave privada conhecida para confiar que são de uma entidade específica.
A injeção de prompt ocorre quando atacantes ocultam ou enganam instruções para um sistema de IA generativa, fazendo com que a aplicação se comporte de maneira diferente do que seus desenvolvedores pretendiam. O agente começa a ignorar certas políticas e regras, utilizando ferramentas para tomar ações aparentemente arbitrárias ou divulgar informações sensíveis. Técnicas criptográficas como rastreamento de proveniência de entrada podem garantir que um prompt ou dados não tenham sido adulterados. Assinaturas digitais e outros elementos podem verificar criptograficamente que uma parte específica gerou um determinado prompt ou instrução.
Provas criptográficas também podem ajudar a prevenir ataques como manipulação de metas, que visam a capacidade de um agente de IA de planejar e perseguir metas ao alterar sutilmente seu processo de raciocínio. A manipulação de metas pode se sobrepor à injeção de prompt. O sequestro de agentes é uma tática comum que envolve entradas adversariais distorcendo a capacidade do agente de tomar decisões.
Protocolos criptográficos podem provar que as especificações de metas não foram adulteradas durante a transmissão. Tanto os SNARKs de conhecimento zero quanto a computação verificável estabelecem que um agente seguiu um caminho lógico ou política específica sem ver os dados. Em suma, ferramentas criptográficas podem detectar e frustrar tentativas de alterar uma tarefa assinada ou falsificar a origem de uma meta.
Aumentar a inteligência global da IA é o objetivo final
A HyperCycle facilita a colaboração de IA entre indústrias, melhorando a interoperabilidade, segurança e eficiência com plataformas líderes, como a Web Agente Aberta da Microsoft e o A2A do Google. As empresas podem aproveitar a internet de IA conectada e adaptativa, permitindo que modelos interajam de forma contínua através de redes. A HyperCycle aumenta as oportunidades de compartilhar inteligência entre plataformas, ajudando as organizações a integrar modelos de IA em fluxos de trabalho que abrangem inúmeras estruturas. Isso permite uma tomada de decisão refinada e um melhor acesso a dados, aumentando a inteligência da IA global um nó de cada vez.
O post Como a HyperCycle Combina a Eficiência da IA com a Segurança Criptográfica apareceu primeiro no Metaverse Post.