O CEO da Okta, Todd McKinnon, levantou sérias preocupações sobre os riscos de segurança sendo desencadeados pela inteligência artificial à medida que ela sai de laboratórios experimentais e entra em aplicações comerciais do mundo real.
Em uma recente entrevista, McKinnon disse a Jim Cramer da CNBC que sistemas de segurança robustos baseados em identidade serão necessários para gerenciar o crescente risco associado a ambientes ao vivo e inteligência artificial.
A implementação da IA levanta novos desafios de segurança
À medida que os agentes de IA passam de ambientes de teste para funções reais, eles terão acesso em tempo real a sistemas altamente sensíveis que incluem informações confidenciais de clientes, arquivos internos e dados de negócios, disse McKinnon. Isso é semelhante, disse ele, a trazer a IA para a produção, o que é semelhante a trazer novos colegas de trabalho que você vai monitorar de perto.
Se não forem cuidadosamente protegidos, esses sistemas poderiam automaticamente tomar decisões que resultem em vazamentos de dados, permitindo acesso não autorizado a essas informações, ou utilizando-as de maneiras não intencionais. As empresas precisam de sistemas de monitoramento avançados que monitorem e controlem a implantação de agentes de IA, para que os agentes de IA tenham acesso ao sistema apenas com base em uma identidade confiável e autorizada, disse McKinnon.
A abordagem da Okta para segurança em IA e estratégia de crescimento
A Okta registrou ganhos e receitas mais fortes do que o esperado no trimestre recente, mas manteve uma perspectiva conservadora para o crescimento futuro. Isso fez com que as ações despencassem mais de 11% nas negociações após o expediente. Esse não é o tipo de crescimento que você pode prever com confiança em um ambiente econômico global imprevisível, disse McKinnon.
Ele disse que o foco da Okta na estabilidade superará a expansão agressiva. A empresa planeja para o longo prazo com um crescimento lento e constante para defender sua posição no mercado. Ele também disse que descartar sistemas de identidade usados tanto por usuários humanos quanto por agentes de IA poderia causar erros operacionais.
Advertências da indústria enquanto a Okta se prepara para um futuro impulsionado pela IA
As preocupações de McKinnon foram ecoadas por especialistas da indústria, que alertaram que a implantação de IA avançada, como o Autofac, tem prioridade sobre a velocidade. No mês passado, Max Tegmark, uma voz proeminente em segurança de IA, sugeriu que o desenvolvimento de sistemas de IA que sejam estáveis o suficiente poderia ter uma alta probabilidade de apresentar risco existencial, semelhante a como os cálculos de risco foram feitos antes do primeiro teste nuclear. No entanto, equilibrar a adoção de IA com proteções de segurança baseadas em identidade é crucial, segundo McKinnon.
A Okta está pronta para liderar neste espaço, fornecendo soluções escaláveis para a gestão de acesso seguro de usuários humanos e agentes de IA, disse ele. McKinnon apontou que, à medida que a tecnologia de IA se desenvolve, as organizações precisam garantir planejamento cuidadoso, paciência e disciplina para permanecer resilientes. A Okta é otimista sobre o futuro, mas está focada em construir sistemas que sejam seguros em um mundo de IA que só se tornará mais IA e mais tecnologia.
O post CEO da Okta emite aviso sobre os riscos de segurança da IA apareceu pela primeira vez na Coinfea.