O CEO da Okta, Todd McKinnon, está alertando sobre os problemas de segurança com a inteligência artificial à medida que ela passa de modelos de teste para ser usada em situações reais. Ele enfatizou fortemente a necessidade urgente de sistemas de segurança baseados em identidade que possam controlar o que os agentes de IA podem acessar.
Em uma recente entrevista com Jim Cramer da CNBC, McKinnon enfatizou que, à medida que os agentes de IA transitam de protótipos para ambientes de produção, eles introduzem novos desafios de cibersegurança que as organizações devem abordar com urgência.
Agentes de IA agora operam em sistemas reais e devem ter acesso seguro e controlado
McKinnon disse às empresas que usam agentes de IA em ambientes de negócios reais para tratar os sistemas como colegas de trabalho. Ele explica que mover a IA para a 'produção' dá a esses agentes acesso real a sistemas ao vivo que contêm informações privadas de clientes, arquivos internos e dados de negócios.
Isso vem com grandes riscos de segurança que as empresas não podem se dar ao luxo de ignorar.
McKinnon alerta que os sistemas de IA agora podem agir de forma independente e tomar decisões não supervisionadas que podem levar a acessos não autorizados, vazamentos de dados ou uso acidental de informações. Ele aconselha que a única maneira de lidar com esses riscos de forma segura é utilizando sistemas de monitoramento que verifiquem quem ou o que está tentando acessar os dados. Esses sistemas só permitem acesso se o indivíduo ou agente de IA for confiável, verificado e tiver permissão.
McKinnon diz que a gestão de identidade da Okta permite que as empresas gerenciem, rastreiem e controlem o acesso para todos os tipos de usuários, incluindo agentes de IA.
A Okta continua cautelosa com suas previsões mesmo após relatar fortes ganhos
A Okta reportou ganhos e receitas melhores do que o esperado para o trimestre, mas não aumentou sua previsão de receita para os próximos trimestres. Em vez disso, a Okta manteve uma perspectiva cautelosa e conservadora que fez as ações da empresa caírem mais de 11% durante o pregão após o fechamento.
McKinnon disse que é difícil planejar o crescimento futuro com total confiança devido ao clima econômico global imprevisível.
Ele disse que a liderança da Okta permanecerá centrada, planejará cuidadosamente e protegerá a posição da empresa em vez de perseguir objetivos de curto prazo de forma muito agressiva.
Dessa forma, a Okta se ajustará quando as condições de mercado nas indústrias onde os orçamentos dos clientes e os ciclos de investimento em tecnologia continuarem mudando.
McKinnon também apontou que os investidores podem se sentir frustrados quando empresas como a Okta não aceleram imediatamente o crescimento após reportar resultados fortes.
Todd disse que as empresas devem evitar erros ao construir sistemas de identidade seguros e escaláveis que funcionem entre usuários humanos e sistemas de IA.
Especialistas alertam para cautela com IA enquanto a Okta busca um futuro seguro
As empresas de inteligência artificial foram instadas a replicar os cálculos de segurança que fundamentaram o primeiro teste nuclear de Robert Oppenheimer antes de liberar sistemas todos-poderosos.
Max Tegmark, uma voz proeminente em segurança de IA, disse que realizou cálculos semelhantes aos do físico americano Arthur Compton antes do teste Trinity e encontrou uma probabilidade de 90% de que uma IA altamente avançada representaria uma ameaça existencial.
McKinnon também explicou que forçar o crescimento muito rapidamente dificultará que uma empresa suporte adequadamente novos clientes. Mesmo assim, ele destacou sua empolgação com a direção que a empresa está tomando e enfatizou que paciência e disciplina mantêm a empresa forte. A Okta está pensando além do próximo trimestre e se preparando para liderar em um futuro onde a IA e a gestão segura de identidade andarão lado a lado.
Suas notícias de criptomoedas merecem atenção - a KEY Difference Wire coloca você em mais de 250 sites principais