De acordo com a PANews, o caso Lilli da McKinsey oferece insights cruciais sobre o desenvolvimento do mercado de IA empresarial, destacando o potencial da computação de edge combinada com pequenos modelos. Este assistente de IA, que integra 100.000 documentos internos, alcançou uma taxa de adoção de 70% entre os funcionários, com um uso médio de 17 vezes por semana, demonstrando uma raridade de aderência do produto em ferramentas empresariais.
Um dos principais desafios é garantir a segurança dos dados para as empresas. Os ativos de conhecimento centenários da McKinsey e dados específicos acumulados por pequenas e médias empresas são altamente sensíveis e não são adequados para processamento em nuvens públicas. Explorar um equilíbrio onde os dados permaneçam locais sem comprometer as capacidades da IA é uma necessidade de mercado, com a computação de edge sendo uma direção promissora.
Modelos pequenos profissionais devem substituir modelos grandes gerais. Usuários empresariais requerem assistentes especializados capazes de abordar com precisão questões específicas de domínio, em vez de modelos gerais com bilhões de parâmetros. A contradição inerente entre a generalidade e a profundidade profissional de grandes modelos torna os pequenos modelos mais atraentes em cenários empresariais.
Equilibrar o custo da infraestrutura de IA construída internamente e chamadas de API é outra consideração. Embora a combinação de computação de edge e pequenos modelos exija um investimento inicial significativo, reduz substancialmente os custos operacionais a longo prazo. Por exemplo, se 45.000 funcionários utilizarem frequentemente grandes modelos de IA via chamadas de API, a dependência e o aumento da escala de uso tornariam a infraestrutura de IA construída internamente uma escolha racional para empresas de médio e grande porte.
O mercado de hardware de edge apresenta novas oportunidades. Embora GPUs de alto desempenho sejam essenciais para o treinamento de grandes modelos, a inferência de edge tem requisitos de hardware diferentes. Fabricantes de chips como Qualcomm e MediaTek estão otimizando processadores para IA de edge, aproveitando oportunidades de mercado. À medida que as empresas buscam desenvolver seu próprio 'Lilli', chips de IA de edge projetados para baixo consumo de energia e alta eficiência se tornarão infraestrutura essencial.
O mercado descentralizado de IA web3 também está se fortalecendo. À medida que as demandas das empresas por poder computacional, ajuste fino e algoritmos em pequenos modelos aumentam, equilibrar a alocação de recursos se torna desafiador. O agendamento de recursos centralizados tradicionais enfrentará dificuldades, criando uma demanda significativa por redes de ajuste fino de pequenos modelos de IA web3 descentralizadas e plataformas de serviços de poder computacional descentralizadas.
Enquanto o mercado continua a discutir os limites das capacidades gerais da AGI, é encorajador ver muitos usuários empresariais já explorando o valor prático da IA. Claramente, mudar o foco da monopolização de recursos em poder computacional e algoritmos para computação de edge e pequenos modelos trará maior vitalidade ao mercado.