Secondo PANews, il caso Lilli di McKinsey offre importanti spunti sullo sviluppo del mercato dell'IA aziendale, evidenziando il potenziale dell'edge computing combinato con piccoli modelli. Questo assistente IA, che integra 100.000 documenti interni, ha raggiunto un tasso di adozione del 70% tra i dipendenti, con un utilizzo medio di 17 volte a settimana, dimostrando una rara aderenza del prodotto negli strumenti aziendali.
Una delle principali sfide è garantire la sicurezza dei dati per le imprese. Le risorse di conoscenza fondamentali di McKinsey, accumulate in un secolo, e i dati specifici accumulati dalle piccole e medie imprese sono altamente sensibili e non adatti per l'elaborazione su cloud pubblici. Esplorare un equilibrio in cui i dati rimangono locali senza compromettere le capacità dell'IA è una necessità di mercato, con l'edge computing che rappresenta una direzione promettente.
Si prevede che i piccoli modelli professionali sostituiranno i grandi modelli generali. Gli utenti aziendali richiedono assistenti specializzati in grado di affrontare con precisione problemi specifici del dominio, piuttosto che modelli generali con miliardi di parametri. La contraddizione intrinseca tra la generalità e la profondità professionale dei grandi modelli rende i piccoli modelli più attraenti negli scenari aziendali.
Bilanciare il costo dell'infrastruttura IA costruita in proprio e le chiamate API è un'altra considerazione. Sebbene la combinazione di edge computing e piccoli modelli richieda un investimento iniziale significativo, riduce sostanzialmente i costi operativi a lungo termine. Ad esempio, se 45.000 dipendenti utilizzano frequentemente modelli di grandi dimensioni IA tramite chiamate API, la dipendenza e l'aumento della scala d'uso renderebbero l'infrastruttura IA costruita in proprio una scelta razionale per le imprese di medie e grandi dimensioni.
Il mercato dell'hardware edge presenta nuove opportunità. Mentre le GPU di alta gamma sono essenziali per l'addestramento di grandi modelli, l'inferenza edge ha requisiti hardware diversi. I produttori di chip come Qualcomm e MediaTek stanno ottimizzando i processori per l'IA edge, cogliendo le opportunità di mercato. Poiché le imprese mirano a sviluppare il proprio 'Lilli', i chip di IA edge progettati per un basso consumo energetico e un'alta efficienza diventeranno un'infrastruttura essenziale.
Il mercato dell'IA web3 decentralizzata sta anche rafforzandosi. Poiché le richieste delle imprese per la potenza di calcolo, il fine-tuning e gli algoritmi nei piccoli modelli aumentano, bilanciare l'allocazione delle risorse diventa difficile. La pianificazione delle risorse centralizzate tradizionali affronterà difficoltà, creando una domanda significativa per le reti di fine-tuning di piccoli modelli IA web3 decentralizzati e le piattaforme di servizi di potenza di calcolo decentralizzati.
Mentre il mercato continua a discutere i confini delle capacità generali dell'AGI, è incoraggiante vedere molti utenti aziendali già esplorare il valore pratico dell'IA. Chiaramente, spostare l'attenzione dalla monopolizzazione delle risorse nella potenza di calcolo e negli algoritmi all'edge computing e ai piccoli modelli porterà a una maggiore vitalità del mercato.