Согласно PANews, случай Лилли от McKinsey предоставляет важные сведения о развитии рынка корпоративного ИИ, подчеркивая потенциал краевых вычислений в сочетании с малыми моделями. Этот ИИ-ассистент, который интегрирует 100 000 внутренних документов, достиг 70% уровня принятия среди сотрудников, со средним использованием 17 раз в неделю, демонстрируя редкую приверженность продукту в корпоративных инструментах.
Одной из основных проблем является обеспечение безопасности данных для предприятий. Столетние основные активы знаний McKinsey и специфические данные, накопленные малыми и средними предприятиями, являются высокочувствительными и не подходят для обработки в публичных облаках. Исследование баланса, при котором данные остаются локальными, не компрометируя возможности ИИ, является рыночной необходимостью, при этом краевые вычисления являются многообещающим направлением.
Ожидается, что профессиональные малые модели заменят общие крупные модели. Корпоративные пользователи требуют специализированных ассистентов, способных точно решать специфические проблемы в определенных областях, а не общих моделей с миллиардами параметров. Внутреннее противоречие между общностью и профессиональной глубиной крупных моделей делает малые модели более привлекательными в корпоративных сценариях.
Балансировка затрат на самостоятельно построенную инфраструктуру ИИ и вызовы API является еще одним соображением. Хотя сочетание краевых вычислений и малых моделей требует значительных первоначальных инвестиций, оно существенно снижает долгосрочные операционные расходы. Например, если 45 000 сотрудников часто используют крупные модели ИИ через вызовы API, зависимость и увеличенный масштаб использования сделают самостоятельно построенную инфраструктуру ИИ разумным выбором для средних и крупных предприятий.
Рынок аппаратного обеспечения на краю сети представляет новые возможности. Хотя высококачественные графические процессоры необходимы для обучения крупных моделей, требования к аппаратному обеспечению для инференса на краю сети различны. Производители чипов, такие как Qualcomm и MediaTek, оптимизируют процессоры для краевого ИИ, используя рыночные возможности. Поскольку компании стремятся разрабатывать свои собственные 'Лилли', чипы краевого ИИ, предназначенные для низкого потребления энергии и высокой эффективности, станут необходимой инфраструктурой.
Рынок децентрализованного веб3 ИИ также укрепляется. Поскольку спрос предприятий на вычислительную мощность, тонкую настройку и алгоритмы в малых моделях возрастает, балансировка распределения ресурсов становится сложной задачей. Традиционное централизованное распределение ресурсов столкнется с трудностями, создавая значительный спрос на децентрализованные сети тонкой настройки малых моделей веб3 ИИ и платформы услуг децентрализованной вычислительной мощности.
Хотя рынок продолжает обсуждать границы общих возможностей AGI, приятно видеть, что многие корпоративные пользователи уже исследуют практическую ценность ИИ. Ясно, что смещение акцента с монополизации ресурсов в вычислительной мощности и алгоритмах на краевую обработку и малые модели принесет большую рыночную жизнеспособность.