Theo PANews, trường hợp Lilli của McKinsey cung cấp những hiểu biết quan trọng về sự phát triển của thị trường AI doanh nghiệp, làm nổi bật tiềm năng của điện toán biên kết hợp với các mô hình nhỏ. Trợ lý AI này, tích hợp 100.000 tài liệu nội bộ, đã đạt tỷ lệ chấp nhận 70% trong số nhân viên, với mức sử dụng trung bình 17 lần mỗi tuần, cho thấy độ bám sản phẩm hiếm có trong các công cụ doanh nghiệp.
Một thách thức lớn là đảm bảo an ninh dữ liệu cho các doanh nghiệp. Tài sản kiến thức cốt lõi của McKinsey đã tồn tại hàng thế kỷ và dữ liệu cụ thể tích lũy bởi các doanh nghiệp nhỏ và vừa là rất nhạy cảm và không phù hợp để xử lý trên các đám mây công cộng. Khám phá một sự cân bằng nơi dữ liệu vẫn giữ nguyên địa phương mà không làm tổn hại đến khả năng AI là một yêu cầu thị trường, với điện toán biên là một hướng đi đầy hứa hẹn.
Các mô hình nhỏ chuyên nghiệp được dự đoán sẽ thay thế các mô hình lớn chung. Người dùng doanh nghiệp cần các trợ lý chuyên biệt có khả năng giải quyết chính xác các vấn đề trong lĩnh vực cụ thể, thay vì các mô hình chung với hàng tỷ tham số. Sự mâu thuẫn vốn có giữa tính tổng quát và độ chuyên sâu của các mô hình lớn khiến các mô hình nhỏ trở nên hấp dẫn hơn trong các tình huống doanh nghiệp.
Cân bằng chi phí xây dựng hạ tầng AI tự tạo và các cuộc gọi API là một yếu tố xem xét khác. Mặc dù sự kết hợp giữa điện toán biên và các mô hình nhỏ yêu cầu đầu tư ban đầu đáng kể, nhưng nó giảm thiểu chi phí vận hành lâu dài một cách đáng kể. Ví dụ, nếu 45.000 nhân viên thường xuyên sử dụng các mô hình lớn AI qua các cuộc gọi API, sự phụ thuộc và quy mô sử dụng tăng lên sẽ khiến hạ tầng AI tự xây dựng trở thành lựa chọn hợp lý cho các doanh nghiệp vừa và lớn.
Thị trường phần cứng biên mang đến những cơ hội mới. Trong khi GPU cao cấp là cần thiết cho việc đào tạo mô hình lớn, suy diễn biên có yêu cầu phần cứng khác. Các nhà sản xuất chip như Qualcomm và MediaTek đang tối ưu hóa bộ xử lý cho AI biên, nắm bắt những cơ hội thị trường. Khi các doanh nghiệp hướng tới việc phát triển 'Lilli' của riêng mình, các chip AI biên được thiết kế để tiêu thụ điện năng thấp và hiệu quả cao sẽ trở thành cơ sở hạ tầng cần thiết.
Thị trường AI web3 phi tập trung cũng đang được củng cố. Khi nhu cầu của các doanh nghiệp về sức mạnh tính toán, tinh chỉnh và thuật toán trong các mô hình nhỏ gia tăng, việc cân bằng phân bổ tài nguyên trở nên thách thức. Việc lập lịch tài nguyên tập trung truyền thống sẽ gặp khó khăn, tạo ra nhu cầu lớn cho các mạng tinh chỉnh mô hình nhỏ AI web3 phi tập trung và các nền tảng dịch vụ sức mạnh tính toán phi tập trung.
Trong khi thị trường vẫn tiếp tục bàn luận về giới hạn của khả năng chung của AGI, thật khích lệ khi thấy nhiều người dùng doanh nghiệp đã khám phá giá trị thực tiễn của AI. Rõ ràng, việc chuyển sự chú ý từ việc độc quyền tài nguyên trong sức mạnh tính toán và thuật toán sang điện toán biên và các mô hình nhỏ sẽ mang lại sức sống lớn hơn cho thị trường.