Verifiable Inference có thể quan trọng hơn chính mô hình AI.
Phần lớn giá trị của AI hiện nay được gắn với khả năng tạo ra kết quả. Mô hình tốt hơn tạo ra câu trả lời tốt hơn. Compute mạnh hơn tạo ra hiệu suất tốt hơn. Vì vậy, phần lớn cuộc đua AI đang tập trung vào việc cải thiện chất lượng đầu ra.
Nhưng khi AI bắt đầu trở thành hạ tầng cho agent và các hệ thống tự động, giá trị không còn nằm hoàn toàn ở kết quả.
Nó nằm ở khả năng chứng minh kết quả đó được tạo ra như thế nào.
Đây là giả định nằm sau nhiều quyết định kiến trúc của @OpenGradient .
Trong phần lớn hệ thống AI, tốc độ và khả năng xác minh là một trade-off. Hệ thống càng nhanh, người dùng càng phải tin vào nơi thực thi. Hệ thống càng dễ xác minh, chi phí và độ trễ càng tăng. Điều này buộc nhiều ứng dụng phải lựa chọn giữa hiệu suất và trust.
OpenGradient không cố tối ưu cả hai trong cùng một lớp. HACA tách compute và verification thành hai hệ thống độc lập. Inference được tối ưu cho hiệu suất. Verification được tối ưu cho khả năng chứng minh. Trust không còn là thứ phải đánh đổi để lấy tốc độ.
Nếu hướng tiếp cận đó là đúng, mô hình sẽ không còn là nguồn giá trị duy nhất của AI.
AI có thể không được định giá bởi thứ nó tạo ra.
Mà bởi thứ nó có thể chứng minh.