Trong công nghệ, sai lầm đắt giá nhất thường không phải giải sai bài toán.
Mà là giải rất tốt một bài toán không còn là bottleneck.
AI có thể đang rơi vào trường hợp đó.
Phần lớn cuộc đua hiện nay xoay quanh một giả định: mô hình càng thông minh, giá trị tạo ra càng lớn. Vì vậy ngành tiếp tục đổ thêm compute, dữ liệu và vốn vào intelligence.
Nhưng điều gì xảy ra nếu intelligence không còn là nút thắt lớn nhất?
Nhiều vấn đề quan trọng của AI xuất hiện sau khi câu trả lời đã được tạo ra:
Làm sao biết mô hình nào đã chạy?
Làm sao biết kết quả không bị thay đổi?
Làm sao xác minh thay vì chỉ tin tưởng?
Đó không còn là bài toán intelligence.
Đó là bài toán trust.
OpenGradient được xây dựng trên chính sự tách biệt này. HACA xem execution và verification là hai lớp khác nhau.
Nếu hai lớp đó thực sự độc lập, mô hình mạnh hơn sẽ không tự động tạo ra niềm tin cao hơn.
Đó là một trade-off đáng chú ý.
Tối ưu intelligence giúp AI tạo ra câu trả lời tốt hơn.
Nhưng không giải quyết việc liệu những câu trả lời đó có thể được xác minh hay không.
Một ngành có thể tiếp tục đầu tư vào nơi từng là bottleneck lớn nhất.
Nhưng khi bottleneck thay đổi, chi phí sẽ tăng nhanh hơn giá trị tạo ra.
AI có thể không thiếu những mô hình thông minh hơn.
Nó có thể đang thiếu những hệ thống giúp chúng ta biết khi nào nên tin vào chúng.