#opg $OPG @OpenGradient
Mình chưa bao giờ nghĩ về thời gian block khi sử dụng AI. Cho đến khi mình bắt đầu xây dựng với nó.
Lúc bạn cố gắng kết nối một mô hình AI với bất kỳ thứ gì quan trọng về tài chính, vấn đề độ trễ trở nên rõ ràng. Một mô hình thanh lý DeFi mất 12 giây để trả về kết quả vì suy diễn phải xếp hàng sau sự đồng thuận của blockchain thì không phải là một mô hình thanh lý DeFi. Đó chỉ là một thông báo bị trì hoãn về việc cái gì đó đã xảy ra mà không có bạn.
Đây là mâu thuẫn kiến trúc mà hầu hết các dự án AI trên chuỗi không đề cập một cách trung thực. Đặt suy diễn AI trên một blockchain yêu cầu mọi validator phải thực hiện lại mọi phép toán có nghĩa là tốc độ của AI của bạn bị giới hạn bởi validator chậm nhất. Điều đó thì ổn cho những tác vụ có rủi ro thấp. Đối với lý luận tài chính dưới áp lực thời gian, đó là một vấn đề cấu trúc được khoác lên như một sản phẩm.
Điều đã thu hút sự chú ý của mình trong tài liệu của OpenGradient là Kiến trúc Tính toán AI Hybrid, cụ thể là cách nó tách biệt thực thi khỏi xác minh. Các yêu cầu suy diễn đi trực tiếp đến các nút GPU chuyên dụng và trả về với độ trễ giống như web2. Chứng minh và xác nhận được thanh toán không đồng bộ trên một lớp xác minh dành riêng sau đó. Bạn nhận được phản hồi ngay lập tức. Hồ sơ trên chuỗi được theo sau.
Điều này có nghĩa là xác minh yếu hơn không? Không. TEE thực hiện suy diễn bên trong một khu vực phần cứng, ZKML tạo ra một chứng minh không kiến thức song song với suy diễn, và việc thanh toán chứng minh xảy ra sau khi phản hồi đã được trả về. Đảm bảo tin cậy là mã hóa. Tốc độ là thực tiễn.
Phần trung thực: việc thanh toán không đồng bộ có nghĩa là có một khoảng thời gian giữa phản hồi và chứng minh. Đối với hầu hết các trường hợp sử dụng, điều đó thì ổn. Đối với thực thi trên chuỗi nguyên tử, PIPE vẫn đang ở phiên bản alpha.
Nhưng hầu hết cơ sở hạ tầng AI buộc bạn phải chọn giữa nhanh và có thể xác minh. Kiến trúc của OpenGradient là nỗ lực nghiêm túc đầu tiên mà mình thấy từ chối sự đánh đổi đó.
Khi bạn sử dụng AI cho một quyết định nhạy cảm với thời gian, bạn có thực sự biết thời gian mà lớp xác minh đang thêm vào khoảng thời gian đó không?
Mình chưa bao giờ nghĩ về thời gian block khi sử dụng AI. Cho đến khi mình bắt đầu xây dựng với nó.
Lúc bạn cố gắng kết nối một mô hình AI với bất kỳ thứ gì quan trọng về tài chính, vấn đề độ trễ trở nên rõ ràng. Một mô hình thanh lý DeFi mất 12 giây để trả về kết quả vì suy diễn phải xếp hàng sau sự đồng thuận của blockchain thì không phải là một mô hình thanh lý DeFi. Đó chỉ là một thông báo bị trì hoãn về việc cái gì đó đã xảy ra mà không có bạn.
Đây là mâu thuẫn kiến trúc mà hầu hết các dự án AI trên chuỗi không đề cập một cách trung thực. Đặt suy diễn AI trên một blockchain yêu cầu mọi validator phải thực hiện lại mọi phép toán có nghĩa là tốc độ của AI của bạn bị giới hạn bởi validator chậm nhất. Điều đó thì ổn cho những tác vụ có rủi ro thấp. Đối với lý luận tài chính dưới áp lực thời gian, đó là một vấn đề cấu trúc được khoác lên như một sản phẩm.
Điều đã thu hút sự chú ý của mình trong tài liệu của OpenGradient là Kiến trúc Tính toán AI Hybrid, cụ thể là cách nó tách biệt thực thi khỏi xác minh. Các yêu cầu suy diễn đi trực tiếp đến các nút GPU chuyên dụng và trả về với độ trễ giống như web2. Chứng minh và xác nhận được thanh toán không đồng bộ trên một lớp xác minh dành riêng sau đó. Bạn nhận được phản hồi ngay lập tức. Hồ sơ trên chuỗi được theo sau.
Điều này có nghĩa là xác minh yếu hơn không? Không. TEE thực hiện suy diễn bên trong một khu vực phần cứng, ZKML tạo ra một chứng minh không kiến thức song song với suy diễn, và việc thanh toán chứng minh xảy ra sau khi phản hồi đã được trả về. Đảm bảo tin cậy là mã hóa. Tốc độ là thực tiễn.
Phần trung thực: việc thanh toán không đồng bộ có nghĩa là có một khoảng thời gian giữa phản hồi và chứng minh. Đối với hầu hết các trường hợp sử dụng, điều đó thì ổn. Đối với thực thi trên chuỗi nguyên tử, PIPE vẫn đang ở phiên bản alpha.
Nhưng hầu hết cơ sở hạ tầng AI buộc bạn phải chọn giữa nhanh và có thể xác minh. Kiến trúc của OpenGradient là nỗ lực nghiêm túc đầu tiên mà mình thấy từ chối sự đánh đổi đó.
Khi bạn sử dụng AI cho một quyết định nhạy cảm với thời gian, bạn có thực sự biết thời gian mà lớp xác minh đang thêm vào khoảng thời gian đó không?