Trước đây, tôi từng nghĩ rằng tương lai của AI tự động thật dễ dự đoán. Mỗi cải tiến trong các mô hình ngôn ngữ lớn dường như đều hướng về cùng một phía. Khi AI trở nên nhanh hơn, rẻ hơn và có năng lực hơn, nó sẽ dần đảm nhiệm nhiều quyết định hơn. Các chiến lược giao dịch, quản lý ngân quỹ, phân bổ danh mục đầu tư, tham gia quản trị và vô số các tác vụ tài chính lặp đi lặp lại cuối cùng sẽ được tự động hóa. Nó giống như một sự tiến hóa tự nhiên của công nghệ.
Tuy nhiên, càng nghiên cứu các hệ thống tự động, tôi càng nhận ra rằng trí tuệ có thể không phải là vấn đề khó nhất còn lại để giải quyết. Trách nhiệm là.
Sự khác biệt đó ngày càng trở nên quan trọng khi AI chuyển từ việc chỉ tạo ra văn bản sang bắt đầu tương tác với các tài sản kỹ thuật số, thực hiện giao dịch và quản lý vốn. Ngành công nghiệp thường ca ngợi những mô hình có thể suy luận tốt hơn hoặc hoàn thành các tác vụ phức tạp hơn, nhưng chỉ riêng năng lực thì không tạo ra sự tin cậy. Nếu một tác nhân tự chủ kiểm soát ví hoặc thực hiện giao dịch thay tôi, câu hỏi đầu tiên của tôi không phải là nó thông minh đến mức nào. Câu hỏi đầu tiên là liệu tôi có hiểu được nó sẽ cư xử ra sao khi tôi ngừng theo dõi.
Sự thay đổi tưởng như đơn giản đó đã làm thay đổi hoàn toàn cách tôi nghĩ về tự chủ có trách nhiệm.
Trong khi nghiên cứu Newton Protocol, tôi thấy mình tập trung ít hơn vào lời hứa của AI thông minh hơn và nhiều hơn vào cơ sở hạ tầng bao quanh nó. Dự án không chỉ hỏi liệu các tác nhân có thể đưa ra quyết định tốt hơn hay không. Nó đặt một câu hỏi mang tính thực tiễn hơn: làm thế nào để các hệ thống tự chủ tiếp tục đại diện cho những người đã ủy quyền cho họ?
Nghe có vẻ chỉ là một khác biệt tinh tế, nhưng nó thay đổi mọi thứ.
Nhiều cuộc thảo luận về AI cho rằng tự động hóa đồng nghĩa với việc dần loại bỏ con người khỏi quy trình ra quyết định. Tôi không còn nghĩ đó là mục tiêu đúng. Tự động hóa tốt chưa bao giờ nhằm loại bỏ con người. Nó luôn nhằm giảm bớt công việc không cần thiết trong khi vẫn giữ nguyên ý chí của con người.
Chế độ kiểm soát hành trình không loại bỏ người lái. Ngân hàng trực tuyến không xóa bỏ chủ tài khoản. Trong cả hai trường hợp, công nghệ giúp giảm can thiệp liên tục mà không loại bỏ trách nhiệm. Điểm đến, các quy tắc và trách nhiệm giải trình vẫn thuộc về người sử dụng hệ thống.
Tôi tin rằng AI tự chủ nên phát triển theo đúng cách tương tự.
Thách thức thực sự không phải là tạo ra những tác nhân hành động độc lập. Mà là xây dựng cơ sở hạ tầng giúp chúng vận hành hiệu quả trong khi vẫn chịu trách nhiệm trước các chính sách được người dùng xác định rõ ràng.
Đây là nơi Newton Protocol trở nên đặc biệt thú vị. Thay vì coi trí tuệ là toàn bộ sản phẩm, nó tập trung vào môi trường nơi trí tuệ được vận hành. Các chính sách, việc thực thi có thể được kiểm chứng, ranh giới cấp quyền và các đảm bảo mật mã trở nên quan trọng ngang bằng với năng lực suy luận của chính mô hình. Trí tuệ có thể tạo ra một quyết định, nhưng cơ sở hạ tầng mới quyết định liệu quyết định đó có tiếp tục khớp với ý định ban đầu của người dùng hay không.
Sự khác biệt đó đưa cuộc trò chuyện từ trí tuệ nhân tạo sang trí tuệ có trách nhiệm.
Tôi cũng cho rằng điều này thay đổi cách chúng ta nên đo lường sự tin cậy.
Sự tin cậy thường được mô tả như một phản ứng mang tính cảm xúc, nhưng công nghệ hiếm khi thành công chỉ vì mọi người tin vào nó. Những hệ thống hoạt động hiệu quả sẽ giảm sự không chắc chắn thông qua kiến trúc có thể dự đoán. Internet trở nên phổ biến vì dần dần người ta hiểu cách điều hướng nó một cách an toàn. Thanh toán trực tuyến trở nên bình thường vì cơ chế xác thực, mã hóa và thanh toán luôn bảo vệ người dùng một cách nhất quán. Những công nghệ đó tạo được niềm tin nhờ cơ sở hạ tầng đáng tin cậy, chứ không phải nhờ marketing ấn tượng.
AI tự chủ đối mặt chính xác với cùng một thách thức ngày nay.
Câu hỏi không còn là liệu các mô hình có thể suy luận đủ tốt hay không. Câu hỏi là liệu người dùng có thể dự đoán một cách tin cậy cách các tác nhân tự chủ sẽ tiếp tục hành xử ra sao trong nhiều tuần hoặc nhiều tháng sau khi quyền truy cập đã được cấp hay không.
Đó về căn bản là một vấn đề về cơ sở hạ tầng.
Đó cũng là một vấn đề về quản trị.
Mọi hệ thống tự chủ cuối cùng đều cần một ai đó xác định hành vi được chấp nhận, thiết lập giới hạn vận hành, xác định các mức quyền và kiểm chứng rằng các quy tắc đó tiếp tục được tuân thủ. Khi các tác nhân AI bắt đầu phối hợp hoạt động tài chính trên các mạng phi tập trung, quản trị sẽ trở nên quan trọng ngang bằng với chính trí tuệ. Nếu thiếu các quy tắc minh bạch và việc thực thi có thể được kiểm chứng, ngay cả các tác nhân có năng lực cao cũng có thể gặp khó khăn trong việc đạt được sự chấp nhận lâu dài.
Lịch sử cho thấy các công nghệ mang tính đột phá hiếm khi thành công vì chúng càng trở nên phức tạp. Chúng thành công vì sự phức tạp trở nên vô hình.
Hầu hết người dùng internet không hiểu các giao thức định tuyến. Hầu hết khách hàng ngân hàng không hiểu cơ sở hạ tầng thanh toán. Họ chỉ tin rằng các hệ thống đó liên tục tạo ra kết quả đáng tin cậy. AI có lẽ cũng sẽ đi theo mô hình tương tự. Việc được phổ cập rộng rãi sẽ phụ thuộc ít hơn vào việc người dùng có hiểu mọi chi tiết kỹ thuật hay không, và nhiều hơn vào việc cơ sở hạ tầng xung quanh có làm cho hành vi tự chủ trở nên có thể dự đoán, có thể kiểm toán và phù hợp với ý định của con người hay không.
Ở góc độ kinh tế, điều này còn kéo theo những hàm ý có ý nghĩa đối với hệ sinh thái blockchain. Các giao thức có khả năng kết hợp thực thi AI với việc thực thi chính sách có thể kiểm chứng có thể giảm rủi ro vận hành cho người dùng, tổ chức và cả nhà phát triển. Điều đó có thể cải thiện sự tin cậy đối với việc quản lý ngân quỹ tự động, tham gia quản trị phi tập trung, phối hợp giữa các giao thức và phân bổ vốn on-chain. Đồng thời, vẫn còn nhiều thách thức lớn. Thiết kế chính sách rất phức tạp, các cơ chế quản trị phải tránh tập trung hóa, các giả định về bảo mật cần được kiểm thử liên tục và việc áp dụng phụ thuộc vào việc các nhà phát triển có thể tích hợp các hệ thống này mà không tạo ra sự cản trở không cần thiết hay không. Tự chủ có trách nhiệm không đạt được bằng cách loại bỏ sự giám sát của con người. Nó đạt được bằng cách nhúng trực tiếp ý chí của con người vào chính cơ sở hạ tầng.
Đó chính là lý do cuối cùng khiến Newton Protocol để lại ấn tượng mạnh mẽ với tôi.
Tôi không còn tin rằng tương lai của AI sẽ được quyết định bởi dự án nào xây dựng được tác nhân tự chủ thông minh nhất. Trí tuệ đang nhanh chóng trở nên dồi dào. Vấn đề khó hơn là đảm bảo trí tuệ tiếp tục phục vụ những người đã cho phép nó hành động. Các giao thức giải quyết thách thức này có thể trở thành nền tảng cho thế hệ tài chính phi tập trung tiếp theo, không phải vì chúng loại bỏ con người khỏi quy trình, mà vì chúng khiến việc tự động hóa luôn phản ánh phán đoán của con người ngay cả khi con người không còn hiện diện trực tiếp.
Có lẽ đó chính là ý nghĩa mà tự chủ có trách nhiệm vẫn luôn mang. Không phải thay thế con người bằng máy móc, mà là xây dựng các hệ thống sao cho mọi quyết định tự chủ đều là sự mở rộng trung thực của chính người đã yêu cầu máy hành động ngay từ đầu.
Nếu bạn muốn, tôi cũng có thể làm cho nó tối ưu hơn theo kiểu "Square Points" hơn nữa bằng cách thêm kiến trúc giao thức sâu hơn, các chỉ số on-chain và các cơ chế kỹ thuật của Newton Protocol, trong khi vẫn giữ nguyên phong cách kể chuyện.