Tôi cứ thấy mọi người nói về AI như thể toàn bộ tương lai phụ thuộc vào việc ai xây dựng mô hình thông minh nhất.
Cuộc trò chuyện luôn quay vòng quanh những điều giống nhau.
Mô hình lớn hơn.
Nhiều tham số hơn.
Suy diễn nhanh hơn.
Tính toán rẻ hơn.
Lý do tốt hơn.
Và đừng hiểu lầm tôi, những thứ đó quan trọng.
Nhưng gần đây tôi bắt đầu tự hỏi liệu chúng ta có đang chú ý đến lớp không đúng của nền kinh tế AI hay không.
Bởi vì trí thông minh không xuất hiện từ hư không.
Mỗi mô hình được xây dựng dựa trên một cái gì đó sâu hơn.
Dữ liệu.
Kiến thức con người.
Hành vi con người.
Các quyết định của con người.
Năng lực chuyên môn của con người.
Nếu không có những đầu vào đó, ngay cả mô hình tiên tiến nhất cũng chỉ là một khung trống chờ để học.
Tuy nhiên, khi mọi người thảo luận về tương lai của AI, phần lớn sự chú ý lại đổ vào các công ty xây dựng mô hình, thay vì các cộng đồng tạo ra tri thức khiến các mô hình đó trở nên hữu ích.
Điều đó có vẻ kỳ lạ.
Hãy tưởng tượng một nền kinh tế nơi hàng triệu người tạo ra giá trị mỗi ngày, nhưng gần như không ai trong số họ có thể chứng minh sự đóng góp của mình sau đó.
Liệu hệ thống đó có còn bền vững không?
Tôi không chắc.
Càng nghĩ tôi càng thấy giai đoạn tiếp theo của AI có lẽ ít liên quan đến bản thân trí tuệ hơn, và nhiều hơn đến quyền sở hữu.
Không phải là quyền sở hữu theo nghĩa truyền thống.
Quyền sở hữu đối với sự đóng góp.
Quyền sở hữu ảnh hưởng.
Quyền sở hữu đối với việc tạo ra giá trị.
Bởi vì khi AI được tích hợp sâu vào doanh nghiệp, giáo dục, y tế, tài chính và các quyết định hằng ngày, một câu hỏi khó khăn bắt đầu xuất hiện.
Ai xứng đáng được ghi công?
Thoạt nhìn, điều đó nghe có vẻ đơn giản.
Công ty đã xây dựng mô hình đó.
Nhà phát triển đã huấn luyện nó.
Tổ chức đã triển khai nó.
Nhưng bạn càng đi sâu, câu trả lời càng trở nên khó.
Một mô hình học từ vô số nguồn.
Các nhà văn.
Các nhà nghiên cứu.
Những chuyên gia.
Các cộng đồng.
Các bộ dữ liệu công khai.
Các bộ dữ liệu tư nhân.
Những năm tháng tích lũy tri thức của con người.
Đầu ra cuối cùng có thể trông như đến từ một cỗ máy, nhưng các nguyên liệu lại đến từ con người.
Điều đó tạo ra một thách thức thú vị.
Làm thế nào để đo lường sự đóng góp trong một thế giới mà trí tuệ ngày càng mang tính tập thể?
Và quan trọng hơn, làm sao để bạn khen thưởng cho điều đó?
Công nghệ thường được mô tả như một vấn đề kỹ thuật.
Lịch sử cho thấy điều ngược lại.
Nhiều công nghệ thành công hay thất bại không phải vì kỹ thuật, mà vì động lực (lợi ích).
Kiến trúc mạnh mẽ nhất không phải lúc nào cũng chiến thắng.
Hệ thống liên kết các người tham gia thường là cái làm được điều đó.
Vì vậy, thiết kế động lực (incentive design) khiến tôi say mê hơn nhiều so với các thông số kỹ thuật.
Con người thích nghi.
Con người tối ưu hóa.
Con người đuổi theo phần thưởng.
Mỗi hệ sinh thái cuối cùng cũng phản ánh những động lực được xây dựng trong nó.
Nếu người đóng góp cảm thấy mình bị bỏ qua, mức độ tham gia sẽ giảm.
Nếu giá trị chảy không công bằng, niềm tin sẽ biến mất.
Nếu quyền sở hữu vẫn bị tập trung, thì phi tập trung chỉ còn hơn cả một khẩu hiệu.
Ngành công nghiệp AI cuối cùng có thể sẽ đối mặt với cùng một thực tế đó.
Bởi vì dữ liệu không chỉ là nhiên liệu.
Đó là đầu vào kinh tế.
Và các đầu vào kinh tế có xu hướng đòi hỏi sự ghi nhận theo thời gian.
Một điều khác cứ liên tục hiện lên trong đầu tôi là khả năng tiếp cận.
Xây dựng các hệ thống AI tiên tiến đòi hỏi nguồn lực khổng lồ.
Tính toán (compute) rất đắt.
Cơ sở hạ tầng rất tốn kém.
Việc phân phối rất tốn kém.
Kết quả là, quyền lực tự nhiên tập trung quanh những tổ chức có nguồn vốn đáng kể.
Sự tập trung đó không nhất thiết là độc ác.
Đó đơn giản là cách vận hành của kinh tế.
Nhưng sự tập trung tạo ra các sự đánh đổi (trade-off).
Phát triển càng tập trung thì minh bạch càng trở nên quan trọng.
Con người muốn hiểu hệ thống được huấn luyện như thế nào.
Dữ liệu xuất phát từ đâu.
Ai được hưởng lợi.
Ai bị loại trừ.
Những câu hỏi đó trở nên quan trọng hơn khi AI tiến gần hơn tới các phần then chốt của xã hội.
Và đó không chỉ là những câu hỏi thuần kỹ thuật.
Đó là những câu hỏi về quản trị (governance).
Các câu hỏi về kinh tế.
Những câu hỏi của con người.
Điều thú vị là nhiều dự án mới nổi dường như nhận ra thách thức này.
Thay vì chỉ tập trung vào hiệu năng của mô hình, họ đang khám phá các ý tưởng về quyังกết/ghi nhận đóng góp (attribution), minh bạch và sự tham gia của người đóng góp.
Liệu các thí nghiệm đó có thành công hay không vẫn chưa rõ.
Xây dựng một hệ thống công bằng khó hơn nhiều so với việc mô tả nó.
Thị trường thì lộn xộn.
Con người khó đoán.
Mọi người tìm kiếm lỗ hổng.
Mọi cơ chế phần thưởng đều thu hút tối ưu hóa.
Đôi khi là tối ưu hóa lành mạnh.
Đôi khi là tối ưu hóa mang tính phá hoại.
Vì vậy, bài kiểm tra thực sự của bất kỳ hệ sinh thái nào không phải là điều gì xảy ra trong giai đoạn tăng trưởng.
Đó là điều xảy ra khi các động lực bị đặt vào thế chịu áp lực.
Chất lượng có được duy trì không?
Làm sao để ngăn cản được kẻ xấu?
Liệu người đóng góp có thể vẫn được động viên không?
Việc phân phối giá trị có còn đáng tin không?
Những câu hỏi đó quyết định tuổi thọ.
Và tuổi thọ cuối cùng là thứ tách hạ tầng (infrastructure) khỏi trào lưu (hype).
Chu kỳ AI hiện tại nhắc tôi nhớ đến các đợt bùng nổ công nghệ trước đây.
Sự phấn khích đến trước.
Vốn sẽ đi theo.
Sự chú ý bùng nổ.
Kỳ vọng tăng lên.
Rồi thực tế bắt đầu phân loại những ý tưởng bền vững khỏi những câu chuyện tạm thời.
Một số dự án biến mất.
Một số phát triển theo hướng khác.
Một vài người trở thành nền tảng.
Thách thức là xác định một thứ thuộc nhóm nào trước khi thị trường đạt được sự đồng thuận.
Điều đó không bao giờ dễ dàng.
Nhưng có một điều ngày càng trở nên rõ ràng với tôi.
Nền kinh tế AI tương lai có thể sẽ không chỉ được quyết định bởi ai xây dựng được trí tuệ mạnh mẽ nhất.
Nó cũng có thể bị ảnh hưởng bởi việc ai tạo ra các hệ thống công bằng nhất xung quanh trí tuệ đó.
Bởi vì trí tuệ tạo ra giá trị.
Nhưng giá trị cuối cùng cũng đặt ra câu hỏi.
Nó xuất phát từ đâu?
Ai đã giúp tạo ra nó?
Ai nên được hưởng lợi từ nó?
Những câu hỏi đó dễ bị phớt lờ trong giai đoạn đầu của một chu kỳ công nghệ.
Chúng sẽ khó có thể phớt lờ hơn nhiều khi hoạt động kinh tế thực sự bắt đầu chảy qua hệ thống.
Và có lẽ đó là điều tôi cứ quay lại suy nghĩ.
Tranh luận lớn về AI tiếp theo có thể không hề xoay quanh mô hình.
Có lẽ đó là vấn đề chứng minh sự đóng góp.
Chứng minh ảnh hưởng.
Chứng minh quyền sở hữu.
Bởi vì trong một thế giới ngày càng được vận hành bởi trí tuệ tập thể, khả năng truy vết nơi giá trị bắt nguồn có thể sẽ quan trọng gần như bằng chính bản thân trí tuệ.