Tôi đã nói chuyện với @romanyam, chuyên gia hàng đầu thế giới về an toàn AI.
Ông ấy thậm chí đã đặt ra thuật ngữ “an toàn AI” cách đây khoảng 15 năm.
Roman giải thích nếu AGI đã xuất hiện, thì mối đe dọa thực sự của AI đối với nhân loại là gì, có thể mất bao nhiêu việc làm, vì sao ông ấy lại lạc quan về bitcoin, cách mà AI vật lý & robot có lẽ sẽ diễn ra, và liệu các phòng thí nghiệm mô hình nền tảng có thật sự quan tâm đến an toàn AI hay không.
Đây là một cuộc trò chuyện sâu sắc với một người mà ai cũng nên biết.
MỐC THỜI GIAN: 0:00 - Mở đầu 0:50 - Chúng ta đã đạt tới AGI rồi chưa? 2:51 - Vì sao chúng ta không thể kiểm soát siêu trí tuệ 5:14 - Cấm toàn cầu đối với siêu trí tuệ có thực sự hoạt động? 8:45 - Các phòng thí nghiệm AI có thật sự nghiêm túc với an toàn không? 15:52 - Mất việc hàng loạt & kinh tế học của AGI 22:03 - Mối liên hệ bất ngờ giữa AI & bitcoin 29:07 - Thế giới AI dồi dào, & vì sao sự khan hiếm lại thắng 31:45 - Thủy ấn AI, & cái chết của niềm tin 35:33 - Ưu & nhược của thế giới AI vật lý 38:40 - Muốn tin tưởng robot hình người thì cần gì? 39:50 - Giao diện não–máy tính: có phải là một ý tưởng tốt? 42:25 - Sự trỗi dậy & rủi ro của deapfakes 49:40 - Kiểm soát AI: Chính phủ vs công ty tư nhân 54:07 - Mã nguồn mở vs đóng, & cuộc đua AI của Mỹ với Trung Quốc 57:34- Bitcoin có phải là dự án crypto duy nhất được xây dựng để tồn tại lâu dài không? 1:01:40 - Giới hạn của AI vật lý: nút thắt cổ chai & thiếu hụt 1:03:50 - Tác động của y tế với AI 1:06:09 - Cần gì để thực sự tuyên bố AGI? 1:09:35 - Công chúng có thể giúp gì cho an toàn AI
Tôi thấy hầu hết các nhà đầu tư suy nghĩ quá kỹ về danh mục của mình.
Thực ra bạn chỉ cần hiểu hai điều để kiếm được rất nhiều tiền trong 15–20 năm tới:
1. Chính phủ sẽ không ngừng in tiền.
2. Chúng ta đang kết hợp nền kinh tế công nghiệp với công nghệ để tạo ra một thế giới nơi mọi cỗ máy đều có thể nhìn thấy, nghe thấy, suy nghĩ và hành động.
Bạn sắp xếp bản thân để được hưởng lợi từ hai điều đó, và các cháu của bạn sẽ rất hạnh phúc.
Các phòng thí nghiệm tuyến đầu đã giới thiệu với thế giới về trí tuệ siêu việt, nhưng các ứng dụng AI ứng dụng sẽ khiến trí tuệ siêu việt trở nên hữu ích nhất.