薩姆·阿爾特曼的《溫柔的奇點》
我們已經過了事件視界；起飛已開始。人類接近構建數字超智能，至少到目前爲止，這並沒有看起來那麼奇怪。
機器人尚未走上街頭，我們大多數人也並沒有整天與人工智能交談。人們仍然因疾病而死，我們仍然無法輕鬆前往太空，宇宙中還有很多我們不理解的事物。
然而，我們最近已經構建出在許多方面比人類更聰明的系統，並能夠顯著增強使用它們的人的輸出。最不可能的部分工作已經過去；讓我們獲得像GPT-4和o3這樣的系統的科學見解經歷了艱苦的奮鬥，但將帶我們走得很遠。
人工智能將在許多方面爲世界做貢獻，但從人工智能推動更快的科學進步和提高生產力中獲得的生活質量提升將是巨大的；未來可以比現在好得多。科學進步是整體進步的最大驅動力；思考我們可以擁有多少更多的東西是極其令人興奮的。
在某種大意義上，ChatGPT已經比任何曾經生活過的人都要強大。數億人依賴它進行日常生活和越來越重要的任務；一個小的新能力可以產生巨大的積極影響；一個小的不對齊乘以數億人可以造成巨大的負面影響。
2025年見證了能夠進行真正認知工作的代理的到來；編寫計算機代碼將永遠不會是同樣的樣子。2026年可能會看到能夠發現新穎見解的系統的到來。2027年可能會出現能夠在現實世界中執行任務的機器人。
更多的人將能夠創建軟件和藝術。但世界對這兩者的需求都想要更多，專家可能仍然比新手要好得多，只要他們擁抱新工具。一般來說，一個人在2030年能夠完成的工作量比2020年多出很多，將是一個顯著的變化，許多人將會找到如何從中受益的方法。
在最重要的方面，2030年代可能不會有太大的不同。人們仍然會愛他們的家人，表達他們的創造力，玩遊戲，在湖中游泳。
但在仍然非常重要的方面，2030年代可能將與以往任何時候都大相徑庭。我們不知道我們能在多大程度上超越人類水平的智力，但我們即將發現。
在2030年代，智力和能源——思想，以及將思想轉化爲現實的能力——將變得極爲豐富。這兩者長期以來一直是人類進步的基本限制；擁有豐富的智力和能源（以及良好的治理），理論上我們可以擁有其他一切。
我們已經生活在令人難以置信的數字智能中，在初始震驚過後，我們大多數人對此已經相當習慣。我們很快就會從驚歎於人工智能能夠生成優美的段落，轉變爲想知道它何時能夠生成優美的小說；或者從驚歎於它能夠進行救命的醫學診斷，轉變爲想知道它何時能夠開發出療法；或者從驚歎於它能夠創建一個小的計算機程序，轉變爲想知道它何時能夠創建一家全新的公司。這就是奇點的進程：奇蹟變成常態，接着成爲基本要求。
我們已經聽到科學家說，他們的生產力比之前的人工智能時代提高了兩到三倍。先進的人工智能因許多原因而有趣，但也許沒有什麼比我們可以用它來進行更快速的人工智能研究更重要。如果我們能夠在一年或一個月內完成十年的研究，那麼進展的速度顯然會大不相同。
從現在開始，我們已經構建的工具將幫助我們發現進一步的科學見解，並幫助我們創造更好的人工智能系統。當然，這並不等同於一個人工智能系統完全自主地更新其自己的代碼，但這仍然是遞歸自我改進的幼蟲版本。
還有其他自我強化的循環在發揮作用。經濟價值創造啓動了一個複合基礎設施建設的飛輪，以運行這些日益強大的人工智能系統。能夠構建其他機器人的機器人（在某種意義上，能夠構建其他數據中心的數據中心）也不遠了。
如果我們不得不以傳統的方式製造第一百萬個類人機器人，但隨後它們能夠操作整個供應鏈——挖掘和精煉礦物，駕駛卡車，運行工廠等——以構建更多機器人，這些機器人又可以建造更多芯片製造設施、數據中心等，那麼進展的速度顯然會大不相同。
隨着數據中心生產的自動化，智力的成本最終應該會趨近於電力的成本。（人們常常好奇一次ChatGPT查詢使用多少能量；平均查詢使用約0.34瓦時，約等於烤箱在一秒鐘多一點的使用量，或高效燈泡在幾分鐘內的使用量。它還使用大約0.000085加侖的水；大約是一個茶匙的十五分之一。）
技術進步的速度將繼續加速，人們將繼續能夠適應幾乎所有事情。將會有非常困難的部分，比如整類工作消失，但另一方面，世界將快速變得更加富裕，以至於我們能夠認真考慮以前無法實現的新政策想法。我們可能不會一次性採用新的社會契約，但當我們在幾十年後回顧時，漸進的變化將匯聚成重大成果。
如果歷史是任何指南，我們將會找到新的事情去做和新的事情去追求，並迅速吸收新工具（工業革命後的職業變化就是一個很好的例子）。期望將會提高，但能力也將同樣迅速提高，我們都會得到更好的東西。我們將爲彼此建造越來越美好的事物。人們在長遠中對人工智能有一個重要而好奇的優勢：我們與生俱來就關心其他人及其想法和行爲，而並不太在意機器。
一千年前的自給自足農民會看着我們許多人所做的事情，並說我們有假工作，認爲我們只是在玩遊戲來娛樂自己，因爲我們有充足的食物和難以想象的奢侈品。我希望我們能在一千年後的工作上看到它們非常假，而我毫不懷疑這些工作對從事它們的人來說會感到無比重要和令人滿意。
新奇事物的成就速度將是巨大的。今天很難想象到2035年我們將發現什麼；也許我們將從解決高能物理學的一年，轉向下一年開始太空殖民；或者從某一年重大的材料科學突破，轉向下一年真正的高帶寬腦機接口。許多人將選擇以相似的方式生活，但至少有些人可能會決定“接入”。
展望未來，這聽起來很難讓我們理解。但經歷這一切可能會讓人感到印象深刻但可管理。從相對論的角度來看，奇點是逐步發生的，融合是緩慢的。我們正在攀登指數技術進步的漫長弧線；從前看總是顯得垂直，從後看則是平坦的，但這是一條平滑的曲線。（回想2020年，想象一下如果在2025年接近人工通用智能會是什麼樣子，與過去五年的實際情況相比。）
我們面臨着重大挑戰，同時也有巨大的機遇。我們確實需要解決安全問題，無論是技術上還是社會上，但接下來，廣泛分配超智能的訪問權是至關重要的，考慮到經濟影響。前進的最佳路徑可能是這樣的：
解決對齊問題，意味着我們可以穩健地保證我們獲得的人工智能系統能夠學習並朝着我們集體真正想要的目標行動，長期而言（社交媒體信息流就是一個不對齊的人工智能的例子；驅動這些算法的技術非常擅長讓你持續滾動，並清楚理解你的短期偏好，但它們這樣做是利用了你大腦中覆蓋你長期偏好的某些東西）。
然後專注於使超智能變得便宜，廣泛可用，並不會過度集中於任何個人、公司或國家。社會是有彈性、創造性並迅速適應的。如果我們能夠利用人們的集體意志和智慧，那麼儘管我們會犯很多錯誤，一些事情也會出錯，我們將迅速學習和適應，並能夠利用這項技術獲得最大收益和最小損失。在社會必須決定的廣泛範圍內，給予用戶自由似乎非常重要。世界越早開始討論這些廣泛範圍是什麼以及我們如何定義集體對齊，就越好。
我們（整個行業，而不僅僅是OpenAI）正在爲世界構建一個大腦。它將極其個性化，易於每個人使用；我們將受限於好的想法。在很長一段時間裏，初創企業行業的技術人員嘲笑“創意家”；那些有想法並尋找團隊來實現它的人。現在看來，他們即將迎來自己的光輝時刻。
OpenAI現在有很多身份，但首先，我們是一家超智能研究公司。我們面前還有很多工作，但我們面前的大部分道路現在已經明亮，黑暗的區域正在迅速消退。我們感到非常感激，能夠做我們正在做的事情。
智力變得便宜到無法計量是觸手可及的。這聽起來可能很瘋狂，但如果我們在2020年告訴你我們會到達今天這個地步，可能聽起來比我們對2030年的當前預測更瘋狂。
願我們順利、指數級、毫無波折地邁向超智能。