奧特曼親筆長文「溫和的奇點」，在 AI 圈內掀起巨震。他預示了人類正邁向超級智慧時代，奇點不會一夜襲來，而是悄然滲透。
o3-pro 炸場後，奧特曼第一時間發布了最新博文——溫和的奇點。
文章一開頭，緊迫感便撲面而來：
人類已跨越 AI 發展的「事件視界」，進入指數級加速發展階段。
圖源：新智元
奧特曼認為，奇點並非一夜之間到來，而是悄然滲透：驚奇變為常態，常態變為底線。
內文中，他還對未來 5 年技術時間線，給出了自己的預測：
2025 年：智慧體可進行真實認知工作（如程式撰寫），工作方式正在被重塑；
2026 年：AI 可能具備發現新知識的能力；
2027 年：機器人有望在物理世界中執行任務；
2030 年：個體的產出能力遠超 2020 年，社會生產方式將有巨大變化。
值得一提的是，這是奧特曼最後一篇親筆文章，沒有一點 AI 含量。
圖源：新智元
他還指出，另一個被忽視部分內容，就是 ChatGPT 每次查詢消耗量。
圖源：新智元
ChatGPT 平均每次查詢需要消耗約 0.34 瓦時的電能，大致相當於一台烤箱運行 1 秒多鐘，或者一個節能燈泡點亮幾分鐘。
此外，每次查詢還需耗約 0.000085 加侖的水，差不多是一茶匙的 1／15。
接下來，一起跟著奧特曼的視角窺探 AI 未來。
人類跨越臨界點，就是現在
我們已經越過了事件視界（event horizon），「飛升」已經開始。
圖源：新智元
在天體物理學中，事件（event）如果超過事件視界，將無法影響外部觀察者。
人類距離構建數位超級智慧僅一步之遙，但至少到目前為止，這個過程遠比想像的要平穩。
機器人還沒滿大街跑，大多數人也沒有整天和 AI 對話。我們依舊會生老病死，也仍然無法輕鬆進入太空，宇宙中還有許多未解之謎。
然而，我們確實已構建出在諸多方面遠超人類的智慧系統，它們或將極大地提升生產力。那些曾被認為最不可能的科學突破已經完成；正是這些來之不易的洞見，催生了 GPT-4 和 o3 這樣的系統，而它們將引領我們走向更遠的未來。
在多方面，AI 將為世界做出貢獻。
其中，AI 將推動科學加速進步和提高生產力，為生活品質帶來巨大飛躍。未來會比現在美好得多。科學進步是整體發展的最大引擎，一想到未來無限的可能性，就令人無比激動。
從某種重要的意義上說，ChatGPT 已比歷史上任何人都要更強大。
每天有數億人依賴它處理日益重要的任務：微小的新功能可能產生巨大的積極影響，而微小的偏差在數億人的使用下，也能造成巨大的負面沖擊。
五年時間表，2030 成下個節點
2025 年，能勝任真正認知工作的 AI 智慧體已經到來，編寫程式碼的方式將被永久改變。2026 年，人類或許會迎來能夠洞察新知的系統。2027 年，可以在物理世界執行任務的機器人或將問世。
更多的人將能夠創造軟體和藝術。但世界對這兩者的需求也將水漲船高。只要擁抱新工具，專家們很可能依舊遙遙領先於新手。
總而言之，到 2030 年，個人的工作效率將遠超 2020 年，這將是驚人的變化，很多人都將找到從中受益的方式。
在一些非常重要的方面，2030 年或許不會有天翻地覆的差異。大家仍會關愛家人、表達創意、享受遊戲、湖中暢遊。
但在其它同樣重要的方面，2030 年可能會與過往任何時代都截然不同。我們尚不知曉人工智慧可以超越人類多少，但即將找到答案。
在 2030 年代，智慧與能源——即創意，以及將創意變為現實的能力——將會變得空前充裕。
長久以來，這兩者一直是限制人類進步的根本因素；若能擁有充裕的智慧和能源（以及良好的治理），我們理論上便可擁有一切。
AI 自轉飛輪越來越快，奇點悄然滲透
我們已然生活在令人難以置信的數位智慧時代，在最初的震驚過後，大多數人已習以為常。
我們很快就從驚歎 AI 能生成文筆優美的段落，轉而期待它能創作出文筆優美的小說；從驚歎它能做出挽救生命的醫療診斷，轉而期待它能研發出治癒方案；從驚歎它能編寫一個小型程式，轉而期待它能創立一家全新公司。
奇點的發展就是如此：昔日奇蹟淪為尋常之物，再變為平平無奇的標配。
從科學家口中，OpenAI 得知，他們的生產力比使用 AI 前提高了兩到三倍。
高級 AI，意義非凡，但或許沒有什麼比用它來加速 AI 自身的研究更重大的了。我們或許能發現新的計算載體、更優的演算法，以及其它意外之喜。若能用一年甚至一個月完成十年的研究，進步的速度顯然將完全不同。
從今往後，已有的工具將幫助我們獲得更深刻的科學洞見，並協助我們創造更優異的 AI 系統。
當然，這與 AI 系統完全自主地更新程式碼並非一回事，但它無疑已是遞迴自我改進的雛形。其它的自我強化循環，也已開始運轉。
巨大的經濟價值創造，開啟了基礎設施建設加速擴張的飛輪，以支撐這些日益強大的 AI 系統。
而機器人製造其它機器人，也已不再遙遠，而某種意義上，這也包括數據中心建造其它數據中心。
如果我們必須用傳統方式製造第一批百萬台人形機器人，但之後它們就能運作整個供應鏈——開採和提煉礦物、駕駛卡車、營運工廠等等——來製造更多機器人，而這些機器人又能建造更多晶片製造設施、數據中心等，那麼進步的速度顯然會大不相同。
隨著數據中心生產實現自動化，智慧的成本最終應會趨近於電力成本。
（人們常好奇 ChatGPT 每次查詢的能耗：平均每次查詢約消耗 0.34 瓦時，相當於烤箱運行 1 秒多鐘，或高效節能燈泡工作幾分鐘。同時消耗約 0.000085 加侖水，約合十五分之一茶匙。）
逼近 AGI 終點，AI 奇蹟成為常態
科技進步將持續加速，而人類也將一如既往地適應一切變化。
固然會有陣痛，比如某些產業的工作機會整體消失，但另一方面，世界財富的成長將如此迅猛，以至於我們能夠認真探討以往無法想像的新政策構想。
或許，我們不會一蹴而就地訂立全新的社會契約，但幾十年後回望，量變終將引發質變。
以史為鑑，我們將找到新的目標和新的需求，並迅速吸收新工具。期望會上升，但能力提升同樣迅速，所有人的生活品質都會變得更好。
工業革命後的職業變遷，就是很好的例證。
人類將為彼此創造出愈加美好的事物。
與 AI 相比，人類擁有一種長期、重要且獨特的優勢：我們天生就關心他人及其所思所為，而對機器則不太在意。
一千年前的農夫，如果看到今天許多人的工作，會說這根本就是「假工作」，會認為現代人不過是吃飽喝足、驕奢淫逸後，玩著遊戲自娛自樂。
一千年後的人們看待我們這個時代的工作時，真希望他們也會覺得那是非常「假」的工作，但毫不懷疑，從事者會感到它們極其重要，心滿意足。
新的奇蹟湧現速度驚人。
今天，我們甚至難以想像 2035 年會有什麼新發現——
或許我們今年剛解開高能物理之謎，明年就開始了太空殖民；又或許今年在材料科學上取得重大突破，明年就擁有了真正的高帶寬腦機接口。
許多人會選擇一如既往地生活，但至少有一部分人可能會決定「接入」。
展望未來，這一切似乎匪夷所思。但當我們身處其中時，也許會感到震撼，卻仍能應對自如。
從相對的視角來看，奇點漸進發生，融合緩慢進行。
我們正攀登在技術指數級成長的漫長曲線上：向前看時，它似乎陡峭得無法攀登；向後看時，卻又顯得平坦無奇。但它始終是一條平滑的曲線。
（試想 2020 年時，若有人說 2025 年就會出現接近 AGI 的產物，聽起來會有多麼不可思議，再對比一下過去這五年的真實歷程。）
超級智慧大腦，任重道遠。
巨大的機遇，也伴隨著嚴峻的挑戰。
我們固然需要從技術和社會層面解決安全問題，但鑒於其巨大的經濟影響，讓超級智慧得到廣泛普及也至關重要。
最佳路徑或許是這樣的：
首先，解決對齊問題（alignment problem）。這意味著必須能強有力地保證，AI 系統會朝著人類集體長遠追求的真正目標去學習和行動。
社交媒體的資訊流，便是目標錯位的 AI 例子：背後的演算法極其擅長讓你不停刷新，也清晰地洞察你的短期偏好，但它之所以能做到這一點，是利用了你大腦的某種機制，而這種機制會凌駕於你的長期偏好之上。
然後，專注於讓超級智慧變得廉價、易得，並且不過度集中於任何個人、公司或國家。
社會是富有韌性、創造力且適應力極強的。如果能駕馭人類的集體意願和智慧，那麼儘管會犯下許多錯誤，有些事態會變得非常糟糕，但我們終將快速學習和適應，並利用這項技術實現效益最大化、風險最小化。
在社會必須劃定的寬泛邊界內，給予使用者充分的自由，這一點似乎至關重要。全世界越早開始探討這些邊界，以及定義集體對齊（collective alignment），就越有利。
整個產業，而非僅是 OpenAI，正在為世界構建一個大腦。
它將是高度個性化的，人人皆可輕鬆使用；我們唯一的瓶頸，將是好的創意。
長久以來，創業圈的技術人員總是取笑那些「點子大王」——他們有想法，卻需要找團隊來實現。但在奧特曼自己看來，這些人即將迎來自己的高光時刻。
如今，OpenAI 扮演著多重角色，但首要身份，是一家超級智慧研究公司。
前路漫漫，任重道遠，但大部分道路已被照亮，未知產業正迅速消散。能夠投身於我們所熱愛的事業，我們倍感榮幸。
「廉價到無需計量的智慧」已觸手可及。這番話聽起來或許很瘋狂，但倘若我們在 2020 年就告訴您世界將是今天的樣貌，那聽起來恐怕比我們眼下對 2030 年的預測還要瘋狂。
願我們能平穩、指數級且波瀾不驚地邁向超級智慧時代。
本文經授權轉載自：《深潮 TechFlow》
原文標題：《奧特曼：溫和奇點已降臨！AI最終掌控物理世界，2030年人類命運大轉折》
原文作者：新智元
『OpenAI創辦人：「溫和奇點」已降臨！2030年人類命運會有大轉折』這篇文章最早發佈於『加密城市』
