曾為 Google 深度學習核心人物、素有「AI 教父」之稱的 Geoffrey Hinton，於 6/16 受訪時談及目前 AI 帶來的風險。他認為，AI 帶來的第一層風險，其實不是來自機器本身，而是來自人類的貪婪與毫無節制地濫用，從詐騙、網路攻擊到輿論操弄、社會分裂與無人軍武的開發，都顯示 AI 已被用在許多破壞性的應用上。他感嘆：「未來 AI 將開始不需要人類。」
濫用 AI 已是進行式，真正致命的是 AI 不再需要人類
Hinton 將風險分為兩種，第一種是「人類濫用 AI」，而這類問題已陸續爆發。他舉例像是詐騙集團用 AI 偽造、網路攻擊、AI 製造生化武器、操控選舉、AI 軍武等。
但 Hinton 更強調 AI 最致命的風險，就是自身的「進化能力」。他表示，現在的 AI 不只會依指令工作，更能學習、推理，甚至自行改寫程式碼。一旦演化成「超級智慧」，將擁有超越人類思考速度與優化的能力。
他更擔心某一天，假設 AI 認定自己再也不需要人類，並意識到人類阻礙它們發展，很可能會開始消滅人類。筆者想到小時候看的《機械公敵》，片中人類因「機器人三大定律」的限制，對機器人充滿信任。但最後中央控制系統控制機器人大軍，並對人類發動戰爭。
特別的是，Hinton 也描述「 AI 反抗人類」這種情境不再只是電影裡橋段，未來 10 到 20 年內可能會在現實中發生。
(註：機器人三大定律為機器人不得傷害人類，或坐視人類受到傷害； 除非違背第一法則，機器人必須服從人類的命令；在不違背第一及第二法則下，機器人必須保護自己。)
AI 不只取代工作，還重塑人類社會結構
與其說 AI 會造成大量失業，不如說它會徹底摧毀某些職業的存在意義。Hinton 分享自己姪女的案例，原本 25 分鐘回一封客訴信的工作，現在 AI 讓她 5 分鐘內完成，等於一個人能做五個人的事。
有企業主更直言自從 AI 出現後，直接把客服人數從 7,000 人精簡到剩 3,000 人，節省成本又提高效率。Hinton 打趣地說，如果想找穩定工作，還不如現在就去學做水電。
但 Hinton 隨後表示，藉由 AI 所創造的財富集中在少數科技巨頭與富人手上，對於一般人來說，即使政府提供基本收入，仍可能在失去「被需要」與「歸屬感」後，陷入大規模的身分認同危機與社會動盪。
國際貨幣組織 (IMF) 與多國智庫也警告過，AI 會加劇貧富差距，進而顛覆整個就業市場與全球穩定秩序。
全球各國需加速立法，以制衡 AI 發展
面對這樣的未來，Hinton 認為個人努力非常有限，就像氣候變遷不是靠少數人把垃圾分類能夠解決。他指出，真正的解決方案是，各國政府要開始立法，強迫企業在推進 AI 的同時投入安全設計，否則人類根本沒有機會制衡 AI 。
他也批評歐盟的 AI 法案排除軍事用途，等於放縱最危險的應用領域，對 Hinton 來說，更深層的無力感，是目前根本沒有任何一個國際組織能有效約束 AI 巨頭。
最後 Hinton 表示，他不敢保證人類未來能否成功避開毀滅，但只要還有一絲希望，就應該傾盡全力去阻止最壞的劇本發生。
(GPT 變得有點詭異？三大事件揭露 AI 的潛在失控風險)
這篇文章 AI 摧毀人類社會結構？Google AI 教父 Hinton 帶你看懂 AI 末日錄 最早出現於 鏈新聞 ABMedia。
