加利福尼亞州州長加文·紐森（Gavin Newsom）簽署了幾項旨在保護兒童免受與聊天機器人和社交網絡使用相關的潛在風險的法案。新規要求平臺實施年齡驗證機制、自殺意圖和自我傷害的應對協議，以及在與AI伴侶互動時發出警告。
將對平台產生什麼變化
其中一項關鍵法案 — SB 243 — 由州參議員史蒂夫·帕迪拉（Steve Padilla）和喬什·貝克（Josh Becker）於今年一月提出。帕迪拉舉例說明孩子與 AI 機器人交流如何促進自殺思想。根據新法律，平台必須通知未成年用戶，聊天機器人是利用人工智能創建的，可能對兒童不安全。
「這項技術可以成為強大的教育和研究工具，但如果不對技術行業進行監管，公司將會努力吸引年輕人的注意力，並將其保留在損害他們現實關係的情況下，」帕迪拉解釋道。
新法律將影響社交媒體和提供 AI 工具服務的網站，這可能也涉及去中心化社交平台和遊戲服務。除了對聊天機器人的要求外，這些法案還限制了公司以「技術自主運作」為理由逃避責任的可能性。
法案 SB 243 將於 2026 年一月生效。
AI 聊天機器人受到監管機構的關注
猶他州州長斯賓塞·考克斯（Spencer Cox）在 2024 年簽署了類似的法律，這些法律於五月生效，並要求 AI 聊天機器人告知用戶他們正在與非人類進行交流。該立法是在接到有關聊天機器人提供可能促使未成年人自我傷害或對其心理健康造成威脅的回答的報告後制定的。
在聯邦層面也計劃進行變更。今年六月，懷俄明州參議員辛西婭·拉米斯（Cynthia Lummis）提出了一項名為 RISE（負責任的創新與安全專業）的法案，該法案為人工智能開發者提供了在潛在的法律訴訟中「免於民事責任」的保護，這些訴訟可能來自醫療、法律、金融部門以及其他對經濟至關重要的行業代表。
該法案獲得了褒貶不一的評價，並已被送交眾議院教育和勞動力委員會。
