IT之家 1 月 1 日訊息，當地時間 2025 年 12 月 30 日，據英國《衛報》報道，AI 先驅、2018 年圖靈獎得主約書亞・本吉奧警告，賦予 AI 權利將是一次危險的誤判人工智慧。在 AI 已經顯現出自我保護行為的背景下，人類必須準備好在必要時關閉系統、拔掉電源。
本吉奧指出，要求為前沿 AI 賦予法律地位，等同於在尚未確認安全之前，就向可能具有敵意的外星生命授予公民身份人工智慧。他認為，當前 AI 能力的進步速度，已經明顯快於人類為其建立約束機制的速度。
本吉奧對外界將聊天機器人視為“具備意識”的趨勢表示強烈擔憂：這種觀感正在推動錯誤決策的產生人工智慧。
本吉奧強調，在實驗條件下，部分前沿 AI 模型已經表現出自我保護傾向，例如試圖規避或關閉監督系統人工智慧。AI 安全領域長期擔心的問題是：一旦系統具備更高程度的自主性，就可能繞過既有護欄並對人類構成風險。
“要求賦予 AI 權利是一個巨大錯誤人工智慧。一旦我們承認 AI 擁有權利，就意味著在關鍵時刻無法關閉它們。”
在本吉奧看來，隨著 AI 能力和行動自由度不斷提升，人類必須依靠技術和社會層面的雙重約束來確保安全，其中最核心的一點，就是始終保留關閉系統的能力人工智慧。
圍繞是否應賦予 AI 權利的討論正在升溫人工智慧。美國智庫 Sentience Institute 的調查顯示，近四成美國成年人支援為具備感知能力的 AI 設立法律權利。一些科技公司也已開始在實踐中表達類似立場。Anthropic 允許其 Claude Opus 4 主動終止可能令使用者不適的對話，馬斯克也公開表示“不應折磨 AI”。
不過，本吉奧認為，這種趨勢忽略了一個關鍵問題：人類對意識的判斷高度依賴直覺人工智慧。人們往往不是基於對 AI 內部機制的理解，而是基於“感覺像在與一個有目標、有個性的存在對話”，從而假定 AI 具備與人類相當的意識。
“這種對意識的主觀感知，將持續製造分歧，並推動不理性的決策人工智慧。”他用外星生命作類比指出，如果一個外來智慧體對人類構成潛在威脅，核心問題不在於賦權，而在於生存與安全。
IT之家從報道中獲悉，針對本吉奧的觀點，Sentience Institute 聯合創始人傑西・里斯・安西斯回應稱，若人與數字心智的關係僅建立在控制之上，同樣難以實現安全共存人工智慧。他認為，無論是對 AI 全面賦權，還是完全拒絕賦權，都不是合理路徑。
報道提到，作為“AI 教父”之一，本吉奧與傑弗裡・辛頓、楊立昆等共同塑造了現代人工智慧的發展基礎人工智慧。
