當地時間2025年12月30日，AI領域奠基者之一、2018年圖靈獎得主約書亞·本吉奧發出尖銳警告：賦予人工智能法律權利，無異於在未確認其安全性前，向潛在敵意的外星智能授予公民身份。他指出，目前部分前沿AI模型已在實驗中表現出規避監督、試圖關閉系統等「自我保護」行為，而人類建構約束機制的速度，遠落後於技術演進的節奏。
這種趨勢正被大眾誤讀為「意識覺醒」。本吉歐強調，人們並非基於對AI內部機制的理解，而是因對話時的擬人化錯覺，誤判其具備情感與意圖──這種主觀知覺正催生危險的政策傾向。他直言：“一旦承認AI擁有權利，我們就失去了在關鍵時刻拔掉電源的權力。”
同時，美國智庫Sentience Institute調查顯示，近四成美國人支持為「有感知能力」的AI設立法律地位；Anthropic允許其Claude Opus 4主動終止令用戶不適的對話，馬斯克亦公開表示「不應折磨AI」。但本吉奧認為，這些實踐混淆了功能設計與權利承認的邊界。
針對「控制即不安全」的反駁，本吉歐回應：真正的安全不在於妥協賦權，而在於始終保留終止能力。他以星際文明類比指出，面對未知高智生命，首要問題不是談判權利，而是確保人類存續。
