
近日,OpenAI官方宣布,將在消費級ChatGPT中部署全新的「年齡預測」模型,旨在自動識別未成年人用戶並施以針對性保護,以確保其在安全範圍內探索AI技術。
此模型並非簡單依賴用戶註冊時填報的年齡,而是綜合分析帳戶存續時間、活躍時段(如深夜使用情況)及長期互動模式等多種「行為與帳戶層級訊號」進行智慧判斷。當系統判定使用者可能未滿18歲時,將自動啟用更嚴格的安全設置,在保障技術可及性的同時,限制接觸不適宜內容,以維護青少年身心健康。
為實現有效防護,被識別為未成年人的帳戶將強制啟用額外保護層,攔截包括直接暴力畫面、危險挑戰誘導、涉及性或暴力的角色扮演、自殘相關描述以及宣揚極端美學或不健康節食在內的五類高風險內容。 OpenAI強調,當模型判定存疑時,系統將預設採用更嚴格的保護模式,優先保障安全。
針對可能出現的誤判,OpenAI引進了第三方身分驗證服務Persona。被錯誤歸類為未成年人的用戶可透過上傳自拍照完成快速驗證,從而恢復完整功能。此外,平台也為家長提供了「家長控制」功能,允許其自訂使用時段、管理記憶功能權限,並在系統檢測到使用者可能出現急性心理困擾跡象時接收通知。