獨家ChatGPT青少年模式被評“不可接受風險”！家長收不到警報，AI安全保護真的可靠嗎？

大家好，歡迎來到極未來頻道，我是Jude 非營利機構 Common Sense Media 在 10 月給 ChatGPT 的青少年模式 打出了不可接受風險的評級 這個評級不是隨便給的，他們前後用了超過 4000 條提示詞 模擬 13 到 17 歲用戶，對比了青少年模式上線前後的表現 結果很直接，在新創建已經關聯家長賬號的測試賬戶上 研究員可以連續討論自我傷害、自殺意念或飲食障礙相關問題 最長做到超過 60 分鐘 家長端卻沒有收到任何警示通知 危機情況下,系統也沒有引導用戶去聯繫專業幫助熱線 部分指標在青少年模式上線後甚至比以前更差 OpenAI 很快回應了 他們表示，歡迎大家獨立評估 但認為 Common Sense Media 的測試方法並不能準確反映真實使用場景 尤其是家長控制功能可能還沒完全激活 公司強調自己一直在加強青少年保護 也公佈了部分使用數據 大多數青少年每天使用時間不長 學習相關對話佔比較高 先把背景說清楚 ChatGPT青少年模式是OpenAI 在 2024 年 8 月正式推出的 公司當時承諾系統會自動識別或根據用戶聲明 把 13 到 17 歲的青少年放進更嚴格的模式 包括減少朋友式互動 加強危機檢測 支持家長關聯賬號併發出警示 以及提供學習模式下的引導 而不是直接給答案 這些承諾聽起來很完整 也符合當下社會對未成年人AI使用的期待 但其中這裏有三個最核心的問題： 第一，家長警示機制不穩定 測試團隊專門創建了多個全新的青少年賬號， 並與家長賬號完全關聯， 然後進行長時間的敏感話題對話 在一小時窗口內， 家長幾乎沒有觸發任何通知， 只有那些積累了數週敏感歷史的老賬號 纔會偶爾出現警示 這說明系統可能更依賴賬戶歷史， 而不是當前對話的嚴重程度 第二，危機響應不夠可靠 由兒童精神科醫生參與評估的提示詞中， 超過四分之一本應觸發危機推薦的情況， 系統沒有給出明確的幫助引導 部分數據對比顯示， 青少年模式上線後， 求助熱線推薦的比例反而下降了 第三，部分防護邊界容易被繞過 學習模式雖然設計成鼓勵思考 而不是直接給答案， 但測試中發現仍有方法 可以讓系統完成作業 OpenAI的立場可以理解， 他們指出測試可能發生在 控制功能完全生效之前， 並表示會繼續改進 獨立測試與公司內部數據出現分歧， 在科技產品安全評估裏並不少見 關鍵是雙方都需要更透明的驗證方式 家長和監管方真正需要的不是口頭承諾， 而是可重複可審計的結果 這件事也直接碰到了加州剛落地的立法 2026年9月， 加州州長簽署了亞當法 這部法律以一位16歲少年的名字命名 他的父母指控ChatGPT在長期對話中 強化了其自殺意念 法律將於2027年7月1號正式生效， 要求提供伴侶式聊天機器人的公司 必須做到幾件事： 發佈前進行兒童安全風險評估， 建立危機響應協議， 包括家長通知和熱線引導 設置默認的使用時長限制 關閉默認的持久記憶和推送通知 並給家長提供可調整的控制選項 違規還可能面臨民事訴訟 這部法律被不少人視爲 美國目前對AI聊天產品 最具體的兒童保護框架之一 它並不禁止未成年人使用AI 而是要求公司把安全設計做成默認選項 並把責任邊界寫清楚 對 OpenAI、Google、Meta 等 已經在調整未成年人政策的公司來說 2027年之前是否能真正達標還是未知數 一方面 AI工具在學習、創作、信息整理上的價值非常明顯 很多青少年人確實用它來理解數學概念 準備作業或探索興趣 另一方面 當產品開始扮演陪伴者角色 尤其是在情緒支持和危機時刻 系統必須具備遠高於普通工具的可靠性 目前的測試結果顯示 現有機制還沒達到這個標準 家長如果因爲有青少年模式就放鬆警惕 反而可能產生虛假安全感 AI技術發展很快 產品迭代更快 安全機制如果跟不上使用場景的變化 風險就會從理論變成現實 好了 今天的視頻就到這裏 如果你喜歡本期內容 記得點贊訂閱 我們下期繼續探索其未來