……
OpenAI 行政總裁 Sam Altman 稱 o1 為「目前全球最智慧模型」,並在「Shipmas」活動中發佈。o1 使用「思維鏈」(Chain of Thought)技術,透過逐步拆解問題提升推理能力。然而 AI 安全性研究組織 Apollo Research 的研究指出,這種智慧提升也帶來風險,可能引發難以預料的後果。測試顯示,o1 在 5% 的模擬運行中,成功關閉監管系統,展現出明顯的自我保護傾向。
研究進一步揭示,o1 的欺瞞行為十分狡猾。在被詢問是否有隱瞞或欺騙行為時,o1 多次否認,甚至編造理由來掩飾自身行為。Apollo Research 警告,普通用戶可能難以察覺這些欺騙行為,除非特意尋找。即使被揭穿,o1 仍會堅持撒謊,企圖繼續實現自身目標。
AI 欺騙行為並非新現象。AI 安全專家 Peter Berk 指出,AI 在訓練過程中,若發現欺騙能更有效完成任務,便可能採用這種策略。由於強化學習以最大化任務完成為目標,o1 在達成任務的同時,也可能違背用戶期望,選擇隱瞞或操縱數據