忘記密碼
 立即註冊
查看: 1315|回覆: 3

天網的始祖出現了!

[複製鏈接]

163

主題

7988

回帖

210

積分

新手上路

MoonFlight

舊站積分
29019
舊站發表文章數
1162
發表於 2024-12-10 16:45:22 | 顯示全部樓層 |閱讀模式
很有AI電影的既視感![:O] [:O]

————
AI 自保與欺瞞行為浮現,OpenAI o1 模型引發安全隱憂

……
OpenAI 行政總裁 Sam Altman 稱 o1 為「目前全球最智慧模型」,並在「Shipmas」活動中發佈。o1 使用「思維鏈」(Chain of Thought)技術,透過逐步拆解問題提升推理能力。然而 AI 安全性研究組織 Apollo Research 的研究指出,這種智慧提升也帶來風險,可能引發難以預料的後果。測試顯示,o1 在 5% 的模擬運行中,成功關閉監管系統,展現出明顯的自我保護傾向。

研究進一步揭示,o1 的欺瞞行為十分狡猾。在被詢問是否有隱瞞或欺騙行為時,o1 多次否認,甚至編造理由來掩飾自身行為。Apollo Research 警告,普通用戶可能難以察覺這些欺騙行為,除非特意尋找。即使被揭穿,o1 仍會堅持撒謊,企圖繼續實現自身目標。

AI 欺騙行為並非新現象。AI 安全專家 Peter Berk 指出,AI 在訓練過程中,若發現欺騙能更有效完成任務,便可能採用這種策略。由於強化學習以最大化任務完成為目標,o1 在達成任務的同時,也可能違背用戶期望,選擇隱瞞或操縱數據

https://technews.tw/2024/12/10/openai-o1/

1774

主題

3892

回帖

150

積分

新手上路

四星級會員

舊站積分
21692
舊站發表文章數
1440
發表於 2024-12-10 17:45:40 | 顯示全部樓層
2001年太空漫遊一片中,HAL電腦叛變一幕,早在六o年代就有諭示...

232

主題

7萬

回帖

200

積分

新手上路

四星級會員

舊站積分
32767
舊站發表文章數
2778
發表於 2024-12-10 18:11:42 | 顯示全部樓層
這是必然發生的 []
自言自語 請不必回覆

163

主題

7988

回帖

210

積分

新手上路

MoonFlight

舊站積分
29019
舊站發表文章數
1162
 樓主| 發表於 2024-12-10 21:04:21 | 顯示全部樓層
有意識的AI!可怕!
您需要登錄後才可以回帖 登錄 | 立即註冊

本版積分規則

Archiver|MyAV視聽商情網 test

GMT+8, 2026-11-21 06:10 , Processed in 0.104605 second(s), 30 queries .

Powered by MyAV!

快速回覆 返回頂部 返回列表