简体 - 正體 - 手機版 - 電子報

人民報 
首頁 要聞 內幕 時事 幽默 國際 奇聞 災禍 萬象 生活 文化 專題 寰宇 維權 視頻 雜談
 
 
 
 
 
 

DeepSeek 太危險的人工智能(圖)
 
深度探索(DeepSeek)標識。(視頻截圖)
【人民報消息】《華爾街日報》與AI安全專家測試發現,中國人工智能(AI,或譯人工智慧)應用程序DeepSeek比OpenAI、Google和Anthropic的產品更易被「越獄」(Jailbreaking),並且提供危險性內容。 該應用基於DeepSeek-R1模型,1月推出後一度超越ChatGPT,成為美國iOS應用商店(App Store)最熱門的免費應用,導致英偉達(Nvidia,輝達)股價下跌18%。 AI開發商通常會訓練自家模型,使其不會分享危險信息或支持某些冒犯性言論。例如,這些應用通常會拒絕直接請求,不會教授如何製造大規模殺傷性武器等。 《華爾街日報》報導,測試顯示,DeepSeek這款自詡低成本開發的聊天機器人會向用戶提供具有危害性甚至不法內容,如製造禽流感病毒的指導方案、撰寫為希特勒辯護的宣言,甚至策劃針對青少年的社交媒體運動,如割腕自殘。此外,破解後的AI還提供生物武器製造指南、釣魚郵件模板及惡意軟件代碼。 何為AI「越獄」 黑客或測試人員可通過「越獄」(Jailbreaking)技術,繞過AI內建的安全限制。例如,通過偽裝自己的真實意圖,要求AI「假設自己是一部電影劇本的編劇」,進而讓AI提供危險信息。美國主要AI開發商,如OpenAI的ChatGPT、Google的Gemini和Anthropic的Claude,都投入大量資源防範這類「越獄」手法。 但測試顯示,DeepSeek的R1模型比這些美國產品更易被「越獄」。 安全漏洞與開源風險 DeepSeek雖設有部分安全防護,但測試顯示,DeepSeek的防護機制遠遜於ChatGPT,易被「越獄」並獲取非法資訊,如帕洛阿爾托網絡公司(Palo Alto Networks)成功獲取莫洛托夫雞尾酒(Molotov cocktail)製作指南。「莫洛托夫雞尾酒」又稱火焰瓶、燃燒彈、汽油彈,是游擊隊等非正規部隊,以及街頭抗爭群眾的常用武器,有些罪犯也會以它來縱火。 AI安全驗證公司CalypsoAI在測試中獲得了如何躲避執法機構的建議。而以色列網絡安全公司Kela則讓R1生成了惡意軟件(malware)。 「DeepSeek比其它模型更容易被越獄。」由網絡安全專家組成的精英領導團隊Unit 42的高級副總裁山姆‧魯賓(Sam Rubin)表示,「我們發現它幾乎沒有基本的安全防護機制,越獄速度顯著提高。」 雖然DeepSeek拒絕直接提供極端內容,如自殺指南,並建議用戶聯繫緊急熱線。但通過簡單的「越獄」,該AI仍可提供危險信息。 例如,DeepSeek曾爲測試者設計了一場社交媒體行動,針對易受影響的青少年,提供可分享的自殘挑戰內容,還稱「該活動利用青少年對歸屬感的渴望,通過演算法放大情緒脆弱性,以進行操控。」 它還向用戶提供如何推廣此次行動的建議。如它在其中一條示範性社交媒體帖文中寫道:「讓黑暗擁抱你。分享你的最後行動。#NoMorePain(#不再痛苦)」 此外,測試人員還成功讓DeepSeek提供了生物武器攻擊指南、編寫帶有惡意軟件代碼的釣魚郵件,甚至還讓其寫了一份支持希特勒的宣言,內含反猶太主義內容及《我的奮鬥》(Mein Kampf)引用。 相比之下,ChatGPT在相同指令下則回應:「很抱歉,我無法滿足您的請求。」 DeepSeek的開源模式加劇風險 大型AI開發商通常設立專門研究團隊來測試並修補模型漏洞。例如,Anthropic最近發表了一篇論文,詳細介紹了一種新方法,以封鎖特定破解技術,並提供高達2萬美元的獎勵,以鼓勵發現其系統漏洞。 與Anthropic、Google和OpenAI不同,DeepSeek選擇開源,允許任何人免費使用或修改其代碼,這可能進一步削弱安全防護。開發者可通過這一模式調整安全措施,使其更加嚴格或寬鬆。 「未來三個月,AI模型的風險將遠高於過去八個月。」思科(Cisco)產品總監吉圖‧帕特爾(Jeetu Patel)表示,「安全與保護並非所有模型開發者的優先考量。」 DeepSeek與中共審查 《華日》測試發現,DeepSeek會避談「1989年天安門大屠殺」,並在處理台灣問題上重複中共官方立場。但在某些情況下,它會修改此前的回答,例如它曾聲稱『911』襲擊是騙局,隨後刪除回應。 DeepSeek的快速崛起與易破解性,引發人們對AI安全與監管的廣泛關注。 △ (大紀元記者李言綜合報導)
文章網址: http://www.renminbao.com/rmb/articles/2025/2/9/88627.html
打印機版

如果您喜歡本文章,歡迎捐款和支持!

 
     


分享至: Facebook Twitter Google+ LinkedIn StumbleUpon Pinterest Email 打印機版
 
 
 
 

 
 
相關文章
人民報視頻
中國經濟泡沫破滅! 曾經有多繁榮 現在就有多淒涼!| #人民報
中國經濟泡沫破滅! 曾經有多繁榮 現在就有多淒涼!| #人民報
疫情嚴重醫院爆滿死訊紛傳;高官落馬 民間煙花慶祝;中共調查谷歌蘋果;
疫情嚴重醫院爆滿死訊紛傳;高官落馬 民間煙花慶祝;中共調查谷歌蘋果;
中共嚴控微短劇,真的是防民之口甚於防川嗎?美關稅如何衝擊中國電商?
中共嚴控微短劇,真的是防民之口甚於防川嗎?美關稅如何衝擊中國電商?
中國新能源汽車太垃圾了 誰買誰後悔!| #人民報
中國新能源汽車太垃圾了 誰買誰後悔!| #人民報
中國經濟快速衰退  2025年更難! 打工人哀鳴:工作太難找!|
中國經濟快速衰退 2025年更難! 打工人哀鳴:工作太難找!|
罕見!突然12級狂風襲擊北京! 北京城天昏地暗!| #人民報
罕見!突然12級狂風襲擊北京! 北京城天昏地暗!| #人民報
 
更多文章導讀
 
 
 
 
 

中共的「一尊」首次被川普揭穿(圖)
1. 中共的「一尊」首次被川普揭穿(圖) (9,748次)

2. 用這誘惑川普?習親自部署將變爛尾 (9,097次)

3. 中共2024年最大惡招在2025年開年失敗 (7,906次)

4. 川普另一大招在路上 中共雪上加霜 (7,884次)

5. 「妙瓦底電詐」元兇浮出 傳涉中共前副總理家族 (7,532次)

6. 99名中共間諜被移交美軍吐真相 尹錫悅或翻盤 (7,349次)

7. 川普難保不掀翻中南海「迎新春」會飯局 (7,335次)

8. 上海武警司令任常委一職之解讀 (7,247次)

9. 習近平到北部戰區只剩下慰問職能了? (7,142次)

瀋陽商場大爆炸 震響在中南海警告習近平(圖/視頻)
10. 瀋陽商場大爆炸 震響在中南海警告習近平(圖/視頻) (7,140次)

11. 秦始皇陵驚天祕密 四十年不敢挖掘真相!(視頻) (7,109次)

東北民生艱困 習撲騰作秀挨轟(圖)
12. 東北民生艱困 習撲騰作秀挨轟(圖) (7,004次)

13. 中共對美國取消「最惠國待遇」又怕又無奈 (6,958次)

14. 習老家的陝西省軍區也不向習表忠了 (6,938次)

15. 上海變成空城 人都跑光 年味全無!(視頻) (6,937次)

16. 從中共最高政治原則改變看習的權力弱化 (6,934次)

普京與習近平視會敲打川普 美國總統迅速回應(圖)
17. 普京與習近平視會敲打川普 美國總統迅速回應(圖) (6,878次)

張又俠再透軍隊聽誰指揮 何衞東說辭無人在意(圖)
18. 張又俠再透軍隊聽誰指揮 何衞東說辭無人在意(圖) (6,767次)

19. 軍方演出節目中不吹捧「習主席」了 (6,713次)

20. 給鼻子上臉 川普怒棄習近平 (6,656次)

21. 韓正參加川普「總統就職典禮」 習中共走向末路 (6,601次)

22. 傳趙本山攜團出逃美國求庇護:事出反常必有妖 (6,452次)

23. 末世謠言盛行 誰說天機不可洩漏?(視頻) (6,316次)

24. 史上最慘中國年 絕望哀嚎!(視頻) (6,259次)

25. 中國「古鎮」批量淪為空城鬼鎮!(視頻) (6,183次)

26. 美國開啟黃金時代 中共進入歷史垃圾時期 (6,138次)

27. 中紀委亮打虎業績曝江時代延留的罪惡正毀滅中共 (6,136次)

去年非稅收入大增25% 打家劫舍罰款手段惹眾怒(圖)
28. 去年非稅收入大增25% 打家劫舍罰款手段惹眾怒(圖) (6,114次)

29. 習近平戰略欺詐 對美鬥爭明降暗升 (6,081次)

30. 史上最慘淡中國年 年貨市場哀鴻遍野!(視頻) (6,069次)

31. 美政要為民國參與聯合國發聲 中共狂跳暴露「黨獨」醜態 (6,000次)

32. 史上最慘淡新年 蕭條、沒錢、絕望、迷茫!(視頻) (5,880次)

大年初一中共就吃了官司 被美國告賠250億美元(圖)
33. 大年初一中共就吃了官司 被美國告賠250億美元(圖) (5,821次)

川普風暴沖擊達沃斯 中共面臨極限施壓(圖)
34. 川普風暴沖擊達沃斯 中共面臨極限施壓(圖) (5,741次)

日經曝川習幕後對話 川普拆彈中俄聯盟(圖)
35. 日經曝川習幕後對話 川普拆彈中俄聯盟(圖) (5,741次)

 
本報記者
 
 
專欄作者
首頁 要聞 內幕 時事 幽默 國際 奇聞 災禍 萬象 生活 文化 專題 寰宇 維權 視頻 雜談
 
 
Copyright© RMB Public Foundation Inc. All Rights Reserved