[新聞] DeepSeek破解率100%!R1上市2天就被破解

作者: Kai877 (淡江吳籤)   2025-03-06 12:45:27
DeepSeek破解率100%!R1上市2天就被破解 專家曝衍生效應
https://reurl.cc/Q50XLq
2025/03/06 12:37:27
聯合報 編譯盧思綸
中國人工智慧(AI)新創「深度求索」(DeepSeek)以低成本、高性能的模型震撼矽谷乃至
國際社會。不過,全球網路安全巨頭思科(Cisco Systems)執行副總裁巴特爾(Jeetu Pat
el)透露,DeepSeek的R1模型上市不到48小時便被破解,攻擊成功率達100%,造成「DeepSe
ek效應」(DeepSeek effect),也就是AI模型成本下降後數量激增,顯著加劇該領域的安
全風險。
巴特爾(Jeetu Patel)告訴日經亞洲,當模型數量較少時,面對的挑戰相對較小,但隨著
模型數量激增,這些挑戰將變得更加複雜,「因此,需要確保所有模型都內建安全防護標準
」。
巴特爾表示,思科團隊在DeepSeek推出R1模型僅48小時內便成功「越獄」,破解原先設定的
操作規範和限制。
此外思科評估報告顯示,攻擊R1的成功率為100%,也就是說,它無法阻擋任何有害提示(pr
ompt)。提示是指請求生成式AI執行特定任務的自然語言文字。相形之下,OpenAI的AI模型
被攻擊成功率為26%。
巴特爾談到,AI模型部署將遭遇許多「瓶頸」限制。他說:「我們的效能、網路連結、連接
性都是瓶頸。安全也會是限制。計算、數據都會是限制。」
心得:
看來成本降低的同時,安全風險也提高很多
大家要買還是會買沒有安全疑慮的
輝達還是利多,準備上看200~
作者: a89182a89182 (豬豬肉桂卷)   2025-03-06 12:47:00
破解 LLM意義在哪 他就開源了 害怕你知道背景內容?就騙自己而已啊
作者: squeakywheel   2025-03-06 12:51:00
屁話連篇 翻譯:還是美爹閉源好
作者: AustinRivers (我盡力了Q___Q)   2025-03-06 12:57:00
人家開源給大家用……
作者: cityhunter04 (無聊的乖小孩 )   2025-03-06 13:13:00
還有人要酸台灣!台灣到底要發展多少行業啊?
作者: calmerrorans (虎爛摳)   2025-03-06 13:40:00
連線的可以拆嗎
作者: a89182a89182 (豬豬肉桂卷)   2025-03-06 13:56:00
拆掉防護機制問題在哪 ?這根本不是DS賣點阿 然後再來酸別人不懂 我就很好奇你們是又有多麼專業了那你還看不懂 不是上課都白學了

Links booklink

Contact Us: admin [ a t ] ucptt.com