作者:
Kai877 (淡江吳籤)
2025-03-06 12:45:27DeepSeek破解率100%!R1上市2天就被破解 專家曝衍生效應
https://reurl.cc/Q50XLq
2025/03/06 12:37:27
聯合報 編譯盧思綸
中國人工智慧(AI)新創「深度求索」(DeepSeek)以低成本、高性能的模型震撼矽谷乃至
國際社會。不過,全球網路安全巨頭思科(Cisco Systems)執行副總裁巴特爾(Jeetu Pat
el)透露,DeepSeek的R1模型上市不到48小時便被破解,攻擊成功率達100%,造成「DeepSe
ek效應」(DeepSeek effect),也就是AI模型成本下降後數量激增,顯著加劇該領域的安
全風險。
巴特爾(Jeetu Patel)告訴日經亞洲,當模型數量較少時,面對的挑戰相對較小,但隨著
模型數量激增,這些挑戰將變得更加複雜,「因此,需要確保所有模型都內建安全防護標準
」。
巴特爾表示,思科團隊在DeepSeek推出R1模型僅48小時內便成功「越獄」,破解原先設定的
操作規範和限制。
此外思科評估報告顯示,攻擊R1的成功率為100%,也就是說,它無法阻擋任何有害提示(pr
ompt)。提示是指請求生成式AI執行特定任務的自然語言文字。相形之下,OpenAI的AI模型
被攻擊成功率為26%。
巴特爾談到,AI模型部署將遭遇許多「瓶頸」限制。他說:「我們的效能、網路連結、連接
性都是瓶頸。安全也會是限制。計算、數據都會是限制。」
心得:
看來成本降低的同時,安全風險也提高很多
大家要買還是會買沒有安全疑慮的
輝達還是利多,準備上看200~