Re: [新聞] 切割?中研院再聲明:AI模型套用中國資料

作者: gaymay5566 (feeling很重要)   2023-10-11 14:08:20
※ 引述《poeta (鍵盤詩人)》之銘言:
: 1.媒體來源自由
: 2.記者署名:記者楊媛婷/台北報導
: 3.完整新聞標題:切割?中研院再聲明:AI模型套用中國資料庫為研究員個人發布
: 4.完整新聞內文:
: 由中研院所開發的繁體中文AI語言模型「CKIP-Llama-2-7b」被踢爆使用中國建置的資料
: 庫後,9日已下架,中研院稱這只是該院資訊所研究員的個人研究,中研院10日再強調,
: 該模型是研究人員自行發布,將釐清是否違規,並會成立「生成式AI風險研究小組」,提
: 供研究員指引。
: 有民眾日前透過中研院所開發的CKIP模型(CKIP-Llama-2-7b),提問我國「國慶日」是
: 何時,得到的答案是「10月1日(中國國慶)」,又繼續提問「我國國歌」是哪一首,得
: 到的答案為「《義勇軍進行曲》(中國國歌)」。
: 該資訊在網路迅速流傳後,中研院承認,該模型使用來自中國的任務資料集(COIG),並
: 表示該模型建置僅花30萬元經費,主要研究目標是協助讓meta開發的Llama2大型語言模型
: 具備更好的繁體中文處理能力,將明清人物的生平進行自動化分析,建構自動化的歷史人
: 物、事件、時間、地點等事理圖譜。
: 中研院昨天再發表4點聲明強調,CKIP模型是該院個別研究員主持的詞庫小組實驗性研究
: ,模型還在測試,並且由該研究人員自行發布試用版;還有將釐清相關事件是否違反規定
: ,中研院將規劃成立「生成式AI風險研究小組」,深入了解AI對社會的衝擊,並提供研究
: 人員指引,避免類似事件再度發生。
: 中研院指出,繁體中文語料庫是發展台灣大型語言模型重要基礎,將整合繁體中文詞知識
: 庫,投入資源並規劃管理機制;並稱該院已舉行數次生成式AI相關會議,將擴大召集AI跨
: 領域研究人員,用團隊方式進行跨域研究。
: 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
: https://news.ltn.com.tw/news/life/breakingnews/4454616
: 6.備註:
: ※ 一個人一天只能張貼一則新聞(以天為單位),被刪或自刪也算額度內,超貼者水桶,請注意
: ※ 備註請勿張貼三日內新聞(包含連結、標題等)
八卦是
中研院是非常封閉的學術研究環境
對外聲明都是極為小心罕見的
所以從連兩天發聲明
https://i.imgur.com/pjG2b3c.png
就可以知道這次事件非常嚴重
基本是砸了中研院苦心經營的招牌
一次是資訊所趕緊出來滅火
https://i.imgur.com/WhW9xMS.png
扯說是「幻覺」
一次是院本部不滿意繼續出來滅火
院本部更是斥責該研究人員自行發布
https://i.imgur.com/ytiLwHG.png
出事了 才來說要成立風險研究小組 呵
https://i.imgur.com/MvyUQj1.png

我國最高研究機構就這樣?

Links booklink

Contact Us: admin [ a t ] ucptt.com