[新聞] 歐盟委員會提出新人工智慧規範

作者: zxcvxx (zxcvxx)   2021-04-23 14:17:07
標題:
歐盟委員會提出新人工智慧規範
新聞來源: (須有正確連結)
https://bit.ly/3gyieI0
歐盟委員會(European Commission)於2021年4月21日提出了人工智慧(AI)法規,旨在將
歐洲變打造值得信賴的人工智慧(AI)的全球中心。歐盟有史以來第一個人工智慧的法律
框架與歐盟成員國的協調計畫相結合,將保證人們和企業的安全和基本權利,同時加強歐
盟對人工智慧的吸收、投資和創新。新法規將調整安全規範,以增加使用者對新一代多功
能產品的信任。
新的人工智慧法規將確保歐洲人民可以信任人工智慧產品。相稱和靈活的規則旨在解決人
工智慧系統帶來的具體風險,並在全球範圍內設定最高標準。協調計畫(The
Coordinated Plan)概述了歐盟成員國必要的政策改變和投資,以加強歐洲在發展以人為
本、永續、安全、包容和值得信賴的人工智慧方面的領先地位。
新的法規基於人工智慧發展趨勢,依據風險高低分類,將適用於所有歐盟成員國。
不可接受的風險(Unacceptable risk):被認為對人們的安全、生計和權利有明顯威脅
的人工智慧系統將被禁止。這包括操縱人類行為以規避使用者自由意志的人工智慧系統或
應用(例如,使用語音輔助的玩具,鼓勵未成年人的危險行為)和允許政府進行「社會評
分(social scoring)」的系統。
高風險(High-risk):被認定為高風險的人工智慧系統涉及到以下用途
重要基礎設施(如交通),可能使人民的生命和健康受到威脅;
教育或職業培訓,可能決定某人的受教育機會(如考試評分);
產品的安全零件(如AI在機器人輔助手術中的應用);
就業、員工管理和自雇管道(如徵才使用的履歷分類軟體);
基本的私人和公共服務(如信用評分剝奪了公民取得貸款的機會);
可能干涉人們基本權利的執法(如評斷證據可靠性的系統);
移民、庇護和邊境控制管理(如核實旅行文件真實性的系統);
利用AI於司法和民主程序。
高風險的人工智慧系統上市前,將受到嚴格的管控約束:
充分的風險評估和緩解系統;
為系統提供高品質的資料集,以儘量減少風險和歧視性的結果;
對活動進行記錄,以確保可追溯結果;
提供關於系統及其目的的所有必要資訊,以便監管單位評估其合規性;
向使用者提供充分且清晰的資訊;
適當的人力監督措施,以最大限度地減少風險;
高度的穩健性、安全性和準確性。
特別是:
所有遠端生物辨識(remote biometric identification)系統都被視為高風險的人工智
慧系統。
原則上禁止在公共場所為執法目的使用,狹義的例外情況有嚴格的定義和規定(例如,在
尋找失蹤兒童、防止具體和緊迫的恐怖主義威脅或偵查、定位、識別或起訴嚴重刑事犯罪
的肇事者或嫌疑人的需要)。
使用上必須取得司法或其他獨立機構的授權,並在時間、地理範圍和搜索的資料庫方面有
適當的限制。
有限的風險(Limited risk):即具有透明公開義務的人工智慧系統。在使用人工智慧系
統(如聊天機器人)時,使用者應該能意識到正在與機器互動,進而做出明智的決定。
最小的風險(Minimal risk):法規允許自由使用人工智慧的電子遊戲或垃圾郵件篩檢程
式等應用,絕大多數的人工智慧系統都屬於這個類別,對此不作干預,因為這些系統對公
民的權利或安全只構成最小或沒有風險。
在監管方面,歐盟委員會建議各國市場監督主管部門配合新的法規,並將設立歐洲人工智
慧委員會(European Artificial Intelligence Board)促進其實施,推動人工智慧標準
的發展。此外,還提議為非高風險的人工智慧系統制定自發性的行為準則,建立監管沙盒
(regulatory sandbox)以促進創新。
《歐盟AI協調計畫〈Coordinated Plan on AI〉》
《歐盟AI協調計畫》首次發佈於2018年,確定發展人工智慧的行動和工具,使國家策略和
歐盟公私合作關係和研究與創新網路形成了充滿活力的局面。協調計畫的全面更新提出了
具體的合作行動,並確保與歐洲人工智慧策略(European Strategy on AI)和歐洲綠色
新約(European Green Deal)步調一致,同時考慮到COVID-19帶來的新挑戰。協調計畫
提出了一個加快人工智慧投資的願景,推動疫後復甦,刺激各國人工智慧發展策略,消除
碎片化,應對全球挑戰。
協調計畫將透過數位歐洲(Digital Europe)和展望歐洲(Horizon Europe)計畫,以及
歐盟復甦基金20%數位支出目標和歐盟凝聚政策(Cohesion Policy)分配的資金來進行:
通過交流政策見解、資料共用和對關鍵計算能力的投資,為人工智慧的發展創造有利環境

透過公私協力夥伴關係(PPP),建立研究、開發和創新能力,並向中小企業和公共管理
部門提供測試和實驗設施以及數位創新中心,促進人工智慧的商業化。
支援數位領域的培訓計劃、博士生網路和博士後獎學金來培養人才和技能,在全球範圍內
促進歐洲人工智慧願景,確保人工智慧為人們服務,成為社會的一股力量;
在高影響力的部門和技術中建立策略領導地位,包括人工智慧對永續環境的貢獻、擴大跨
境資訊交流來推動智慧醫療系統,以及人工智慧在公共部門、交通、農業,以及機器人技
術的應用。
《機械條例〈Machinery Regulation〉》:涵蓋了廣泛的消費者和專業產品,從機器人到
割草機、3D印表機、建築機械、工業生產線。確保新一代的機械保使用者和消費者的安全
,並鼓勵創新。雖然人工智慧法規將解決人工智慧系統的安全風險,但新的機械條例將確
保人工智慧系統與整個機械的安全整合。企業將只需要執行一個單一的合格評估。
此外,新的機械條例將使現行規定更加明確,透過允許文件的數位格式和調整中小企業的
合格評估費用,簡化企業的行政負擔和成本,同時確保與歐盟產品立法框架的一致性。
歐洲議會(European Parliament)和歐盟成員國將需要在普通立法程式中通過歐盟委員
會對於人工智慧系統和機械的建議。一旦通過,這些條例將直接適用於整個歐盟。同時,
歐盟委員會將繼續與成員國合作,推動實施協調計畫。
背景:
多年來,歐盟委員會一直在促進和加強整個歐盟在人工智慧方面的合作,以提高競爭力並
確保基於歐盟價值觀的信任。
在2018年發佈歐洲人工智慧策略(European Strategy on AI)後,經過廣泛的協商討論
,人工智慧高階專家小組(High-Level Expert Group on Artificial Intelligence)在
2019年制定了可信賴人工智慧準則(Guidelines for Trustworthy AI),並在2020年制
定了可信賴人工智慧評估清單(Assessment List for Trustworthy AI)。同時,2018年
12月發佈了第一個的人工智慧協調計畫,作為與成員國的聯合承諾。
委員會在2020年發佈的人工智慧白皮書(White Paper on AI)為歐洲的人工智慧提出了
一個清晰的願景:一個卓越和信任的生態系統,為AI法規提案奠定基礎。關於人工智慧白
皮書的公眾諮詢引起了世界各地的廣泛參與。白皮書中的關於人工智慧、物聯網和機器人
的安全和責任影響的報告,提到產品安全立法仍不夠完整。
歐擬推AI法規 業界反彈聲浪
對於歐盟提出全新法案管制人工智慧(AI)的應用方法,如果立法過關將成為全球第一套
管制AI的法規,但企業擔心新法增加AI使用成本,限制或打壓歐盟科技創新。
歐盟最新法案將AI應用方法依風險高低分類,其中高風險AI應用涵蓋重大基礎建設、大學
入學篩選系統及銀行貸款審查系統等。根據新法,這類高風險AI應用將受到歐盟嚴格監管
,違法企業最高面臨全球年營收6%的罰款。
除了加強監管之外,新法更將禁止特定AI應用,例如公共運輸系統、公共場所、商店使用
臉部辨識偵測、警察追查犯人的遠端生物辨識系統,或是能夠讀取潛意識的AI技術。新法
規規定,在使用前,必須先向主管機關提出法規遵從報告,詳述臉部辨識系統如何取得資
料。
對於AI新法被批評過於攏統不明,實際該如何實施仍有待觀察。法律界人士認為,法規例
外情況實在太多,反而失去AI規範保護及禁止的意義。
※每日每人發文、上限量為十篇,超過會劣文請注意
⊕標題選用"新聞",請確切在標題與新聞來源處填入,否則可無條件移除(本行可移除)

Links booklink

Contact Us: admin [ a t ] ucptt.com