歐盟委員會(huì)（European Commission）4月21日發(fā)表了一份提案，要求對(duì)歐盟人工智能的使用進(jìn)行監(jiān)管，這是其作為全球監(jiān)管機(jī)構(gòu)正在發(fā)揮的作用的一部分。

事情不會(huì)在一夜之間改變。歐盟的人工智能規(guī)則提案是官員、行業(yè)專家和公眾協(xié)商三年工作的結(jié)果，必須通過(guò)歐洲議會(huì)的要求才能成為法律。然后，歐盟成員國(guó)往往需要數(shù)年時(shí)間才能將歐盟層面的法規(guī)轉(zhuǎn)變?yōu)閲?guó)家法律法規(guī)。

該提案為人工智能相關(guān)活動(dòng)定義了四個(gè)層次，并為每個(gè)層次定義了不同的監(jiān)督級(jí)別。第一層是不可接受的風(fēng)險(xiǎn)：一些人工智能的使用將在公共場(chǎng)所被徹底禁止，國(guó)家法律允許的特定例外情況除外，并受到額外的監(jiān)督和更嚴(yán)格的記錄和人為監(jiān)督。最受關(guān)注的人工智能活動(dòng)可能是實(shí)時(shí)遠(yuǎn)程生物識(shí)別，即面部識(shí)別。該提案還禁止?jié)撘庾R(shí)行為修改和社會(huì)評(píng)分應(yīng)用。該提案建議對(duì)商業(yè)違規(guī)者處以相當(dāng)于其全部年收入6%的罰款。這是迄今為止監(jiān)管人工智能高風(fēng)險(xiǎn)應(yīng)用的最大努力之一。

該提案下一步定義了一個(gè)高風(fēng)險(xiǎn)類別，由系統(tǒng)的目的以及潛在的危害和可能性決定。提案中列舉的例子包括招聘、信用檢查和司法系統(tǒng)。這些規(guī)則將要求此類人工智能應(yīng)用程序使用高質(zhì)量的數(shù)據(jù)集，記錄其可追溯性，與用戶共享信息，并考慮到人為的監(jiān)督。歐盟將根據(jù)擬議的規(guī)則建立一個(gè)此類系統(tǒng)的中央登記冊(cè)，并在部署前要求獲得批準(zhǔn)。

風(fēng)險(xiǎn)有限的場(chǎng)景包括聊天機(jī)器人等，歐盟建議應(yīng)讓用戶知曉自己在與機(jī)器互動(dòng)，并有權(quán)決定繼續(xù)對(duì)話還是退出。最后還有一層應(yīng)用程序被判斷為風(fēng)險(xiǎn)最小，其應(yīng)用場(chǎng)景包括基于人工智能的電子游戲和垃圾郵件識(shí)別軟件等。

當(dāng)政府提出新規(guī)則手冊(cè)（這本是108頁(yè)）時(shí)經(jīng)常發(fā)生的情況是，行業(yè)和民間社會(huì)團(tuán)體的最初反應(yīng)似乎更多地是關(guān)于行業(yè)監(jiān)督的存在和范圍，而不是規(guī)則的具體內(nèi)容。英國(guó)牛津大學(xué)和德國(guó)柏林Weizenbaum研究所的人工智能治理研究員Lisa Maria Neudert說(shuō)：“我認(rèn)為這項(xiàng)監(jiān)管措施背后的一個(gè)想法是試圖平衡風(fēng)險(xiǎn)，讓人們對(duì)人工智能感到興奮，重新獲得信任?！庇?guó)勞埃德注冊(cè)基金會(huì)（Lloyds Register Foundation）2019年的一項(xiàng)民意調(diào)查發(fā)現(xiàn)，全球公眾對(duì)人工智能的恐懼和興奮大致相當(dāng)。

“我可以想象，如果你有一個(gè)經(jīng)驗(yàn)豐富的大型法律團(tuán)隊(duì)，這可能會(huì)有所幫助，”Neudert說(shuō)，以幫助合規(guī)，這可能是“一個(gè)很難達(dá)成的平衡”之間的規(guī)則，保持創(chuàng)業(yè)友好和成功地控制大公司。

人工智能研究人員Mona Sloane和Andrea Renda在《VentureBeat》一書中寫道，這些規(guī)則在人工智能獲得批準(zhǔn)和發(fā)布后，對(duì)其運(yùn)行情況的監(jiān)控較弱，忽視了“人工智能相關(guān)風(fēng)險(xiǎn)的一個(gè)關(guān)鍵特征：它是普遍存在的，而且是突發(fā)的，通常在開發(fā)和部署后以不可預(yù)測(cè)的方式演變”。

2018年歐盟出臺(tái)的新隱私法《一般數(shù)據(jù)保護(hù)條例（General Data Protection Regulation，GDPR）》為廣泛適用的數(shù)據(jù)監(jiān)管規(guī)則提供了模板，并以高額罰款作為支撐，歐洲已經(jīng)從中吸取了教訓(xùn)。

Neudert說(shuō)：“我認(rèn)為我們不應(yīng)該（從GDPR到擬議的人工智能規(guī)則）一概而論，但可以公平地假設(shè)，這么大一部分立法將在歐盟以外產(chǎn)生影響?！睂?duì)于其他地方的立法者來(lái)說(shuō)，仿效一個(gè)模板要比復(fù)制歐盟在研究、社區(qū)參與和規(guī)則制定方面的大量投資容易得多。

雖然科技公司及其行業(yè)團(tuán)體可能會(huì)抱怨需要遵守早期的人工智能規(guī)則，《注冊(cè)》專欄作家Rupert Goodwin建議，他們最好集中精力組建一些行業(yè)組織，這些組織將決定未來(lái)規(guī)則的履行和實(shí)施：“你可能已經(jīng)在一個(gè)行業(yè)組織中從事人工智能道德或評(píng)估；如果不是，那就把它們看作是影響成長(zhǎng)的種子?！?/p>

除了法律框架外，歐委會(huì)當(dāng)天還公布了針對(duì)機(jī)器人、3D打印機(jī)等的人工智能機(jī)器條例，以及人工智能協(xié)調(diào)計(jì)劃，旨在加強(qiáng)對(duì)人工智能研發(fā)的鼓勵(lì)和扶持。這套政策建議尚需經(jīng)過(guò)歐洲議會(huì)和歐盟理事會(huì)批準(zhǔn)。

原文標(biāo)題：歐盟提出AI監(jiān)管新法案

文章出處：【微信公眾號(hào)：IEEE電氣電子工程師】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。

責(zé)任編輯：haq