人工智能的倫理學(xué)問(wèn)題一直是學(xué)界和政界關(guān)注的重點(diǎn)之一，對(duì)于所有人來(lái)說(shuō)，人工智能帶來(lái)的法律和道德問(wèn)題都是一個(gè)全新的課題，而對(duì)這一課題的研究結(jié)果，不但將影響未來(lái)人工智能的研究，同樣也對(duì)AI的商業(yè)化落地有著極高的參考意義。

如何讓科學(xué)遠(yuǎn)離罪惡？我們都在摸著石頭過(guò)河。

在一篇關(guān)于人臉識(shí)別的潛在用途和濫用的博客文章中，微軟總裁 Bradford L． Smith 將該技術(shù)與受到全面監(jiān)管的藥品和汽車(chē)等產(chǎn)品進(jìn)行了比較，并敦促美國(guó)國(guó)會(huì)展開(kāi)研究并監(jiān)督人臉識(shí)別技術(shù)的使用。

此前，眾多學(xué)者與開(kāi)發(fā)者們簽署了一份公開(kāi)信，其中要求科技公司停止向政府和執(zhí)法機(jī)構(gòu)提供人臉識(shí)別技術(shù)，停止當(dāng)前的數(shù)據(jù)分析和 AI 服務(wù)合同，并考慮制定道德準(zhǔn)則，禁止威脅隱私、公民和人權(quán)的技術(shù)的武器化與軍事化，建立透明和有問(wèn)責(zé)機(jī)制的制度，以確保上述準(zhǔn)則的實(shí)行。

近期微軟因一份涉及人臉識(shí)別軟件的政府合同而受到廣泛抨擊，微軟公司表示，它將更加謹(jǐn)慎地考慮這方面的合同，并敦促立法者規(guī)范此類(lèi)人工智能技術(shù)的使用，以防止濫用。

作為人臉識(shí)別軟件主要制造商之一，微軟表示它將采取措施降低這些系統(tǒng)產(chǎn)生偏差的可能性；制定新的公共原則來(lái)管理技術(shù)；并會(huì)更謹(jǐn)慎地出售其在該領(lǐng)域的軟件和專(zhuān)業(yè)知識(shí)。微軟指出，雖然技術(shù)行業(yè)需要對(duì)其產(chǎn)品負(fù)責(zé)，但是政府也要采取行動(dòng)。

微軟總裁兼首席法務(wù)官 Brad Smith 周五在其博客中寫(xiě)道：“政府管理技術(shù)使用的唯一有效方法是它主動(dòng)采取行動(dòng)。而且如果人們擔(dān)心一項(xiàng)技術(shù)在全社會(huì)被廣泛使用，那么規(guī)范該項(xiàng)技術(shù)廣泛應(yīng)用的唯一措施應(yīng)由政府出面。實(shí)際上，我們認(rèn)為這就是現(xiàn)在所需要的—一項(xiàng)首先由民主、共和兩黨代表和專(zhuān)家委員會(huì)通報(bào)的政府倡議，旨在規(guī)范人臉識(shí)別技術(shù)的正確使用。”

微軟、谷歌、亞馬遜等公司因向美國(guó)政府和當(dāng)?shù)鼐匠鍪?AI 軟件，尤其是人臉識(shí)別軟件而受到民間自由團(tuán)體及這些公司內(nèi)部雇員的抨擊。對(duì)于科技公司來(lái)說(shuō)，這種要求對(duì)自己產(chǎn)品進(jìn)行更嚴(yán)厲監(jiān)管的行為并不常見(jiàn)，但是 Smith 與微軟人工智能及微軟研究事業(yè)部負(fù)責(zé)人沈向洋今年早些時(shí)候就寫(xiě)了一篇文章，稱(chēng) AI 的發(fā)展需要新的法律來(lái)規(guī)范。

Smith 寫(xiě)道，“雖然我們明白現(xiàn)在很多人要求科技公司來(lái)做這些，我們也明確意識(shí)到自己需要履責(zé)，但我們認(rèn)為，這不足以代替公眾及其代表的決策。”

人臉識(shí)別系統(tǒng)通常具備嚴(yán)重的缺陷，尤其是難以識(shí)別和區(qū)分膚色較深的人。微軟研究者 Timnit Gebru 和 MIT 媒體實(shí)驗(yàn)室 Joy Buolamwini 二月發(fā)表的一篇論文表明人臉識(shí)別系統(tǒng)對(duì)膚色較深的女性的分類(lèi)誤差高達(dá) 35％。微軟的研究機(jī)構(gòu)致力于修正研究者在其人臉識(shí)別軟件中發(fā)現(xiàn)的問(wèn)題。

隨著技術(shù)的迅速發(fā)展，微軟提倡適應(yīng)云計(jì)算和人工智能等新興領(lǐng)域的新法律。微軟就隱私問(wèn)題與美國(guó)政府展開(kāi)抗?fàn)帲Q(chēng)美國(guó)政府在云計(jì)算方面使用了老舊的通信法，微軟支持折中的法案，用于直接解決云時(shí)代的數(shù)據(jù)隱私問(wèn)題和搜索問(wèn)題。

微軟應(yīng)對(duì)民眾抗議的方式與亞馬遜略有不同。在六月回應(yīng)抗議聲的一篇博客中，亞馬遜的 AI 負(fù)責(zé)人 Matt Wood 寫(xiě)道，“新技術(shù)能力一直都存在風(fēng)險(xiǎn)，以后也會(huì)如此。每個(gè)選擇使用技術(shù)的組織必須采取負(fù)責(zé)任的行動(dòng)，否則就得面臨法律懲罰和公眾譴責(zé)的風(fēng)險(xiǎn)。AWS 會(huì)認(rèn)真對(duì)待自己的責(zé)任。但我們認(rèn)為，不能因?yàn)槟承┘夹g(shù)未來(lái)可能被人濫用就禁止這些技術(shù)的發(fā)展，這樣是不對(duì)的。”

Smith 寫(xiě)道，政府規(guī)范應(yīng)該考慮的問(wèn)題是警察使用人臉識(shí)別軟件是否需要人類(lèi)監(jiān)督和控制，零售商是否必須張貼顯眼的標(biāo)識(shí)（如果他們?cè)诠矃^(qū)域使用了此類(lèi)軟件）。其它需要考慮的范圍包括是否要求企業(yè)在收集個(gè)人圖像之前先征求用戶(hù)同意，以及認(rèn)為自己被人臉識(shí)別系統(tǒng)錯(cuò)誤識(shí)別的人享有哪些法律權(quán)利。

紐約大學(xué)法學(xué)教授 Barry Friedman 稱(chēng)，執(zhí)法機(jī)關(guān)使用人臉識(shí)別技術(shù)卻欠缺規(guī)范，這引起了人們對(duì)種族差異和隱私問(wèn)題的擔(dān)憂(yōu)。他同時(shí)也負(fù)責(zé) The Policing Project，該計(jì)劃致力于為執(zhí)法設(shè)定規(guī)范和準(zhǔn)則。

最高法院規(guī)定警察在沒(méi)有許可證或正當(dāng)理由的情況下不得長(zhǎng)期獲取手機(jī)數(shù)據(jù)，類(lèi)似的限制也應(yīng)該應(yīng)用到警察對(duì)人臉識(shí)別技術(shù)的使用上，Barry Friedman 稱(chēng)。

“該技術(shù)正在飛快地追趕我們，”Friedman 說(shuō)道，“如果我們不走到前頭，一切將覆水難收。”

微軟在上個(gè)月曾因民眾抗議 AI 技術(shù)被用于在墨西哥邊境分離非法入境者及其子女后，短暫地在網(wǎng)站上刪除了其與美國(guó)移民和海關(guān)執(zhí)法局簽訂合同的文章。但隨后，相關(guān)博客又被恢復(fù)。

雖然微軟隨后宣稱(chēng)公司與移民局簽訂的合同主要涉及在云端處理舊電子郵件和員工協(xié)作系統(tǒng)，但其博文明確提到了使用人臉識(shí)別工具的可能性。隨后，數(shù)百名微軟員工簽署了一份請(qǐng)?jiān)笗?shū)，要求公司停止向政府出售相關(guān)服務(wù)。針對(duì)非法移民的 AI 項(xiàng)目甚至影響到了微軟剛剛收購(gòu)的 GitHub，6 月中旬起，數(shù)百名開(kāi)源社區(qū)貢獻(xiàn)者在網(wǎng)上簽署了一份公開(kāi)信，同樣要求微軟解除與政府部門(mén)的 AI 合同，并號(hào)召抵制 GitHub。

人臉識(shí)別是目前 AI 領(lǐng)域里應(yīng)用最廣泛的技術(shù)之一，但在推廣的過(guò)程中也引起了越來(lái)越多的爭(zhēng)議。今年 4 月，個(gè)人隱私保護(hù)組織向美國(guó)聯(lián)邦貿(mào)易委員會(huì)提起訴訟，稱(chēng) Facebook 在未獲得用戶(hù)適當(dāng)許可的情況下開(kāi)啟了新的人臉識(shí)別服務(wù)。Facebook 否認(rèn)了這些團(tuán)體的指控。

而今年 5 月，亞馬遜因?yàn)閷?Rekognition AI 服務(wù)出售給當(dāng)?shù)鼐蕉馉?zhēng)議，美國(guó)公民自由聯(lián)盟正要求該公司停止允許政府使用這項(xiàng)技術(shù)。

值得一提的是，在歐盟，有關(guān)人工智能侵犯隱私的一些問(wèn)題已經(jīng)得到了解決。一項(xiàng)嚴(yán)格的新數(shù)據(jù)保護(hù)法已禁止公司在未獲得用戶(hù)特定同意的情況下收集人臉識(shí)別所需的生物特征數(shù)據(jù)。