人工智能（AI）技術正在全球迅速崛起。不斷涌現的最新發展令世人矚目，從以假亂真的深度偽造視頻，再到先進的算法——足以在多人撲克大戰中擊敗世界上最好的玩家。但是，AI所引起的道德問題也受到越來越多人的關注。

為了正確地解決這項技術帶來的影響，我們需要了解這些工具的部署情況以及它們的使用方式。本文匯集了全球176個國家AI監控使用的數據，將為你呈上一份人工智能全球監控指數（AI GLOBAL SURVEILLANCE，簡稱AIGS）報告。報告的主要發現包括：

AI監控技術的傳播速度超出了專家的預期。全球176個國家中，至少有75個國家正在積極利用AI技術進行監控。

中國是全球AI監控的主要推動者。與中國相關的公司（特別是華為、海康威視、大華和中興通訊）為63個國家提供了AI監控技術，無人出其右。

但中國并不是全球范圍內唯一一個提供先進監控技術的國家，美國公司也在積極參與。其他自由民主國家（法國、德國、以色列、日本）的公司也在擴大這項技術方面發揮著重要作用。

國家的軍事支出與政府使用AI監控系統之間存在著密切的關系：全球50個軍事國家中有40個使用了AI監控技術。

“2018年網絡自由”報告指出，全球65個國家中有18個國家使用了中國公司開發的AI監控技術。本報告顯示，2019年，在這65個國家中使用了中國AI監控技術的國家數量已增至47個。

1

AI全球監控指數簡介

人們一度認為AI技術只會出現在科幻世界里，但如今這些技術已經滲透到了生活的方方面面。為我們的智能手機提供動力，推薦我們喜歡的音樂，并為我們提供社交媒體信息——AI最強大的地方就在于無孔不入。

按照計算機科學家Nils Nilsson的說法，一般而言，AI的目標是“實現機器的智能化”，具體方法是自動化或“讓實體能夠在環境中正確地運行并具有一定的預見性”。AI不是某種特定的技術，我們應該將AI視作集成系統，其融合了獲取目標信息、邏輯推理原則和自我糾錯能力。AI的一個主要子領域是機器學習，這是一個統計過程——通過大量的信息分析來識別模式以及解釋當前數據和預測未來。該領域有幾項突破性的新成就：成熟的機器學習以及剛剛嶄露頭角的深度學習；云計算和在線數據收集；新一代先進的微芯片和計算機硬件；復雜算法性能的提升；以及其他由市場驅動的AI技術的新用途。

如果不出所料的話，AI的影響遠遠超出了個人消費者的選擇范圍。AIGS指數的發現得出了三個關鍵性的見解。

首先，全球范圍內AI監控技術的使用正在迅速蔓延。75個國家/地區（占評估國家的43%）正在以合法和非法的方式部署AI監控。“2018年網絡自由”報告表示，經過對65個國家進行評估后，發現有18個國家都在使用中國公司的AI監控技術。一年后，AIGS指數發現同一批國家中有47個國家/地區目前正在部署中國公司提供的AI監控技術。

下圖1顯示了采用了AI監控技術的國家占各自地區的百分比：

其次，中國是AI監控技術的主要供應商。報告發現全球至少有64個國家采用了與中國公司相關的技術，僅華為一家就負責向至少50個國家提供AI監控技術。然而，中國并不是唯一一個提供先進的AI監控技術的國家，法國、德國、日本和美國也積極地參與了該領域。

下圖2顯示了該行業的龍頭公司：

第三，自由民主國家也是AI監控技術的主要用戶。AIGS指數顯示，有51%的高級民主國家部署了AI監控系統。相比之下，部署了AI監控技術的封閉式專制國家占37%，選舉專制/競爭性專制國家為41%，而選舉民主/自由民主國家為41%。自由民主政府正在積極地利用AI工具來監視邊界、逮捕潛在的罪犯、監視公民的不良行為，以及從人群中找出可疑的恐怖分子。

2

AI監控的類型

下面來介紹主要的AI監控技術，報告詳細介紹AIGS指數考慮在內的三種AI監控工具：智能城市/安全城市平臺，面部識別系統，以及智能警務。此外，其中還描述了為了讓AI監控工具正常運行而需要的技術，特別是云計算和物聯網（IoT）網絡。不過，這些技術的采用并沒有被AIGS指數考慮在內。

更重要的是，AI監控并不是獨立的控制工具，而是形成了一整套數字化控制工具——通過信息和通訊科技來監控、威懾、強迫和騷擾對手，從而給目標施加壓力，迫使其放棄進行特定的行為。

表1總結了每一種技術和相應的全球部署情況。

表1 AI監控技術總結和全球普及程度

世界銀行認為，智能城市是“科技密集”的城市中心，利用傳感器陣列，從“幾千個互聯的設備”上實時收集信息，從而改善服務提供和城市管理。該技術可以幫助當局管理交通堵塞，將緊急響應車輛調配至需要的位置，促進可持續能源的使用，以及讓管理過程流水化。

但人們越來擔心，智能城市也會大幅度地增加公共監控和侵入式安全問題。智能城市的創造者之一IBM設計了一種像大腦一樣的城市模型，有關城市運營的信息會集中起來進行處理和分析。IBM的智能城市的關鍵部分之一就是公共安全，該功能使用了傳感器陣列、跟蹤設備和監視技術來提高警察和安全執法部門的能力。

華為在智能城市的公共安全方面也走在前列。華為向執法部門宣傳的“智能城市”的功能為“預測、防止并減少犯罪”和“解決新的威脅”。在2016年發表的一份白皮書中，華為描述了“一套包含視頻監控、緊急視頻通信、集成事件指揮和控制、大數據、移動和安全的公共安全云等的科技”，用于支持本地的執法部門、警察以及司法系統。值得一提的是，在中東，該平臺可以防止“極端主義”；在拉丁美洲，智能城市可以讓政府減少犯罪；在北美，該技術可以幫助美國推進“反恐”計劃。

在所調查的75個國家中，已至少有56個國家的與公共安全有直接關系的智能城市平臺部署了AI監控技術。

3

面部識別系統

面部識別為利用生體技術，將攝像頭（靜止圖像或視頻）存儲下的圖像或實時視頻在圖像數據庫中進行匹配的技術。并非所有系統都著重于數據庫匹配，一些系統會評價總體的統計趨勢，或者根據人群的面部識別結構進行廣域的情感分析。

不同于已在警務系統中服務了25年之久的閉路電視系統，面部識別攝像頭更具侵入性。它們能掃描獨特的面部特征，為每個人建立詳細的生體映射，而這一切都無需獲得許可。通常，面部識別監視攝像頭都非常便攜，而且可以進行偽裝。例如，馬來西亞的安全部門與中國的安全公司依圖合作，為警察配備帶有面部識別的便攜攝像機。這樣警察就可以“迅速地將攝像機拍攝的照片與中心數據庫的圖像進行對比”。

在報告里，專家們詳細解釋了與面部識別有關的幾點擔憂。

首先，關于圖像數據庫（用于存儲面部識別攝像頭捕獲的圖像的數據庫）的訪問和使用的法規非常少。政府如何使用這些信息，圖像應該存儲多久，執法部門從何處獲得第一手數據，這些都是不透明的，而且各個地區都不一樣。

其次，面部識別技術的準確度波動非常大。特定的測試表明，面部識別技術的誤識別率非常高。最近的一份關于英國大都會警察局的獨立調研報告表明，它應用的面部識別技術的錯誤率高達81%。類似地，美國的警用攝像頭制造商Axon也宣布他們將在產品上去除面部識別功能。Axon的道德委員會表示：“面部識別技術目前還十分不可靠，無法從道德上評判其使用效果。”

但其他的評測對面部識別技術給出了正面的評價。2014~2018年間，美國國家標準技術研究所對于39家開發商提供的127種算法進行了評測，表明“在搜索數據庫、找到匹配的照片方面，面部識別的效果要好20倍。”與同期相比，失敗率從4%降到了0.2%。

如此巨大的差異的原因之一是，面部識別在理想條件下效果非常好。但當遇到不可預測的條件——例如惡劣的天氣狀況，或模糊的圖像等——時，失敗率就會直線上升。面部識別技術也不能避免性別和種族偏見，因此對于少數族裔和女性的假陽性判斷率很高——“膚色越深，錯誤率就越高，黑人女性的圖像的錯誤率幾乎達到了35%。”紐約時報的Steve Lohr如是說。

面部識別系統迅速在全世界受到歡迎。指數表明，至少64個國家在AI監控計劃中主動地采用了面部識別系統。

4

智能警務

智能警務背后的思想是將大量的數據輸入到算法中，包括地理位置數據、歷史犯罪率、犯罪類型、生體數據、社交媒體數據等，從而達到避免犯罪，實現對于犯罪的快速響應，甚至能夠預測未來的犯罪行為。

備受關注的領域之一就是預測性警務。2009年，在美國司法部對該項技術的研究開了綠燈之后，該技術在美國的發展一日千里。該技術的核心是，根據大量數據的分析，預測出何時實施犯罪、針對何人實施犯罪。預測性警務受到了普遍關注。例如，預測性分析程序PredPol已經被部署到了“全國超過60個警察局”。

但在看到預測的有效性的同時，人們也越來越多地擔心算法的傾向和偏見。最近，Caroline Haskins在給Vice提供的報道中描述了PredPol的預測性犯罪的預測算法的原理。PredPol的軟件能在“最小500x500平方英尺的范圍”內為警察提供犯罪預測，這個范圍已經足夠定位到一棟房子。它的假設是“特定時間點，特定的犯罪更容易出現在同一地點”。PredPol表示，該程序“利用每個新城市的歷史事件數據來訓練算法（理想狀況下2~5年的新數據），然后利用每天從警察局收到的新事件來更新算法。”新的預測會在Google地圖上以紅框標記，表示高風險區域，以引起巡邏警察的注意。PredPol的弱點之一就是它利用過去的犯罪行為和逮捕來預測未來。已經被警察“特別關注”的特定少數族裔社區，出現在PredPol中的頻率也非常高。

至少有53個采用了AI監控的國家應用了智能警務系統。

5

AI監控所需的技術

另一類技術不是直接負責監控的程序，而是負責提供實現應用程序必不可少的關鍵功能。如果沒有云計算功能，那么高級視頻監控和面部識別攝像頭將無法運行。一位專家曾說，如果視頻監控是“眼睛”，那么云服務就是“通過5G網絡將攝像機和硬件連接到云計算模型的”大腦”。然而，云計算并非為了監控而生。因此，我們可以將這些輔助技術歸為“AI監控所需的技術”，如下表所示。

表2：AI監控所需的技術

自動邊境控制系統

這些技術主要應用于國際機場和邊境。根據咨詢公司埃森哲的說法，自動邊境控制系統（AUTOMATED BORDER CONTROL SYSTEMS，簡稱ABC系統）利用“多模式生物特征匹配”（結合面部識別或其他生體識別與讀取電子護照）來處理入境。從乘客走入多攝像機前時啟動該系統，攝像頭旁邊的數字鏡可以吸引乘客的眼睛，然后進行圖像捕獲，再針對個人護照和某些安全監視列表自動驗證身份，并以此完成風險評估。未能通過系統的人員必須接受人工的二次檢查。

很多政府還使用了自動邊境控制系統的新功能，例如自動測謊技術。例如，歐盟的三個國家（希臘、匈牙利和拉脫維亞）正在測試一種名為iBorderCtrl的技術，并利用該技術篩查過境點的移民。在這個過程中，系統會詢問個人有關其原籍國和離境情況的問題。然后通過基于AI的測謊系統對答案進行評估。所有誠實回答了問題的人就可以過境，而未曾通過測試的人則會被轉移給邊防人員，接受進一步的詢問。

云計算

越來越多的政府和公司數據存儲在異地的云上，然后通過互聯網訪問。云計算是一種通用技術，包括GPS地圖、社交網絡和電子郵件通信、文件存儲以及流媒體內容訪問。云計算數據中心是互聯網的骨干，可以即時存儲、通信和傳輸所產生的信息。因此，云計算對于AI系統至關重要。微軟、IBM、亞馬遜、華為和阿里巴巴都為促進AI操作而建立了數據中心。

接受云計算的國家越來越多，而且很多政府都會將所有數據存儲需求外包給某個公司平臺。例如，2018年，冰島與微軟簽署了一項服務協議，讓微軟承擔該國整個公共部門唯一的IT供應商。云計算的趨勢也并非沒有問題。首先，云服務會成為網絡黑客的攻擊目標。NSO Group等安全公司聲稱，他們能夠穿透云服務器并訪問目標的“位置數據、歸檔的消息或照片”，因此，很多人都質疑云計算公司是否應該保留個人信息、公司機密、機密的政府材料或健康記錄安全。

物聯網

物聯網的關鍵在于，越來越多的設備通過互聯網相互連接，并允許云端的分析處理訪問數據。物聯網的主要難題在于設備之間缺乏互操作性。當前，iPhone、Alexa揚聲器、Nest溫控器和OnStar自動系統都可以在不同平臺上運行并使用不同的信息源。物聯網的目標是攻克這項難題，并確保設備集成和數據聚合（盡管亞馬遜、蘋果和谷歌等公司統統建立了獨特的生態系統，但這些生態系統與其他平臺的互操作性非常有限）。雖然物聯網能帶來高效，但也有可能將傳統的非聯網設備（例如智能揚聲器）轉變為無所不在的監視工具。

圍繞物聯網技術的爭議越來越大。2019年初，有人披露亞馬遜的數千名員工聽了Echo智能揚聲器記錄的對話。此外，是否應將與犯罪有關的記錄移交給執法機構，有關這個話題的爭議也非常多。此外，也有跡象表明，谷歌和Facebook的承包商一直在定期收聽其平臺與個人消費者之間的錄音。

物聯網支持的移動監視是此類技術的另一種可能性。記者Andy Greenberg表示，最近展示的一種新設備可以介入特斯拉Model S或Model 3汽車中，并將內置攝像頭“變成在一定時間段內定位、跟蹤和存儲車牌和面部的系統”。在車主停好車后，“該系統可以跟蹤附近的人臉，看看哪些人反復出現。”該設備的目的是警告車主，防止小偷和故意破壞。但是，正如設備的發明者Truman Kain承認的那樣，“這款設備也可以將特斯拉變成AI監控器”。

6

總結

AI監控技術在不斷蔓延。但是，AI所引起的道德問題也受到越來越多人的關注。專家們對面部識別錯誤率以及少數群體的誤報率表示深深的擔憂。越來越多的公眾意識到AI訓練數據集中的算法偏差，及其對預測性警務算法和執法機構使用的其他分析工具產生的偏見影響。甚至是意圖良好的物聯網應用程序（智能揚聲器、遠程無鑰匙門鎖、汽車智能儀表板顯示器）也可能帶來被監控的煩惱。盡管有人認為邊境控制系統的基礎是錯誤的科學和未經證實的研究，但各國已經開始嘗試這項技術（例如iBorderCtrl等）。如果負面影響不斷擴大，有可能會導致這項技術的停滯。有關高級監控技術的準確性、公平性、方法一致性和偏見的影響等令人擔憂的問題也會逐步浮出水面。

本文的報告旨在重點介紹這種尚未被很好地理解、但會越來越多地影響現代生活的技術的新興趨勢。不過好在我們還有足夠的時間，就AI技術、監控和公民隱私權之間的適當平衡展開急需的公開辯論。