在前不久落下帷幕的2019世界人工智能大會上，IBM首次全面闡述了如何通過構建“可信AI”系統來賦能城市建設的方方面面。IBM副總裁，大中華區首席技術官謝東指出，“可信人工智能城市模式將成為未來智慧城市的新形態。”

先從一個故事說起。50年前，為了幫助人類登上月球，IBM參與了阿波羅計劃所有的計算任務，包括發射、航行、降落、著陸、與安全返回地球。

“在阿波羅11號抵達降落點上空約120米處，登月艙里突然警報聲大作；NASA指揮中心也收到機載儀器故障、無法繼續引導登月行動的信號。這時，NASA與阿姆斯特朗面臨一個艱難的決定：“Go？ Or No-go？”牽動著人類太空夢想的里程碑時刻，讓所有人捏了一把汗。這時，身處控制中心里的IBM團隊，根據無數次模擬測試的結果，堅定地給出了“繼續執行降落任務”的建議。最終，阿姆斯特朗步出登月艙，在月球表面留下載入史冊的腳印。NASA的飛行指揮官Gena Kranz事后評價：如果沒有IBM和IBM所提供的系統，我們就無法登上月球。”

關鍵時刻的“一錘定音”，源于IBM計算機的可信，更源于IBM計算機系統基于數據理論和物理原理而得出的精確軌道預測。

從那之后，IBM與探索太空有了不解之緣。IBM的ThinkPad在1993年登上美國奮斗號航天飛機，參與修復哈伯空間望遠鏡的任務；2018年，IBM和空客合作，開發出人類歷史上第一個宇航員交互式移動伙伴Project CIMON（Crew Interactive MObile CompanioN），像人類一樣幫助宇航員完成許多太空任務。

從計算機到AI，IBM矢志不渝的投入，并將源源不斷的科技成果應用到行業中，解決城市、民生和社會的各種問題，成就了“科技向善”的使命擔當。

智能城市的憧憬

智能化讓人憧憬，IBM從未間斷過在智能領域研究和實踐，而且總能洞察先機。在2008年11月IBM就率先提出“智慧地球”概念，前瞻性的預測世界正在變得物聯化、互聯化，所有的事物將變得智能化。

早在1956年達特茅斯會議提出“人工智能”概念之前，IBM在1952年就開發出了第一款會下國際跳棋的人工智能程序；1997年戰勝國際象棋冠軍卡斯帕羅夫的深藍，開拓了“人機對戰”的先河；2011年在益智類問答節Jeopardy！戰勝兩位人類冠軍的Watson；人工智能辯手Project Debater，能準確理解人類的自然語言，并進行有效地辯論。IBM在智能化的先人一步，不斷將人工智能推向一個個里程碑。

進入通用人工智能（AGI）的新紀元，AI延伸到城市、民生和社會的觸角越來越廣，也越來越深。AI能夠改善人們的生活，創新商業模式，打造個性化的服務，優化各項城市設施和服務等等。

目之所及，AI已經擴散到城市的方方面面，例如電子商務、無人超市、自動駕駛、智能樓宇、智能工廠、智能醫療等等。

在交通，IBM Watson Assistant技術開發的改變城市駕駛方式的解決方案，來緩解交通擁堵，提供用戶個性化的最優出行建議；

在醫療，Watson Health覆蓋了腫瘤與基因、醫學影像、生命科學、健康管理、醫療支付等多個分支領域，幫助醫生有效地實現 “標準化醫療”、精準醫療”、“智能醫療”。同時，助力“普惠醫療”；

在制造，IBM就利用人工智能缺陷檢測技術，幫助進行顯示面板生產線檢測良率，毫秒級內檢測出面板是否有劃痕或者別的缺陷，判讀準確率高達97%以上。

在食品安全，IBM人工智能傳感器技術可以更方便快捷地對食品上可能會出現的病菌進行實時檢查。

真實的世界的智能化場景遠比“人機對戰”或“益智挑戰”復雜的多，隨著人工智能應用在各行各業的廣泛使用，“可信”越來越成為一個嚴峻的問題。

IBM副總裁，大中華區首席技術官謝東

“對于現代化城市來說， ‘城’（城市建設）與‘工’（工業、行業）的應用升級都很重要。正所謂，行業不智能， 城市何以智能。而一個可信的AI基礎對于‘城’與‘工’的智能化來說，也是至關重要。”IBM副總裁，大中華區首席技術官謝東說。

“AI可信”的拷問

人工智能是一把雙刃劍，一邊是AI和數字化技術結合，給我們的生活和工作帶來福祉；一邊也給道德準則、價值觀帶來沖擊。AI換臉“ZAO”一夜爆火，在成為現象級APP的同時，也引發了公眾對數據隱私，肖像權的擔憂和思考。

再比如，全球首例無人駕駛車撞死人案，其原因是行人并未走人行橫道，無人駕駛車也就沒有剎車；此外，在沒有人工和技術介入的前提下，人工智能算法甚至可以產生無法識別少數裔的偏見。

所以，今天人們對“AI可信”有了更深層的拷問。

因為隨著AI技術和應用的成熟，如何將人類規范和道德價值觀嵌入AI系統中？能否和現實的規范和價值相一致、相兼容；AI的行為是否是可控的？大量AI產品應用的落地，達到什么標準的應用產品才是可靠的，安全的？隨著AI的自主性越高，這樣的拷問勢必會越來越多。面對真實場景，AI醫生給出的診療方案和疾病預測準確嗎？AI分析師給的投資建議能采納嗎？

與IBM計算機準確計算出登月軌道不同，今天AI更為復雜，特別以深度神經元為代表的算法，先天就有不可解釋性。

“要正確的發展人工智能，就必須提出可信賴的人工智能。人工智能的未來在于信任，如果想要驅動業務成功，人工智能就不能隱藏在“黑盒子”中”，IBM副總裁，大中華區首席技術官謝東說。

如何讓AI更加可信？

前不久，國家新一代人工智能治理專業委員會發布了《新一代人工智能治理原則——發展負責任的人工智能》，提出了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協作、敏捷治理等八條原則。該《治理原則》強調要確保人工智能安全可控可靠，推動經濟、社會及生態可持續發展，共建人類命運共同體。2019年4月，歐盟委員會也正式發布了《可信人工智能的道德準則》，宣布啟動人工智能道德準則試運行。

從全球來看，在頂層設計上，可信AI已經成為人工智能規模化發展的基礎。

IBM不僅秉持可信AI的價值觀，還在方法論和工具層面都取得了很大的進展。IBM將可信人工智能的維度定義為科學和工程目標，不僅概述實現這些目標的各種方法論，還推出了各種工具以確定在整個人工智能應用程序生命周期中集成它們。

IBM將企業級AI劃分為三個維度：先進AI（Advance AI）、可擴展AI（Scalable AI）和可信AI（Trusted AI）。簡單概括， 先進的AI是讓AI更加強大；可擴展性的AI是讓AI更廣泛應用到行業中；可信AI，即確保AI的公平性、可解釋性、健壯性和透明性，是為了讓AI能夠被人們所信任，真正成為人類的助手和伙伴。

“IBM正在大力開展這方面的研究和實踐工作。讓AI更加可信透明，安全可用而可靠。針對可解釋性、公平性、透明性和健壯性，IBM還提供工具和技術來識別和減輕風險及違規行為，幫助理解與信任有關的人工智能模型的影響和挑戰，并幫助開發人員和數據科學家輕松構建可信、安全和可解釋的人工智能系統”，謝東強調。

首先，IBM認為一個可信任的AI系統，需要遵循幾個基礎原則：公平性（Fairness），比如AI系統應該采用不帶偏見的數據集和模型，從而避免對于特定群體的不公平；可解釋性（Explainability），比如AI系統所提供的決策或建議不是一個不可解釋的黑箱，應該能夠被用戶和開發者所分析、理解；健壯性（Robustness），比如AI系統應該安全和可靠，不會被篡改，也不會受被“污染”的訓練數據集影響；透明性（Transparency），比如AI系統可以被透明化管理，其開發、部署、維護等可被追蹤，能夠在生命周期范圍內被審核等。

其次，IBM提供了工具和技術來識別和減輕風險和違規行為，幫助理解與信任有關的人工智能模型的影響和挑戰，并幫助開發人員和數據科學家構建可信、安全和可解釋的人工智能系統。

AI fairness 360是一個全面的開放源碼工具集，包含度量和算法，用于檢查和減輕AI中不必要的偏見，幫助社區建立對AI的信任；

AI Explainability 360是2019年8月9日發布的一個開源的最先進算法集合，它使用一系列技術來解釋AI模型決策；

在AI的健壯性/魯棒性方面，IBM研究院推出了Adversarial Robustness 360 Toolkit，這個工具包是IBM研究團隊開源的用于檢測模型及對抗攻擊的工具箱，為開發人員加強AI模型被誤導的防御性，讓AI系統更加安全。

此外， IBM正在提高AI的透明度，并推出工具讓數據科學家以及企業高管尋找模型中的不足。AI OpenScale是IBM提高所謂的“黑箱方法”透明度的一部分，從而加速AI的規模化發展。

其中，在AI的可解釋性和可追蹤方面，AI OpenScale技術平臺，可以在各種AI應用程序運行時，檢測并解決其中的偏見問題；無論AI應用程序在何種環境中構建或運行，AI OpenScale都可讓企業在人工智能的整個生命周期中實現透明化管理，記錄每項預測、每個模型版本、所有使用的訓練數據及各種指標，幫助企業遵守歐盟GDPR等法律法規。

結語

智能城市的“詩和遠方”離不開可信AI的數字化基礎設施，IBM將塑造可信AI的價值觀與打造豐富可信AI工具“知行合一”，來保障城市和人們受益于AI。

來源：云智時代