在過去十年中，人工智能 (AI) 領域取得了令人矚目的進步，尤其是在數據驅動的機器學習（ML）技術方面。然而，對于許多國家安全應用來說，具有適當可信度的人工智能還不存在。為了獲得信任，這樣的系統必須能夠可靠地運行，與人進行適當的互動，并以合乎道德倫理的方式滿足緊迫的國家安全需求。創建這樣的系統需要在（至少）三個關鍵領域取得重大進展：

1.基礎理論：了解可能性的藝術，限制特定系統實例化的限制，并為國家安全等具有挑戰性領域的人工智能系統提供信息；

2.人工智能工程：以可預測的方式構建在現實世界中按預期工作的系統，而不僅僅是在實驗室中；

3.人機協同：使系統能夠成為具有不同背景的人的流暢、直觀、值得信賴的隊友。

DARPA對于人工智能的理解（翻譯&字幕 by 防務菌）

美國防高級研究計劃局（DARPA）在起草當前的“AI分析框架”過程中，這些要點成為重要方向，并與國家AI研發戰略重點保持一致 。此外，需要在數據和計算方面顯著提高ML的效率，以使基于ML的系統對許多國家安全應用具有成本效益。

2022年9月13日，DARPA在“前沿”系列研討會（詳情可參見防務菌此前推送：【Forward Conference】重磅！DARPA即將召開前沿系列研討會）的第二站華盛頓州立大學活動上（詳情可參見防務菌此前推送：【Forward Conference】DARPA“前沿”系列研討會之第二站——華盛頓州立大學），信息創新辦公室（I2O）主任凱瑟琳·費舍爾（Kathleen Fisher）博士向與會者做了題為“用于對抗環境的可信人工智能”的系列項目簡介。在將近45分鐘的時間里，梳理了從生成對抗網絡（GAN）、深度語音2（Deep Speech 2）到AlphaGo、Move 37、Libratus系統、特斯拉自動駕駛、GPT-3、AlphaFold等等一系列AI在各個領域的應用情況，最終落到國防領域。

用于對抗環境的可信人工智能（翻譯&字幕 by 防務菌）

2022年10月26日，在“前沿”系列研討會的第四站佐治亞理工學院站活動上（詳情可參見防務菌此前推送：【Forward Conference】DARPA“前沿”系列研討會之第四站——佐治亞理工學院），凱瑟琳·費舍爾（Kathleen Fisher）宣布了“人工智能前沿”（AI Forward）計劃，聚焦三個關鍵領域：第一，基礎理論，以便了解可能的藝術；第二，人工智能工程，以便能夠可靠地和可預測地建立在現場和實驗室中都能工作的系統 ；第三，人-AI協同，使系統能夠作為流暢的直覺伙伴，而不僅僅是工具（詳情可參見防務菌此前推送：【AI Tutoring 】DARPA人工智能（AI）應用新開一局）。

DARPA信息創新辦公室（I2O）主任凱瑟琳·費舍爾解讀“AI前沿”（AI Forward）計劃（翻譯&字幕 by 防務菌）

為加速推進AI Forward計劃，2023年2月25日，DARPA通過其官網宣布，將于2023年6月和7月，分別通過在線和現場的方式召開兩個研討會。

1.在線研討會：2023年6月13日至16日（周二至周五）；美國東部時間12:00 - 5:00，每天休息一小時。

2.現場研討會：2023年7月31日至8月2日，馬薩諸塞州波士頓，美國東部時間，周一 11:00 - 6:00；周二 9:00 - 6:00；周三 9:00 - 5:00

在這些高度互動和協作的研討會中，參與者將共同設想新的AI研究方向，這些方向可能會催生適用于國家安全應用的可信AI。每個研討會的參與人數限制為大約100人。每個研討會都將包括與行業、學術和政府領導以及專家就AI當前和未來研究方向進行的討論和有指導的頭腦風暴會議。

DARPA預計研討會將是激烈、互動和自由思考的。他們旨在激發對跨越AI許多不同領域的有前途的新研究方向的思考，包括人類語言技術、大型語言模型、生成模型、AI哲學和倫理，以及著眼于未來國家安全相關的具身認知應用程序。參與者將被期望與彼此、協調人和主題指南（將幫助構建和指導討論的領域專家）建設性地進行對話，以制定合作研究主題，以幫助定義未來可能的DARPA活動。目標是將來自不同學科的個人聚集在一起，根據第一原則進行互動和自由思考，相互學習，

在研討會的過程中，參與者將組成小組，針對跨學科主題領域推介和完善主題（基于主題指南的輸入），這些主題領域推進關于AI未來的科學問題，以及如何解決有能力、可信AI的問題在具有挑戰性的現實世界問題中與人類很好地合作。

AI Forward計劃將由KnowInnovation推動，KnowInnovation 是一家專門與科學團體合作以加速創新并實現戰略成果的公司。參與者可以期待高度互動的在線和現場活動。在一些旨在搭建舞臺的有針對性的全體演講之后，大部分時間將花在以解決方案為中心的討論上。

AI Forward研討會的最終成果將是確定大約40個有前途的未來研究領域。對于每個領域，參與者將探索諸如未解決的問題、潛在的研究問題、預期的影響以及取得進展所需的專業知識等項目。參與者將針對每個領域進行演示（2-3 分鐘）并提供配套的白皮書（2-3 頁）。DARPA將考慮這些演示文稿和白皮書，以制定其未來的AI戰略。作為該戰略的一部分，DARPA可能會根據兩個AI Forward研討會的成果創建2個新的人工智能探索項目 (AIE) 。參與者將能夠向這些AIE提交他們的工作以供考慮，這些AIE將被廣泛宣布以征求建議。

對于即將召開的AI Forward研討會，凱瑟琳·費舍爾表示：“盡管我們已經看到了該領域的巨大進步，但人工智能仍然需要大量的投資和進步，以開發可靠運行、與人適當互動的技術，并以倫理道德方式滿足最緊迫的國家安全和社會需求。我們正在呼吁所有相關的研究人員和專家加入我們的行列，因為我們正在定義當今最具影響的技術的未來。通過參與AI Forward，你將有機會幫助規劃未來幾十年保持我們國家和我們盟友安全所必需的能力。”

審核編輯 ：李倩