AI監管面臨的最大挑戰是創建一個全面的框架，并能根據AI在不同應用中的細微差別制定相應的規則。雖然算法系統已被廣泛應用于社會經濟決策，但這些算法都有其獨特性。為應對這一挑戰，我們需要一種能夠全面監督特定應用的算法治理方法。

本研究提出了一種新的監管方法“關鍵算法系統分類”（Critical Algorithmic System Classification，CASC），這種方法能夠以一種全面的方式為算法系統制定針對特定應用的規則，并在此過程中長期保護消費者和公民權利，而不必為算法系統建立額外的監督制度。2023 年8月31日，美國知名智庫布魯金斯學會發布《全面、分布式的人工智能監管方法》報告，探討如何應對AI算法監管面臨的重大挑戰。

一、全面、分布式AI監管的必要性

在許多關鍵社會經濟決策中，算法決策系統（Algorithmic Decision-making System，ADS）無處不在，包括教育準入、找工作和招聘、員工管理、消費金融服務、財產評估、租金確定、租戶篩選、醫療供應、藥物審批等等。這些關鍵應用中的大多數決策都受到算法決策系統的影響或完全由算法決策系統做出。雖然算法和數據分析的使用有時確實能推動社會進步，但錯誤數據、算法失靈、歧視性影響以及對算法能力的過高估計也造成了許多個人和系統的傷害。

社會經濟的一些關鍵要素已部分受到聯邦法律管轄。然而，聯邦機構往往沒有足夠的能力來審查和充分監管其法律管轄范圍內的算法決策系統。許多機構在算法監管方面能力不足，包括：要求實體保留數據、代碼、模型和技術文檔的權力；審計算法決策系統的技術能力；制定使用規則的法律權力。正如美國白宮《AI權利法案藍圖》、白宮管理和預算辦公室（OMB）備忘錄M-21-06以及美國國家標準與技術研究院（NIST）《AI風險管理框架》等文件所表述的那樣，這些限制是聯邦政府促進可信和負責任AI目標的主要障礙。

雖然許多聯邦機構都面臨著能力不足的挑戰，但每種算法決策系統的具體情況（使用的算法類型、操作的數據、促進的社會技術進程以及帶來的風險）卻大相徑庭。算法在關鍵社會經濟決策中的作用是多方面的，也是多種多樣的，因此通過一個集中的流程來制定所有算法標準或強制執行是不可行的，也是不可取的（盡管某些屬性，如披露和非歧視，可能是普遍要求）。歐盟在試圖起草單一的綜合性AI法案時所面臨的重大挑戰也進一步證明了這一點，該法案可能會導致法律框架缺乏對特定行業和算法應用的充分適應性。聯邦機構應被賦予足夠靈活的權力，以監管其領域內有影響的算法決策系統，而不是一個集中的流程或一套單一的規則。

二、“關鍵算法系統分類”方法簡介

在關鍵社會經濟決策中，算法決策系統的激增非常普遍，但在許多不同的情況下又表現出獨特性。這是AI算法治理的核心挑戰，需要一種既全面又能針對具體應用制定規則并由部門機構進行監督的監管方法。

本文針對這一雙重挑戰提出了一種新穎的方法，其中包括兩項關鍵的干預措施：

1. 授予監管機構行政傳喚權，以調查和審計影響與機構法定權限流程的算法決策系統。

2. 創建一個新的監管工具，授權監管機構在法定權限內發布和執行針對關鍵社會經濟決策中算法決策系統的法規。

這兩項干預措施（合稱“關鍵算法系統分類”）將在很大程度上使聯邦機構能夠按比例應對在美國現有治理范圍內運作的算法決策系統現有和未來的重大風險。

關鍵術語

算法決策系統（ADS）：任何計算過程（包括基于統計、機器學習、AI或其他數據處理技術的計算過程，不包括被動計算基礎設施），其結果可作為決策或判斷的基礎或組成部分。

算法決策系統類別：任何數量的算法決策系統，無論其算法方法或開發實體如何，它們在由監管機構確定的程序中大體上發揮相同的作用。用于分析簡歷、抵押貸款定價或大學錄取的算法決策系統都屬于算法決策系統類別。

“關鍵算法系統分類”（CASC）：通過聯邦規則制定程序應用于算法決策系統類別的法律名稱，從而為該算法決策系統類別制定具有法律約束力和可強制執行的規則。

“關鍵算法系統分類”的系統：通過擬議的聯邦規則制定程序被指定為“關鍵算法系統分類”的算法決策系統類別。

監管機構：對社會經濟決策具有重要部門監管作用的聯邦機構，包括：美國消費者金融保護局、勞工部和職業安全與健康管理局、教育部、平等就業機會委員會、環境保護局、聯邦存款保險公司、聯邦住房金融局、聯邦通信委員會、聯邦儲備委員會、衛生與公眾服務部、住房與城市發展部、貨幣監理署、證券交易委員會、財政部和退伍軍人事務部。

通過行政傳票授權進行算法審查和審計

監管機構將被授權通過行政傳票收集必要的數據、文檔和技術人工物（technical artifacts）（包括代碼和模型對象），并就算法決策系統的開發和部署進行訪談。算法決策系統的開發者和部署者（必要時包括供應商和承包商）都可能受到行政傳票的約束。監管機構將有權使用這些行政傳票對單個算法決策系統進行算法審計，對某個算法決策系統類別的影響進行系統審查，為指定“關鍵算法系統分類”的規則制定程序提供信息，并執行“關鍵算法系統分類”的系統規則。

監管機構只能在國會授權范圍內對該機構程序有重大影響的算法決策系統發出行政傳票。這就確保了監管機構僅有權調查和審計屬于各機構法定監管職責范圍內的算法決策系統，從而防止監管過度，減少機構間的監管重疊。各機構還需要向開發和/或部署算法決策系統的實體提供適當的通知；確保保護通過傳票獲得的任何私人數據；避免通過傳票程序或相關調查披露任何商業秘密或知識產權。

通過“關鍵算法系統分類”監管算法決策系統

擬議的“關鍵算法系統分類”將是一個新的法律名稱，它將授權聯邦機構制定和執行針對符合條件的算法決策系統的規則。通過聯邦規則制定程序，所覆蓋的機構必須證明某類算法決策系統符合“關鍵算法系統分類”的法律標準，這樣才能制定和執行該類“關鍵算法系統分類”的系統商業使用標準。“關鍵算法系統分類”無意擴大聯邦監管范圍，而是為監管機構提供足夠的法律權力和監管工具，以監督在其現有國會授權范圍內使用的算法決策系統。

通過聯邦規則制定程序，機構需要證明某類算法決策系統符合與危害風險、影響程度和現有機構權力范圍有關的三項標準，才能將“關鍵算法系統分類”適用于該類算法決策系統。

1.對獲得醫療保健、經濟機會或基本服務造成損害的風險：監管機構必須證明，該算法決策系統類別可能會對醫療服務的獲取造成風險，包括通過醫療服務的提供、審批、計費和保險；對平等機會造成風險，包括公平獲得教育、住房、信貸、就業、晉升和其他機會；或對關鍵資源或服務的獲取造成風險，如金融服務、安全服務、緊急服務或社會服務。

2. 影響范圍：監管機構必須證明，根據規模或覆蓋范圍，該算法決策系統類別（所有提供者的總和）影響了大量群體。

規模：所有已部署的某一類別的算法決策系統共同影響大量特定數量的居民；

覆蓋范圍：所有已部署的某一類別的算法決策系統對特定受影響的居民（如受保護階級或特定職業）中超過25%的群體產生了影響。

3. 授權范圍：監管機構必須證明，該類別算法決策系統所作出的決定或影響的程序已由國會授權的機構進行監管。

監管機構將有權為“關鍵算法系統分類”的系統功能制定規則，以降低已確定的風險，特別是與以下要素有關的風險：

披露：將“關鍵算法系統分類”的系統使用情況告知受影響的人。

透明度和可解釋性：在個人和系統層面上告知受影響的人“關鍵算法系統分類”的系統特定結果的計算過程。

糾正不準確的數據：使受影響者能夠查看和糾正作為“關鍵算法系統分類”的系統部分使用的輸入數據。

有效性和穩健性：要求“關鍵算法系統分類”的系統在部署前和部署期間通過持續監控達到性能量化標準，并接受相關測試和評估。

非歧視：要求“關鍵算法系統分類”的系統符合標準，不因任何受保護階層而產生歧視或不同的影響。

數據隱私保護：要求關鍵算法系統分類系統確保不會泄露或暴露敏感數據。

人工替代：要求“關鍵算法系統分類”的系統部署者在受影響者提出合理理由的情況下提供非算法的替代程序。

數據、代碼、模型和技術文檔的存儲：要求“關鍵算法系統分類”的系統開發者和部署者在規定期限內保存與“關鍵算法系統分類”的系統相關的數據、代碼、模型和技術文檔。

監管機構不會默認制定有關所有上述要素的規則，而是會選擇那些與減輕“關鍵算法系統分類”規則制定程序中確定的風險相關的規則。監管機構將有權代表受影響者尋求法律補救或救濟，包括禁令、恢復原狀和民事處罰。機構對“關鍵算法系統分類”的系統規則制定將遵守《行政程序法》中的正式規則制定要求，確保公眾知情，利益相關者能夠為新的“關鍵算法系統分類”法規做出貢獻并做好準備。

行政傳喚權與“關鍵算法系統分類”規則制定權將相輔相成，使制定程序包括以下四個階段：

1. 監管機構發現并記錄與其法定權限相關且可能符合“關鍵算法系統分類”標準的算法決策系統類別。

2. 該機構運用其行政傳喚權，全面審查該類美國存托憑證在市場上的發展、部署和影響。

3. 如果確定符合“關鍵算法系統分類”標準，機構將通過規則制定程序將算法決策系統類別指定為“關鍵算法系統分類”，并利用系統審查為算法決策系統的開發和使用規則提供信息。

4. 該機構繼續運用行政傳喚權，監測現已被指定為“關鍵算法系統分類”的算法決策系統的使用情況，評估更新相關規則的必要性，并在必要時通過訴訟確保合規。

三、“關鍵算法系統分類”方法的優點

“關鍵算法系統分類”是一種管理算法的新方法，它通過使部門機構能夠執行算法審計（通過行政傳票），然后發布特定應用法規（通過上述程序），全面解決了算法決策系統激增的問題。這使“關鍵算法系統分類”與其他擬議的AI立法有了顯著區別，因為它將使聯邦機構能夠不斷適應算法決策系統在其法律授權下的關鍵社會經濟決策中日益增長的作用。

“關鍵算法系統分類”方法改善了幾種特定情況下的治理，包括消除合理算法監管的實際障礙，澄清在現代算法決策系統激增之前寫入的法律授權中的不確定性，以及解決某些算法決策系統類別缺乏預先存在的監督授權的問題，這些算法決策系統類別會影響關鍵社會經濟決策。有些監管機構在管理替代性服務方面的授權有限，但卻面臨著替代性服務如何改變一個行業所帶來的實際挑戰。美國平等就業機會委員會就是這種情況，該委員會目前無法對供應商開發和銷售歧視性算法決策系統的行為直接執行反歧視法。同樣，美國算法信用評分供應商在技術上也被排除在《平等信用機會法》之外，盡管它們對獲得信貸產生了巨大影響。一些主要的監管機構也缺乏足夠的行政傳喚權，無法對算法決策系統進行系統的審查或審計。

此外，在一些領域，現有的監管權力并沒有明確無誤地適用于美國存托憑證，即使它們與監管領域有著千絲萬縷的聯系。“關鍵算法系統分類”將明確規定，聯邦機構可以對影響聯邦就業歧視法、《職業安全與健康法》、《公平住房法》和其他民權立法的算法決策系統進行監管。最后，“關鍵算法系統分類”方法可以對一些目前不受監管但符合“關鍵算法系統分類”標準的算法決策系統進行算法監督，如高等教育招生和定價的算法決策系統，可由教育部進行監管。

在填補這些重大空白的同時，“關鍵算法系統分類”也有意限制了范圍，解決了聯邦政府管理商業算法決策系統的能力不足，而這些商業算法決策系統會在很大程度上影響關鍵社會經濟決策。通過依靠行政傳票和聯邦規則制定程序，“關鍵算法系統分類”使新的機構權力建立在完善的法律監管標準之上。因此，“關鍵算法系統分類”可被視為一種雖小卻有影響力的干預措施，可系統性地解決關鍵社會經濟決策中算法決策系統所造成的危害。

與將類似的權力賦予一個新機構或僅授權聯邦貿易委員會相比，“關鍵算法系統分類”允許監管機構對美國存托憑證進行分布式管理，這是這種方法的一個關鍵優勢。創建一個中央算法監管機構可能會導致兩個平行的監管機制，一個是由監管機構管理的流程，另一個是由算法監管機構管理的美國存托憑證。這種平行結構將不斷受到機構間權力重疊和相互交織的挑戰，因為社會經濟決策中的人工和算法是不可分割的。中央監管機構也缺乏現有部門機構所需的領域知識。此外，隨著算法決策系統在關鍵社會經濟決策中發揮越來越大的作用，中央監管機構的工作量將擴大，而監管機構的工作量將縮小，從而造成長期的不平衡。雖然在數據隱私和在線平臺管理等領域需要考慮建立新的監管機構，但對于管理用于關鍵社會經濟決策的美國存托憑證來說，“關鍵算法系統分類”方法是一個更好的解決方案。

“關鍵算法系統分類”方法對于確保美國在經濟和技術方面繼續保持領先地位也有顯著優勢。“關鍵算法系統分類”的影響程度要求將對正在開發新的算法決策系統的創新型小企業起到豁免作用。這是因為新類別的算法決策系統不會立即達到受影響人數的門檻。這將使初創企業能夠開發新類別的算法決策系統，同時確定必要的最佳實踐和保障措施。此外，“關鍵算法系統分類”標準還確保大多數算法決策系統（如想象室內設計、提供電影推薦或幫助識別野生動物）不在監管范圍內。這樣做是恰當的，因為大多數算法決策系統的社會影響還不足以要求政府進行干預。

“關鍵算法系統分類”使監管機構能夠關注相對較少的算法決策系統供應商。隨著越來越多的公司轉向由供應商提供的算法決策系統（用于招聘、工人管理、醫療保健分配、教育機會等任務），對這些供應商的監管能夠使市場干擾達到最小，并使算法決策系統的功能得到顯著改善。要求這些算法決策系統具有準確性、非歧視性和透明度，還能為從這些供應商采購的公司提供質量保證，從而提高算法決策系統市場的效率。

通過全面的算法監管方法還將向世界其他國家發出一個強烈的信號：美國正在認真對待算法風險，其技術公司將受到負責任的管理。“關鍵算法系統分類”方法將有助于確保美國不僅成為AI領域無可爭議的領導者，而且成為值得信賴AI領域的領導者，這一聲譽將在未來幾十年吸引大量的全球業務和投資。這一信息也將傳達到國內，鼓勵國內AI保障行業的進一步發展，而這一行業有望成為其自身的重要市場。

“關鍵算法系統分類”的做法在國際貿易方面也有其意義。“關鍵算法系統分類”允許極大的監管靈活性，從而更好地與國際接軌。這一點對歐盟尤為重要，因為歐盟目前正在通過一項針對算法系統的全面監管框架——《歐盟人工智能法案》。在美國存托憑證方面與歐盟保持高度一致，可確保這一重要貿易關系繼續發揮作用，同時還可通過共享市場監督、分享最佳實踐以及通過國際標準機構開展合作來加強監管。

最后，“關鍵算法系統分類”方法是一種相對“面向未來”的干預措施，因為它能使聯邦機構不斷適應監管機構監管領域內不斷出現的算法決策系統。這種方法避免了美國國會建立并定期更新高風險算法決策系統清單的需要。此外，這種方法還承認，聯邦機構最有資格根據其影響和危害風險，確定哪些算法決策系統需要通過“關鍵算法系統分類”程序。

四、結論

通過監管機構和具體應用規則的制定，實現對美國存托憑證的全面治理，“關鍵算法系統分類”方法是一種新穎且具有潛在影響力的方法。它得益于現有的治理機制，即行政傳喚權和聯邦規則制定程序，而無需設立新的機構。此外，這種方法對其范圍有合理的限制，同時提供了一種在關鍵社會經濟決策中管理算法決策系統的持久方法。

然而，“關鍵算法系統分類”方法也存在一些缺陷，如其規則制定本身具有追溯性，不能廣泛確保不符合“關鍵算法系統分類”條件的算法決策系統的權利，也不能解決聯邦機構能力不足的問題。為解決這些局限性，“關鍵算法系統分類”可與基于權利的算法系統方法以及聯邦監管機構的額外資金相配合。最后，值得注意的是，“關鍵算法系統分類”方法試圖成為解決算法挑戰的通用方案，而算法挑戰在許多領域中都是高度多樣化和情景化的，這很可能導致實施效率低下。盡管存在這些缺陷，“關鍵算法系統分類”方法仍將是一項有意義的政策干預措施，可顯著解決大規模用于關鍵社會經濟的算法決策系統激增的問題，這是算法治理核心挑戰，也是尚未解決的挑戰。