一項研究試圖解決圍繞谷歌人工智能工具的激烈分歧。

芯片設計大會上的討論很少白熱化。不過，一年前，在國際物理設計研討會（ISPD）上，事態失控了。觀察人員用“火車碰撞”和“埋伏偷襲”來比喻當時的事態。沖突的癥結是芯片設計難題，即谷歌借助人工智能（AI）的解決方案是否真的比人工和最先進的算法好。為此，一位知名的男性電子設計自動化（EDA）專家與谷歌的兩名年輕女性計算機科學家針鋒相對，由此引發的爭論已經導致一名谷歌研究員被解雇。

2023年，同樣是在國際物理設計研討會上，該領域的領導者、IEEE會士安德魯?卡恩（Andrew Kahng）希望一勞永逸地結束這場爭論。他和加州大學圣地亞哥分校（UCSD）的同事對谷歌的強化學習方法進行了“公開透明的操作和評估”。他們使用了谷歌名為“循環訓練”（Circuit Training）的開源版本，并對卡恩團隊不夠清晰的部分進行了逆向工程，他們將強化學習與人類設計師、商業軟件和最先進的學術算法進行了對比。

在大多數情況下，循環訓練并不是贏家，但它具有競爭性。由于各種原因，該研究沒有測試循環訓練的招牌功能：通過學習其他芯片設計來提高其性能。

“我們的目標很明確，就是推動社區不斷進步。”他在2023年國際物理設計研討會上告訴工程師們。只有時間能證明這是否可行。

如何與何時

工程師討論的問題被稱為布局，即確定邏輯或內存塊應該放在芯片的什么位置。布局時必須考慮權衡各種矛盾的因素，最大限度地提高芯片的工作頻率，同時最大限度地降低其功耗和占用空間。找到這個問題的最佳解決方案是最困難的部分之一，可能的排列組合比圍棋還多。

不過，圍棋最終被一款名為深度強化學習的人工智能打敗了，這正是前谷歌大腦研究員阿扎利亞?米爾霍西尼（Azalia Mirhoseini）和安娜?戈爾迪（Anna Goldie）在布局問題上應用的方案。該方案當時被稱為Morpheus，它將放置大塊電路（稱為“宏”）視為一個游戲，學習如何在游戲的過程中找到最佳解決方案。（宏的位置對芯片特性有巨大的影響。在循環訓練和Morpheus中，用一種被稱為標準單元單獨的算法在空白處來填充小部件。針對宏和標準單元，其他方法使用同樣的過程。）

簡而言之，其工作原理如下：芯片的設計文件從網表開始，在網表中指定哪些宏和單元根據什么約束條件連接到其他宏和單元。為了幫助加快訓練過程，標準單元隨后被收集到該集群。之后，循環訓練會開始將宏一次一個地放置到芯片“畫布”上。當最后一個宏放置后，單獨的算法在空白處填充標準單元，系統會嘗試進行快速評估，包括布線的長度（越長越差）、密集程度（越密集越差）及其擁擠程度（越擁擠越差）。這被稱為代理成本，就像電子游戲中的分數一樣。該分數作為反饋，用于調整神經網絡，然后系統會再次嘗試。洗滌、漂洗、重復。系統最終學會任務，商業軟件對整個布局進行全面的評估，生成芯片設計者關心的各種指標，如面積、功耗和約束頻率等。

經過7個月的審核過程，米爾霍西尼和戈爾迪于2021年6月在美國《自然》雜志上發表了Morpheus的研究結果和方法。（卡恩是第三位審查員。）該技術用于設計多代谷歌的張量處理單元（TPU）人工智能加速器芯片。2022年1月，谷歌在GitHub上發布了循環訓練的開源版本，但卡恩和其他人表示，即使是這個版本也不夠完整，無法復制該項研究。

為了回應《自然》雜志上發表的內容，一個主要由谷歌內部工程師組成的獨立團隊開始研究自己的方法，并認為該方法可以更好地將強化學習與現有算法進行對比。不過，這種競爭并不友好。據新聞報道，該小組的領導人、谷歌研究員薩特拉吉特?查特吉（Satrajit Chatterjee）多次暗中損害米爾霍西尼和戈爾迪的個人利益，并于2022年因此被解雇。

查特吉仍在谷歌就職時，他的團隊發表了一篇題為《更強大的基線》（Stronger Baselines）的論文，批評了發表在《自然》雜志上的研究。他試圖將論文提交給一個大會，但經過獨立決議委員會審查后，谷歌拒絕了。在他被解雇后，就在2022年國際物理設計研討會之前，該論文的早期版本被一個匿名推特賬戶泄露，從而引發了公眾的對峙。

基準、基線和再現性

《科技縱覽》在2022年國際物理設計研討會之后與電子設計自動化專家探討時發現，批評者有3個相互關聯的關注點：基準、基線和再現性。

基準是公開可用的電路設計，研究人員可以在基準上測試新的算法。谷歌在開始工作時常用的基準來源于已經有大約20年歷史的設計。盡管其與現代芯片的相關性存在一些爭論，但它們仍然得到了廣泛的支持。

《自然》雜志的論文主要關注的不是這些基準，而是谷歌張量處理單元的布局，這是一種復雜且前沿的芯片，該公司以外的研究人員無法設計。

基線是與新系統競爭的最先進的算法。《自然》雜志上的那篇論文將強化學習比作人類專家和當時領先的學術算法RePlAce。《更強大的基線》一文則認為，《自然》雜志的工作并未恰當地執行RePlAce，而另一種算法模擬退火也需要進行比較。

而實際上，卡恩真正關注的是再現性。他認為，發布在GitHub上的循環訓練無法讓另外一個獨立小組完全重復全過程。因此加州大學圣地亞哥分校團隊對卡恩認為缺失的元素和參數進行了逆向工程。

重要的是，卡恩的團隊公開記錄了進展、代碼、數據集和過程，作為此類工作可提高再現性的示例。

加州大學圣地亞哥分校的工作被稱為MacroPlacement，它不是對《自然》雜志論文的一對一的重做。除了使用公共基準，其中兩個已在2020年和2021年無法使用，MacroPlacement還分別將循環訓練與Cadence的商業工具Innovus并發宏放置器（CMP）和英偉達開發的一種名為AutoDMP的方法進行對比，后者是在卡恩發言前幾分鐘在2023年國際物理設計研討會上公開推出的。

另一個關鍵區別在于，每個Macro-Placement結果都來自以前從未見過設計的神經網絡。而在《自然》雜志論文的實驗中，研究人員曾用20個張量處理單元電路樣本對該網絡進行了預訓練，然后將其結果與其他方法的結果進行比較。米爾霍西尼和戈爾迪認為缺少預訓練剝奪了該方法的主要優勢。她們在一封電子郵件中寫道，循環訓練“與其他任何方法都不同，它能夠從經驗中學習，針對其看到的每一個問題，快速產生更好的布局”。

按照MacroPlacement常見問題解答（FAQ），沒有測試預訓練是因為使用預訓練網絡的代碼沒有在循環訓練中發布，而且沒有可用的設計能與《自然》雜志論文中完成的訓練相匹配。此外，對于該團隊測試的最小基準Ariane，谷歌已經表明，預訓練的結果不會產生比《自然》雜志上已發表內容更好。

循環訓練與其他技術的比較

卡恩的論文報告使用兩種工藝技術，實現3種基準設計的結果。該團隊測量的指標與米爾霍西尼和戈爾迪在其《自然》雜志論文中所做的指標相同，包括面積、布線長度、功率、兩個時序指標和前文所述的代理成本。（代理成本并不是生產中使用的實際指標，包含該指標是為了對應《自然》雜志論文。）結果是好壞參半。

正如《自然》雜志原始論文中所述，在大多數面對面比較的指標上，強化學習打敗了RePlAce。（對3種設計中最大的一種，RePlAce未能生成布局。）與人類專家相比，循環訓練經常失敗；與模擬退火相比，結果多為平局。

最大的贏家是商業工具CMP和新加入的AutoDMP，與其他方法相比，它們能在更多情況下提供最佳指標。

繼續前行

毫無疑問，這場爭端帶來的后果大多數都是負面的。查特吉陷入了與谷歌不當終止合同的訴訟。卡恩及其團隊花費了大量的時間和精力來重建幾年前完成的工作，而且可能是多次重建。多年來，戈爾迪和米爾霍西尼在承受引用未發表和未審查研究的批評后，離開了這一歷來難以吸引女性人才的工程領域。從2022年8月以來，她們一直在人工智能研究公司Anthropic從事有關大型語言模型的強化學習工作。

如果說有積極的一面，那么就是卡恩的工作為開源和可重現研究提供了一個模型，并增加了公開可用工具，從而推動了芯片設計中的這一部分向前發展。盡管如此，機器學習在芯片設計中的應用已經開始傳播開來，如今，它正在幫助了新思科技（Synopsys）和楷登電子（Cadence）的商業電子設計自動化工具在不斷發展。

然而，沒有這些不愉快，所有的好事也會出現。

作者：Samuel K. Moore

編輯：黃飛

?