編者按：影像學(xué)專家和臨床學(xué)者，Hugh Harvey醫(yī)生撰文提出，算法是一種全新的醫(yī)藥，以制藥業(yè)發(fā)展的歷史為鑒，可以預(yù)見(jiàn)AI在醫(yī)學(xué)方面的行業(yè)發(fā)展趨勢(shì)。Huge Harvey曾在NHS和ICR接受訓(xùn)練，兩度當(dāng)選ICR評(píng)選的年度最佳科普作家。曾就職于Babylon Health，領(lǐng)導(dǎo)公司的合規(guī)團(tuán)隊(duì)獲得了世界上第一個(gè)基于AI的分診服務(wù)的CE認(rèn)證商標(biāo)。目前從事影像科咨詢，任英國(guó)皇家影像學(xué)醫(yī)師協(xié)會(huì)信息學(xué)委員會(huì)成員，并擔(dān)任包括Kheiron Medical在內(nèi)的一些AI初創(chuàng)公司的顧問(wèn)。

曾幾何時(shí)，藥劑師和治療師在后街和集市上出售他們的洗劑和藥劑，承諾這些會(huì)為所有愿意購(gòu)買的人提供耐力和活力。蛇油與奇跡療法一起兜售，其中大部分除了作為安慰劑外沒(méi)有任何作用。漸漸地，循證實(shí)踐誕生了，現(xiàn)代醫(yī)學(xué)來(lái)臨了。只有那些證明了自身的有效性的療法保留下來(lái)，已成立藥物的處方緩慢而確定地增長(zhǎng)。現(xiàn)在醫(yī)生開(kāi)處方，藥劑師核查和發(fā)放藥物，病人總的來(lái)說(shuō)好轉(zhuǎn)了。今天，我們有一個(gè)嚴(yán)格監(jiān)管、激烈競(jìng)爭(zhēng)和公開(kāi)賺取荒唐的利潤(rùn)的全球制藥業(yè)。去年，前十大制藥公司的總收入共計(jì)四千億美元以上。現(xiàn)在，我們正處于一個(gè)全新的十億美元產(chǎn)業(yè)的風(fēng)口上；“醫(yī)療算法業(yè)”（medical algorithmia）正準(zhǔn)備把醫(yī)學(xué)推向更高的位置……

算法是新的藥品，醫(yī)生是新技術(shù)處方開(kāi)具者。

要理解人工智能（AI）和算法行業(yè)（也就是“大技術(shù)”（Big Tech）、“大算法業(yè)”（Big Algorithmia），“數(shù)字健康”（Digital Health）的未來(lái)，人們只需看看當(dāng)初制藥業(yè)是如何變成龐然大物的，包括新藥的研發(fā)和上市，醫(yī)學(xué)實(shí)踐是如何圍繞安全給藥和藥物監(jiān)測(cè)進(jìn)行的，以及醫(yī)生是如何學(xué)習(xí)了解藥物的作用機(jī)制和副作用的。

因此，根據(jù)從大制藥業(yè)現(xiàn)有實(shí)踐中得到的經(jīng)驗(yàn)教訓(xùn)，我預(yù)測(cè)圍繞算法的一些輔助產(chǎn)業(yè)即將爆發(fā)。

廣告和營(yíng)銷

英國(guó)制藥行業(yè)協(xié)會(huì)（Association of the British Pharmaceutical Industry，ABPI）以及美國(guó)研究研究與制造商協(xié)會(huì)（Pharmaceutical Research and Manufacturers of America，PHRMA）制定了行業(yè)規(guī)范，所有制藥公司在推廣其產(chǎn)品以及和醫(yī)護(hù)從業(yè)人員互動(dòng)時(shí)必須遵守。如果你愿意，可以將它稱為由罰款支撐的道德框架。它詳細(xì)描述了公司在向臨床醫(yī)生和患者推廣藥物時(shí)的行為規(guī)范。它們包括諸如公司可以在取悅客戶、免費(fèi)鋼筆、CME（醫(yī)學(xué)繼續(xù)教育）資助方面花多少錢，以及“溝通試驗(yàn)結(jié)果”的最佳實(shí)踐。其目的是防止傳遞錯(cuò)誤信息、夸大療效和統(tǒng)計(jì)上的小花招 ——大量制藥公司精于此道。

然而，批評(píng)者仍然存在。Ben Goldacre醫(yī)生，一個(gè)道德破產(chǎn)的世界（他稱之為制藥惡業(yè)（Bad Pharma））的堅(jiān)定抵抗者，如此寫道，盡管有倫理規(guī)范，制藥公司仍設(shè)法規(guī)避，“……設(shè)計(jì)不當(dāng)?shù)脑囼?yàn)，少得令人絕望的不具代表性的特別患者，使用設(shè)計(jì)上存在缺陷的分析技術(shù)，通過(guò)這樣的方式，他們夸大療效……”。聽(tīng)起來(lái)有點(diǎn)耳熟？其他有效的批評(píng)包括制藥公司缺乏發(fā)表負(fù)面試驗(yàn)結(jié)果的壓力。

顯然，也可以如此批評(píng)算法開(kāi)發(fā)人員。我從未看到一篇關(guān)于深度學(xué)習(xí)的論文，公開(kāi)聲稱“我們的算法沒(méi)有效果”，其中一些具有“積極”結(jié)果的論文使用了一些相當(dāng)可疑的統(tǒng)計(jì)學(xué)的障眼法。當(dāng)然，整體而言，AI周圍仍然圍繞著一股炒作和煽動(dòng)的風(fēng)氣。我想這部分是因?yàn)橐蕾囷L(fēng)險(xiǎn)投資的公司，因?yàn)楹ε挛磥?lái)沒(méi)有人給它們投資而不愿意承認(rèn)某些算法不起作用。每篇AI學(xué)術(shù)論文（順便一提，它們很少經(jīng)過(guò)同行評(píng)審）后都緊跟著一篇夸大的媒體新聞稿，聲稱“算法X在Y領(lǐng)域的表現(xiàn)超過(guò)了醫(yī)生！”，這肯定不是什么好事。

我們不應(yīng)該僅僅責(zé)備媒體。只需到今年的RSNA（北美放射協(xié)會(huì)年會(huì)）的攤位前看看，就可以了解一些公司的夸大宣傳有多過(guò)分。我們需要記住的是，算法的強(qiáng)力臨床調(diào)查和后續(xù)營(yíng)銷的環(huán)境和框架仍在初始階段，也正是在這樣的一個(gè)環(huán)境下，隨著監(jiān)管機(jī)構(gòu)和開(kāi)發(fā)人員找到解決方法，我們將看到這方面的大規(guī)模加速增長(zhǎng)。在此之前，我們只能透過(guò)炒作的重重迷霧來(lái)尋找實(shí)際的真相。

所有的制藥公司都有一個(gè)負(fù)責(zé)臨床事務(wù)的外部溝通的專門團(tuán)隊(duì)——稱為醫(yī)務(wù)團(tuán)隊(duì)。團(tuán)隊(duì)由在醫(yī)療事務(wù)、醫(yī)學(xué)寫作和科學(xué)聯(lián)絡(luò)方面受過(guò)訓(xùn)練的專業(yè)醫(yī)生組成，他們的任務(wù)是簽署任何外部學(xué)術(shù)出版物，品牌和營(yíng)銷，與意見(jiàn)領(lǐng)袖和客戶進(jìn)行科學(xué)交流，并確保所有交流在臨床上的準(zhǔn)確性。畢竟，任何被發(fā)現(xiàn)發(fā)布虛假?gòu)V告的制藥公司都會(huì)受到重罰。因此，我預(yù)計(jì)AI開(kāi)發(fā)人員也需要聘請(qǐng)一個(gè)“醫(yī)務(wù)團(tuán)隊(duì)”來(lái)處理同樣的交流任務(wù)。由未經(jīng)臨床培訓(xùn)的工作人員從事AI公司臨床交流工作，特別是直接處理醫(yī)療保健事物，是不可接受的。

同時(shí)，我預(yù)測(cè)，在FDA及其等效的驗(yàn)證和監(jiān)管框架之外，會(huì)有一個(gè)監(jiān)督算法營(yíng)銷的機(jī)構(gòu)，并引入一套倫理操守準(zhǔn)則。該機(jī)構(gòu)很可能會(huì)借鑒制藥行業(yè)規(guī)范在營(yíng)銷、銷售和廣告方面的準(zhǔn)則，以確保醫(yī)院確實(shí)在銷售高新技術(shù)而不是數(shù)字蛇油。它可能會(huì)復(fù)制“取悅客戶”的規(guī)則，并設(shè)立準(zhǔn)則，規(guī)定業(yè)務(wù)開(kāi)發(fā)經(jīng)理可以或不可以說(shuō)什么，甚至可能會(huì)就關(guān)于算法有效性的新聞稿如何行文制定相應(yīng)的指南。如果某個(gè)地方的某個(gè)人已經(jīng)建立了這樣一個(gè)機(jī)構(gòu)，那么我不會(huì)感到驚訝——它應(yīng)該是大有裨益的……

但是，如果沒(méi)有可靠的臨床研究和臨床試驗(yàn)作為基礎(chǔ)，這一切都將是空中樓閣。我之前已經(jīng)談過(guò)統(tǒng)計(jì)分析報(bào)告和監(jiān)管框架——但還沒(méi)有討論算法實(shí)現(xiàn)的后遺癥——我接下來(lái)會(huì)談?wù)摯笾扑帢I(yè)生命周期的下一部分——釋放到臨床工作流程的荒野之中后，對(duì)算法的持續(xù)監(jiān)督。

算法安全和技術(shù)警戒

世界上每一家醫(yī)院都有一名藥劑師負(fù)責(zé)監(jiān)督用藥安全。無(wú)論他們是專注于處方錯(cuò)誤、出院溝通，還是無(wú)菌制備、分發(fā)失誤，他們的任務(wù)是確保在臨床實(shí)踐中最小化藥物的危害和副作用。這是整個(gè)患者安全中非常重要的一部分，常常是日常臨床護(hù)理的焦點(diǎn)。（醫(yī)院中的物理醫(yī)療設(shè)備也是如此——我擔(dān)保有雇員負(fù)責(zé)確保裝備的電氣合規(guī)性、質(zhì)量保證和日常維護(hù)。）

算法安全性需要相同水平的監(jiān)督。算法不僅可能造成意外傷害（沒(méi)有算法是完美的），還需要根據(jù)監(jiān)管要求接受嚴(yán)格的上市后監(jiān)督。醫(yī)療設(shè)備的國(guó)際標(biāo)準(zhǔn)（包括ISO 13485）明確規(guī)定，開(kāi)發(fā)者應(yīng)該確保有一個(gè)穩(wěn)健的內(nèi)置系統(tǒng)監(jiān)控真實(shí)世界的設(shè)備表現(xiàn)。這包括定期審計(jì)算法輸出，并提供反饋機(jī)制以確保錯(cuò)誤得到處理。

技術(shù)警戒（technovigilance）是一個(gè)新名詞——它是受大制藥業(yè)的“藥物警戒”這個(gè)詞的啟發(fā)而提出。類似強(qiáng)制報(bào)告醫(yī)藥安全的英國(guó)的黃牌系統(tǒng)以及美國(guó)的藥品評(píng)價(jià)和研究中心（Center for Drug Evaluation and Research）系統(tǒng)，技術(shù)警戒這一設(shè)計(jì)確保公司和最終用戶將所有新的或意料之外的傷害報(bào)告給一個(gè)中央管理實(shí)體。例如，如果檢測(cè)患者心房顫動(dòng)（AF）發(fā)作的算法沒(méi)有觸發(fā)導(dǎo)致患者遭受傷害，那么該事件必須同時(shí)報(bào)告給開(kāi)發(fā)者和相關(guān)安全監(jiān)督機(jī)構(gòu)。

我想說(shuō)，我預(yù)測(cè)圍繞安全和技術(shù)警戒概念將產(chǎn)生一個(gè)行業(yè)——但實(shí)際上已經(jīng)有這樣一個(gè)行業(yè)了！第三方監(jiān)管公司現(xiàn)已提供技術(shù)警戒咨詢，并幫助建立醫(yī)療設(shè)備的合規(guī)流程。該行業(yè)的擴(kuò)張將提供監(jiān)控算法安全性的服務(wù)。該行業(yè)不僅將確保持續(xù)性的安全監(jiān)控，還將與極其重要的IV期臨床研究結(jié)合，在現(xiàn)場(chǎng)環(huán)境對(duì)算法的表現(xiàn)進(jìn)行臨床評(píng)估，以評(píng)定其安全表現(xiàn)。

醫(yī)學(xué)教育和相關(guān)健康專家

漫畫譯文：我無(wú)法相信學(xué)習(xí)還在教孩子們零假設(shè)。我記得好幾年前就讀到一個(gè)重大研究，最終證偽了零假設(shè)。

醫(yī)學(xué)教育也必須適應(yīng)新的數(shù)字化未來(lái)。正如今天的醫(yī)學(xué)生必須學(xué)習(xí)藥效動(dòng)力學(xué)機(jī)制、半衰期、生物效應(yīng)和化學(xué)串聯(lián)反應(yīng)，未來(lái)的學(xué)生將需要了解統(tǒng)計(jì)偏差、人工神經(jīng)網(wǎng)絡(luò)函數(shù)、數(shù)據(jù)結(jié)構(gòu)和解釋算法輸出。除了學(xué)習(xí)藥物類別及其副作用，醫(yī)生還需要了解不同類別的算法，其適應(yīng)癥和局限性，以及如何在上下文中解釋其輸出結(jié)果。和藥物安全性一樣，醫(yī)生需要關(guān)注算法的安全性。例如，一種藥物有已知的功效、預(yù)期的目標(biāo)人群、推薦劑量和監(jiān)測(cè)要求。開(kāi)處方前，醫(yī)生需要了解藥物的大部分情況（如果他們不了解，他們不應(yīng)該把藥開(kāi)進(jìn)處方！）。類似地，算法有已知的精確度、預(yù)期的目標(biāo)人群、推薦用法，并且需要監(jiān)測(cè)。毫無(wú)疑問(wèn)，在算法的局限性方面，醫(yī)生應(yīng)該接受和藥物的副作用一樣程度的教育。

基于這些原因，我預(yù)計(jì)醫(yī)學(xué)院訓(xùn)練將不得不適應(yīng)并開(kāi)始教授基礎(chǔ)數(shù)據(jù)科學(xué)，并更加關(guān)注統(tǒng)計(jì)學(xué)的理解。現(xiàn)在我們簡(jiǎn)要地向?qū)W生介紹基本的卡方檢定和T檢驗(yàn)，而下一代醫(yī)生必須能夠處理更復(fù)雜的統(tǒng)計(jì)方法，包括（但不限于）ROC曲線、AUC、概率建模、推斷和讓步率。只有到那時(shí)，我們才準(zhǔn)備好了引導(dǎo)醫(yī)學(xué)數(shù)字化演變的臨床主力軍。

所以，我預(yù)測(cè)，將產(chǎn)生一個(gè)向醫(yī)生提供數(shù)據(jù)科學(xué)教育的產(chǎn)業(yè)。這已經(jīng)開(kāi)始發(fā)生了，在線課程和MOOC開(kāi)放課程面向所有想成為數(shù)據(jù)科學(xué)家的人。我認(rèn)為我們將開(kāi)始看到專門針對(duì)臨床醫(yī)生的課程，重點(diǎn)關(guān)注醫(yī)療背景下的算法和解釋算法輸出所需的概率學(xué)知識(shí)。

當(dāng)然，臨床實(shí)踐中算法的最終用戶并不僅僅包括醫(yī)生。醫(yī)學(xué)走廊里充滿了不是醫(yī)師的專業(yè)人士，幾乎醫(yī)學(xué)的每個(gè)方面都有。我們有超聲波檢驗(yàn)師、手術(shù)室護(hù)士、病房管理員、搬運(yùn)工、藥劑師。因此，我預(yù)測(cè)會(huì)出現(xiàn)一個(gè)專注于算法的全新醫(yī)療專業(yè)，我們稱他們?yōu)椤八惴◣煛薄?/p>

作為臨床算法的專家，算法師將檢查醫(yī)院使用的算法是否正確，使用算法的場(chǎng)景是否正確，在選型流程中幫助選擇好的算法，提供哪些技術(shù)適用哪些場(chǎng)景的建議，監(jiān)督醫(yī)院內(nèi)的算法安全，同時(shí)負(fù)責(zé)“技術(shù)警戒”報(bào)告。我想，成為算法師所需要的技能組合將是非常利基的——既有基本的臨床基礎(chǔ)，也有數(shù)據(jù)科學(xué)的背景。

你可能想知道為什么需要單獨(dú)的專業(yè)。好問(wèn)題！在我看來(lái)，即使我們有效地教育醫(yī)生，他們不具備成為真正的全職算法師的時(shí)間或?qū)ｉT技能。事實(shí)上，讓醫(yī)生遠(yuǎn)離一線是臨床訓(xùn)練上的浪費(fèi)。是的，一些臨床學(xué)者具備必要的技能并且可能領(lǐng)導(dǎo)算法師部門，但是在醫(yī)院的日常臨床活動(dòng)中，對(duì)這些專家意見(jiàn)的需求會(huì)非常大，因而大部分工作都需要經(jīng)過(guò)專門訓(xùn)練的專職醫(yī)療人員來(lái)完成。相比花錢讓醫(yī)生遠(yuǎn)離患者，專業(yè)工作人員的性價(jià)比也更高。

所以我們了解了什么？

藥物無(wú)法提供安全有效的醫(yī)療，是人和系統(tǒng)提供了這些。AI和算法同樣適用這一點(diǎn)。

通過(guò)觀察大制藥業(yè)，AI開(kāi)發(fā)人員得以開(kāi)始預(yù)測(cè)其行業(yè)內(nèi)外的發(fā)展趨勢(shì)。準(zhǔn)備好適應(yīng)和接受這些變化對(duì)于可持續(xù)增長(zhǎng)至關(guān)重要。

從醫(yī)療事務(wù)和營(yíng)銷指導(dǎo)，安全和技術(shù)警戒，到教育和訓(xùn)練專業(yè)人員，AI開(kāi)發(fā)人員都可以參與整個(gè)支持產(chǎn)業(yè)的生態(tài)系統(tǒng)并從中受益。 如果他們參與這些，從大算法業(yè)中最終受益最多的是我們的患者。