深度學習算法正在以無與倫比的洞察力凝視著MRIs和X射線的圖像，但是當他們犯錯時，應該歸咎于誰呢？

里吉納·巴茲蕾（REGINA BARZILAY）在40歲出頭時進行了常規乳腺X光檢查，圖像顯示她的乳腺組織中出現了一系列復雜的白色斑點。這些痕跡可能是正常的，也可能是癌變的——即使是最好的放射科醫生也很難分辨出它們的區別。她的醫生認為這些斑點暫時不會有什么事，不用擔憂。事后，她說，“我已經得了癌癥，他們卻沒有發現。”

在接下來的兩年里，巴茲蕾接受了第二次乳腺X光檢查、乳腺核磁共振檢查和活組織檢查，所有的檢查結果都是模棱兩可或相互矛盾的。最終，她在2014年被診斷出患有乳腺癌，但被診斷出乳腺癌的過程令人沮喪得難以置信。“你怎么做三個測試，得到三個不同的結果？”她不知道。

巴茲蕾接受了治療，恢復得很好。但她仍然擔心，解讀乳腺X光檢查的不確定性可能會貽誤治療時機。她說：“我意識到，在目前的方法下，我們能否得出正確的結論，多半靠的是運氣?！币虼耍龀隽艘粋€改變職業生涯的決定：“我必須改變它?！?/p>

作為麻省理工學院的計算機科學家，巴茲蕾以前從未研究過健康問題。她的研究使用了機器學習技術——人工智能的一種形式——來進行自然語言處理。但她一直在尋找新的研究方向，并最終決定與放射科醫生合作，開發一種機器學習算法，利用計算機出色的視覺分析技能，找出人類肉眼可能忽略的乳腺x線照片中的細微模式。

在接下來的四年里，研究小組訓練了一個計算機程序，分析了大約3.2萬名不同年齡和種族的女性的乳腺X線照片，并告訴程序哪些女性在掃描后的五年內被診斷出患有癌癥。然后，他們在3800多名患者身上測試了電腦的識別能力。他們的研究結果發表在去年5月的《放射學》（Radiology）雜志上，在預測癌癥或沒有癌癥方面，他們得出的算法比診所中普遍使用的方法要準確得多。當巴茲蕾的團隊在她2012年的乳腺x光片上運行這個程序時，這個算法正確地預測了她在五年內患乳腺癌的風險比98%的病人要高。

人工智能算法不僅僅能發現人眼難以發現的細微細節，它還可以開發出全新的醫學圖像解釋方式，雖然有時是人類無法理解的方式。設計人工智能程序的眾多研究人員、初創公司和掃描儀制造商希望，人工智能能夠提高診斷的準確性和及時性，在缺乏放射科醫生的發展中國家和偏遠地區提供更好的治療，揭示生物學和疾病之間的新聯系，甚至有助于預測一個人的死亡時間。

人工智能應用程序正迅速進入診所，醫生們對這項技術既感到興奮，又擔心自己的工作被機器搶走。算法也提出了一些前所未有的問題，比如如何監管一臺不斷學習和變化的機器，以及如果算法診斷錯誤，該怪誰。盡管如此，許多醫生還是對人工智能程序的前景感到興奮。當然如果這些模型能夠得到充分的驗證，并且提高我們對它們如何工作的理解水平，這將有助于提高每個人的醫療保健水平。

熱門話題

使用計算機讀取放射掃描圖像的想法并不新鮮。20世紀90年代，放射科醫生開始使用一種名為計算機輔助診斷（CAD）的程序來檢測乳腺X光檢查中的乳腺癌。這項技術被譽為革命性的，診所很快就采用了它。但事實證明，與現有的方法相比，CAD更耗時、更難以使用，而且根據一些研究，使用CAD的診所比不使用CAD的診所更容易出錯。費城杰佛遜大學的放射學家Vijay Rao說，這次失敗讓許多醫生對計算機輔助診斷產生了懷疑。

然而，在過去的十年里，計算機視覺技術突飛猛進地發展——在諸如人臉識別和醫學等日常應用領域。這種進步在很大程度上是由深度學習方法的發展推動的。在深度學習方法中，給計算機一組圖像，然后讓它自己在這些圖像之間建立聯系，最終形成一個關聯網絡。例如，在醫學成像中，這可能涉及告訴計算機哪些圖像包含癌癥，并讓計算機自由地尋找這些圖像中常見但無癌癥圖像中不存在的特征。

人工智能技術在放射學領域的發展和應用迅速擴大?！叭ツ?，我參加的每一次大型會議，主題都是人工智能和成像，”北美放射學會前會長拉奧（ Rao）說?！帮@然，這是一個非常、非常熱門的話題。”

美國食品和藥物管理局（FDA）目前沒有公布已獲批準的人工智能產品清單。但加州拉霍亞市斯克里普斯研究所（Scripps Research Institute）的數字醫學研究員埃里克·托波爾（Eric Topol）估計，該機構每月批準的醫學成像算法不止一種。營銷情報公司Reaction Data在2018年進行的一項調查發現，84%的美國放射科診所已經或計劃采用人工智能程序。這一領域在中國發展尤其迅速，有100多家公司正在設計用于醫療保健的人工智能應用程序。

總部位于特拉維夫的初創企業Aidoc的首席執行官埃拉德?瓦拉赫（Elad Walach）表示：“現在是進入這個市場的絕佳時機。”該公司開發了用來分析CT掃描中的異常情況的算法，并將這些病人移至醫生優先考慮的名單的首位。Aidoc還追蹤了醫生使用該程序的頻率，以及他們花多長時間對其結論進行事后分析?！耙婚_始他們持懷疑態度，但兩個月后他們就習慣了，而且非常信任，”瓦拉赫說。

節省時間對挽救病人至關重要。最近一項關于肺部塌陷的胸部x光檢查的研究發現，放射科醫生將60%以上的檢查列為最重要的檢查，這意味著他們可能要花上幾個小時來處理那些不太嚴重的病例，然后才能處理那些真正緊急的病例?？偛课挥诓ㄊ款D的通用電氣醫療保健公司（GE Healthcare）副總裁兼人工智能總經理卡利?約德（Karley Yoder）表示：“我遇到的每一位醫生都有一個病人因為肺塌陷而去世的故事。”該公司是醫療成像設備的領先制造商之一。去年9月，美國食品和藥物管理局批準了一套人工智能工具，該工具將嵌入通用電氣的掃描儀中，自動標記出最緊急的病例。

因為計算機可以處理大量的數據，所以它可以執行超出人類能力的分析任務。例如，谷歌正在利用其計算能力開發人工智能算法，將二維肺部CT圖像構建為三維肺部，并觀察整個結構，以確定是否存在癌癥。相比之下，放射科醫生必須單獨觀察這些圖像，并試圖在腦中重建它們。另一種谷歌算法可以做一些放射科醫生根本做不到的事情：通過觀察患者的視網膜掃描，捕捉與血壓、膽固醇、吸煙史和衰老相關的細微變化，來確定患者患心血管疾病的風險。谷歌產品經理Daniel Tse說：“這其中可能會有我們之前并未了解的潛在的信號?！?/p>

黑箱問題

人工智能程序最終可能會揭示生物學特征與患者預后之間的全新聯系?！睹绹t學會雜志》網絡版（JAMA Network Open） 2019年發表的一篇論文描述了一種深度學習算法，該算法對超過8.5萬名參與了兩項大型臨床試驗的人進行了訓練，這些試驗對他們進行了12年多的追蹤。該算法對每個病人在這段時間內的死亡風險進行評分。研究人員發現，被人工智能歸入高風險類別的人中，有53%的人在12年內死亡，而被歸入低風險類別的人中，只有4%的人死亡。該算法沒有關于誰死亡或死因的信息。首席研究員、馬薩諸塞州總醫院（Massachusetts General Hospital）的放射科醫生邁克爾·盧（Michael Lu）說，如果結合醫生的評估和其他數據，比如基因，這種算法可能會成為評估病人健康狀況的有用工具。

為了了解算法是如何工作的，研究人員識別出了用于計算的圖像部分。有些，如腰圍和女性乳腺結構，是有意義的，因為這些區域可以暗示某些疾病的已知風險因素。但該算法也研究了患者肩胛骨下的區域，這一區域沒有已知的醫學意義。盧認為，靈活性可能是壽命縮短的一個預測指標。做x光胸透通常需要患者抱著機器，而身體不太健康的人如果不能把手臂完全環繞著機器，他們的肩膀可能會擺成另一種姿勢。

電腦和人類思維方式的脫節被稱為“黑盒問題”：即電腦在一個人類無法進入的模糊空間中運作。專家們對這在醫學成像中是否存在問題意見不一。一方面，如果一個算法持續地改善醫生的表現和病人的健康，醫生不需要知道它是如何工作的。畢竟，研究人員還沒有完全了解許多藥物的作用機制，比如自20世紀50年代以來一直用于治療抑郁癥的鋰。不過話說回來，也許我們不應該如此執著，因為人類目前在醫學領域的工作方式仍有點類似黑箱方式。我們又憑什么對機器有更高的標準呢？

然而，不可否認的是，黑箱子為人類和人工智能之間的誤解提供了大量的機會。例如，西奈山伊坎醫學院（Icahn School of Medicine at Mount Sinai）的研究人員發現，他們開發的一種用于識別肺部x射線肺炎的深度學習算法在性能上存在差異，這讓他們深感困惑。在西奈山生產的x光片上，它的準確率超過90%，但在其他機構的掃描中，準確率要低得多。他們最終發現，該算法不僅分析了這些圖像，還考慮了在每個機構中肺炎發病率的基礎上得出陽性結果的幾率——而這不是他們期望或希望該程序做的事情。

哈佛醫學院（Harvard Medical School）研究機器學習生物醫學應用的塞繆爾·芬萊森（Samuel Finlayson）對這些混淆因素感到擔憂。他指出，人工智能訓練的數據集可能會有偏差，而開發人員沒有考慮到這一點。例如，在急診室或半夜拍攝的照片可能比常規檢查時拍攝的照片更容易顯示出病人。一種算法也可以學習查看疤痕或醫療設備植入物，這些表明以前的健康問題，并決定沒有這些標記的人沒有這種情況。即便是機構給自己的圖像貼上標簽的方式，也可能會讓人工智能算法感到困惑，并妨礙模型在另一家機構的不同標簽系統中正常運行?！叭绻阍卺t院里天真地從一個地點、一個時間、一個人群來訓練（算法），你就不會意識到模型所考慮的成千上萬個小因素。如果這些改變中的任何一項發生，都會有損結果的準確性，”芬萊森警告說。

芬萊森說，解決方案是用來自許多地方和不同患者群體的數據訓練一個算法，然后在一個新的患者群體中進行前瞻性測試——不做任何修改。但是很少有算法被這樣測試過。根據Topol最近的《自然醫學評論》（Nature Medicine review），在數十項聲稱人工智能表現優于放射科醫生的研究中，只有少數在與人工智能研發地不同的人群中進行了測試?！八惴ㄊ欠浅！⒎浅Ｎ⒚畹?，”杜克大學（Duke University）計算機科學家辛西婭?魯?。–ynthia Rudin）表示?！叭绻銍L試在（圖像）訓練集之外使用一種方法，并不總是奏效?！?/p>

隨著研究人員意識到這一問題，更多人開始在新環境下的前瞻性研究可能即將出現。巴茲蕾的團隊最近完成了對瑞典卡羅林斯卡學院10000次掃描的乳腺x光片人工智能的測試，結果發現它在那里的表現和在馬薩諸塞州一樣好。該組織目前正與臺灣和底特律的醫院合作，在更多樣化的患者群體中進行測試。研究小組發現，目前評估非裔美國女性患乳腺癌風險的標準要低得多，巴茲蕾說，因為這些標準主要是用白人女性的掃描數據制定的：“我認為我們確實有能力改變這種可悲的狀況?！?/p>

法律的未知領域

即使人工智能的結論在醫學上是相關的，但從法律角度來看，黑匣子仍然存在一些問題。如果人工智能做出了錯誤的診斷，就很難判斷是醫生的錯，還是程序的錯。密歇根大學的健康法律專家尼克爾森?普萊斯說：“醫療保健領域發生了很多不好的事情，你不一定知道為什么會發生這些糟糕的事情?！比绻斯ぶ悄芟到y導致醫生做出錯誤診斷，醫生可能無法解釋原因，而該公司關于測試方法的數據很可能是一個受到嚴密保護的商業機密。

醫療人工智能系統還太新，尚未在醫療事故訴訟中受到挑戰，因此，目前尚不清楚法院將如何確定責任，以及應要求何種透明度。

建立黑盒算法的趨勢讓Rudin很沮喪。這個問題來自于這樣一個事實，即大多數醫學算法都是通過采用為其他類型的圖像分析開發的深度學習工具來構建的?！澳銢]有理由不能造出一個能自我解釋的機器人，”她堅持說。但是，從頭構建一個透明的算法要比重新利用現有的黑盒算法來查看醫療數據要難得多。

Rudin正在開發透明的人工智能算法，分析疑似腫瘤的乳腺x光片，并不斷向研究人員通報他們的工作。但她的研究一直受到缺乏可用圖像來訓練算法的阻礙。Rudin說，公開提供的圖像往往標識不清，或者是用已經不再使用的舊機器拍攝的，如果沒有龐大而多樣的數據集，算法往往會發現混淆的因素。

黑匣子，以及人工智能算法從經驗中學習的能力，也給監管機構帶來了挑戰。與總是以相同方式工作的藥物不同，機器學習算法會隨著時間的推移而改變和改進，因為它們可以訪問更多的患者數據。由于該算法從如此多的輸入中提取意義，一些看似無害的變化，如醫院的新IT系統，可能會突然毀掉人工智能程序?！皺C器會像人一樣生病，它們也會被惡意軟件感染，”Topol說?！爱斠粋€人的生命處于危險之中時，你不能相信一個算法。”

去年4月，FDA提出了一套指導方針來管理隨時間變化的算法。其中一個期望是，生產商要密切關注自己的算法如何變化，以確保它們繼續按設計工作，并要求它們在發現可能會促使重新評估的意外變化時通知FDA。該機構還在開發最佳制造實踐，并可能要求企業闡明它們對算法可能如何變化的預期，以及如何管理這些變化的協議。“我們需要明白，從來沒有一種萬能藥，”FDA數字健康主管巴庫爾·帕特爾（Bakul Patel）說。

機器會取代醫生嗎？

人工智能的局限性應該會讓擔心機器會搶走他們工作的放射科醫生放心。2012年，科技風險投資家、太陽微系統公司（Sun Microsystems）的聯合創始人維諾德·科斯拉（Vinod Khosla）預測，算法將取代80%的醫生，這一預測讓醫學界震驚。最近，他聲稱，10年后仍在執業的放射科醫生將“殺死病人”。Rao說，這樣的言論在放射學領域引起了恐慌和反彈?！拔艺J為炒作造成了很多期望?！?/p>

但這種擔憂也產生了切實的影響。2015年，美國只有86%的放射科住院醫師職位得到填補，而前一年為94%，盡管這些數字在過去幾年中有所改善。根據2018年對322名加拿大醫科學生的調查，68%的學生認為人工智能將減少對放射科醫生的需求。

盡管如此，大多數專家和人工智能制造商仍懷疑人工智能是否會很快取代醫生?！叭斯ぶ悄芙鉀Q方案正變得非常擅長把一件事做得非常好，”瓦拉赫說。但由于人類生物學是復雜的，他說，“你通常必須讓人把不止一件事做得非常好。”換句話說，即使一個算法在診斷某個特定問題上做得更好，把它與醫生的經驗和對病人個人情況的了解結合起來，也會得到更好的結果。

能夠很好地完成一項任務的人工智能可以讓放射科醫生從繁重的工作中解脫出來，讓他們有更多的時間與患者互動。托波爾說“我們在醫學上需要的是更多的人與人之間的接觸和聯系?！?/p>

盡管如此，Rao和其他人相信，由于人工智能算法的出現，放射科醫生所接受的工具和培訓，包括他們的日常工作，將在未來幾年發生巨大的變化?！叭斯ぶ悄懿粫〈派淇漆t生，但使用人工智能的放射科醫生會取代不使用人工智能的放射科醫生，”斯坦福大學放射科醫生柯蒂斯?蘭羅茲（Curtis Langlotz）表示。

然而，也有一些例外。2018年，FDA批準了第一個無需醫生查看圖像就能做出醫療決定的算法。IDx技術公司在愛荷華州的Coralville開發了這個項目，通過觀察視網膜圖像來檢測糖尿病視網膜病變，根據該公司的數據，準確率高達87%。IDx首席執行官邁克爾·阿布拉莫夫表示，由于沒有醫生參與，公司已經為任何醫療事故承擔了法律責任。

在短期內，人工智能算法更有可能幫助醫生，而不是取代他們。例如，在發展中國家工作的醫生可能無法獲得與美國或歐洲主要醫療機構相同種類的掃描儀，或者無法獲得能夠解釋掃描結果的訓練有素的放射科醫生。倫格倫說，隨著醫學變得更加專業化和依賴于圖像分析，富裕地區和貧困地區提供的醫療服務標準之間的差距正在擴大。運行一種算法可能是縮小這一差距的一種廉價方式，甚至可以在移動電話上實現。

隆格倫的團隊正在開發一種工具，可以讓醫生用手機拍攝x光膠片——而不是發達國家標準的數字掃描——并在照片上運行一種算法來檢測肺結核等疾病?！八粫〈魏稳?，”他說——許多發展中國家一開始就沒有放射科醫生。“我們正在擴充非放射科醫生，把專業知識帶到他們的指尖?！?/p>

Rao說，人工智能的另一個短期目標可能是首先檢查醫療記錄，以確定病人是否需要掃描。許多醫學經濟學家認為成像被過度使用——僅在美國每年就有超過8000萬例的CT掃描。盡管如此豐富的數據有助于研究人員使用它來訓練算法，但掃描的成本極高，可能會讓病人暴露在不必要的輻射中。同樣，隆格倫補充說，有一天，算法可以在患者仍在掃描儀中時分析圖像并預測最終結果，從而減少獲得良好圖像所需的時間和輻射暴露量。

最后，巴茲蕾說，當人工智能作為一個敏銳的合作伙伴來處理那些醫生無法獨自發現和解決的問題時，它將是最有用的。

責任編輯：ct