醫療保健行業似乎是部署人工智能系統的理想場所。每次的醫學檢測、醫生診斷及過程，都是被記錄下來的，而且患者的醫療記錄正越來越多地以電子格式存儲。人工智能系統可以分析這些數據并得出結論，指出如何提供更好的和更具成本效益的護理。

許多研究人員正在建立這樣的AI系統。醫學和計算機科學期刊上發表了很多介紹實驗性AI系統的文章，這些AI系統可以解析患者記錄，掃描影像，并給出關于患者健康情況的診斷和預測。然而，這些系統還鮮有進入醫院和診所以發揮其價值的。

阻礙因素是什么呢？匹茲堡大學醫學院的研究員和醫生ShinjiniKundu說，障礙并不在于技術方面。“障礙主要在信任方面，”她說。“你可能有一項很棒的技術，但你如何讓人們使用這項技術并信賴它呢？”

大多數醫療AI系統都是攝入數據后給出答案的“黑匣子”。以他們不理解的推理為基礎進行治療，醫生們對此心存擔憂，這是可以理解的。因此，研究人員正在嘗試各種技術來創建能展示其如何工作的系統。

給我們畫一幅圖

Kundu最近在聯合國的AIforGood會議上介紹了她的研究。她正致力于研究對醫學圖像進行分析并解釋其所見的AI。她的系統包含一個機器學習組件，該組件檢查諸如MRI掃描影像等的圖像，并找出醫生感興趣的圖案。

在Kundu最近的實驗中，AI分析了若干膝關節MRI影像并預測了哪些膝蓋會在三年內發生骨關節炎。然后，使用一種稱為“生成建模”（generativemodeling）的技術，AI創建了一幅新圖像——一幅顯示出膝蓋肯定會發展這種狀況的MRI影像。Kundu說他們啟用了一個黑匣子分類器來生成這些新圖像。

照片來源：上圖，OsteoarthritisInitiative；下圖，UniversityofPittsburghSchoolofMedicine。

預測的力量：人類的眼睛無法分辨出那些在三年內會發生膝關節炎的患者和不會發生膝關節炎的患者的MRI掃描影像之間的區別。但AI發現了它們在軟骨圖案部分的微妙差異，并向研究人員展示了這些差異。

AI系統生成的圖像顯示，它是基于顯示在MRI掃描影像中的軟骨的細微變化（人類醫生沒能注意到它們）來做出預測的。Kundu說：“這是這項工作另一個很重要的方面。它幫助人類了解關節炎的早期發育過程可能是怎樣的。”

現在你看到了什么？

加利福尼亞大學的助理教授和執業心臟病專家RimaArnaout訓練了一個神經網絡來對超聲心動圖進行分類（超聲波掃描對于心臟疾病的診斷是至關重要的）。在今年3月份的NPJDigitalMedicine期刊上，發表了她對其第一版AI系統的介紹。在從對心臟進行透視的角度分類低分辨率的圖像上，該系統所做的分類結果比心臟科醫生所做的要更準確。該系統的下一版本將使用這些信息來識別視野中的解剖結構并診斷心臟疾病和缺陷。

圖片來源：Rima Arnaout

但這樣的診斷系統不太可能被醫生們接受：“我永遠不會因為計算機讓我這樣做就做出與我自己的判斷不相符的診斷，”Arnaout說。為此，她使用了兩種技術來理解她的分類器是如何做出決定的。在遮擋實驗中，她對待測圖像的部分區域進行了遮擋，看看AI的答案會如何改變；通過顯著性映射，她將神經網絡給出的最終答案向原始圖像追溯，以發現哪些像素承載的權重最大。

這兩種技術都顯示了AI依賴圖像的一部分來做出決策。令人鼓舞的是，對人工智能決策貢獻最大的結構也是人類專家認為重要的結構。

超越相關性

微軟研究院的首席研究員RichCaruana幾十年來一直致力于創建不僅智能而且易懂的機器學習模型。他的人工智能使用醫院的電子健康記錄來預測患者的預后情況。但他發現，即使是看似高度準確的模型，也會隱藏著嚴重的缺陷。

在他正進行的一項研究中，他訓練了一個機器學習模型，用來區分應住院治療的肺炎高風險患者和可以在家休養的肺炎低風險患者。該模型發現患有心臟病的人死于肺炎的可能性較小，并自信地斷言這些患者風險較低。

Caruana解釋說，被診斷患有肺炎的心臟病患者在風險高低方面之所以有更好的輸出結果，并不是因為他們就是風險低，而是因為他們通常在一出現呼吸問題時就去急診室，因而第一時間得到了診斷和治療。“模型發現的相關性是真實的，”Caruana說，“但如果我們用它來指導醫療干預，那么實際上我們會受到傷害，甚至可能會害死一些病人。”基于這樣的發現，他現在正在研究能清楚地顯示變量之間關系的機器學習模型，以便讓他能判斷模型是否不僅在統計學上是準確的，而且在臨床上也是有用的。