由美國頂級醫(yī)療中心和研究機(jī)構(gòu)的專家組成了一個專家委員會，該委員會正在使用 NVIDIA 支持的聯(lián)邦學(xué)習(xí)來評估聯(lián)邦學(xué)習(xí)和 AI 輔助注釋對訓(xùn)練 AI 腫瘤分割模型的影響。

聯(lián)邦學(xué)習(xí)是一種技術(shù)，能夠在不降低數(shù)據(jù)安全性或隱私性的前提下，利用來自不同數(shù)據(jù)源的數(shù)據(jù)，開發(fā)更準(zhǔn)確、更通用的 AI 模型。借助這項技術(shù)，多家企業(yè)可在敏感數(shù)據(jù)不離開各自服務(wù)器的情況下，協(xié)作開發(fā) AI 模型。

威斯康星大學(xué)麥迪遜分校放射學(xué)副教授 John Garrett 表示：“由于隱私和數(shù)據(jù)管理方面的限制，在站點(diǎn)間共享數(shù)據(jù)并將數(shù)據(jù)匯總到一處正變得日益復(fù)雜，而影像 AI 的發(fā)展速度比研究機(jī)構(gòu)簽訂數(shù)據(jù)共享合約的速度還要快。實(shí)際上，跟上這一趨勢的唯一辦法是采用聯(lián)邦學(xué)習(xí)，在多個站點(diǎn)同時構(gòu)建和測試模型。聯(lián)邦學(xué)習(xí)已成為一個不可或缺的工具。”

Garrett 是美國醫(yī)學(xué)影像信息學(xué)會(SIIM)機(jī)器學(xué)習(xí)工具與研究小組委員會成員。該委員會由臨床醫(yī)生、研究人員和工程師組成，旨在推動 AI 在醫(yī)學(xué)影像中的發(fā)展與應(yīng)用。NVIDIA 是 SIIM 成員，自 2019 年以來一直與該委員會就聯(lián)邦學(xué)習(xí)進(jìn)行合作。

委員會主席 Khaled Younis 表示：“聯(lián)邦學(xué)習(xí)技術(shù)在符合 GDPR、HIPAA 等隱私法規(guī)要求的前提下，能夠增強(qiáng)數(shù)據(jù)的隱私性和安全性。此外，該技術(shù)還提高了模型的準(zhǔn)確性和泛化程度。”

為了支持他們的最新項目，該研究小組(包括來自凱斯西儲大學(xué)、喬治城大學(xué)、梅奧診所、加州大學(xué)圣地亞哥分校、佛羅里達(dá)大學(xué)和范德堡大學(xué)的合作者)選擇使用 NVIDIA FLARE(NVFlare)。該開源框架包含強(qiáng)大的安全功能、先進(jìn)的隱私保護(hù)技術(shù)和一個靈活的系統(tǒng)架構(gòu)。

通過 NVIDIA 學(xué)術(shù)資助計劃，該委員會獲得了四個 NVIDIA GPU，這些 GPU 被分配給參與的研究機(jī)構(gòu)，用于建立聯(lián)邦學(xué)習(xí)工作站。其他合作者也在云端和本地服務(wù)器中使用了 NVIDIA GPU，展現(xiàn)了 NVFLare 的靈活性。

破解聯(lián)邦學(xué)習(xí)的密碼

參與該項目的六個醫(yī)療中心分別提供了約 50 項醫(yī)學(xué)影像研究的數(shù)據(jù)，研究的重點(diǎn)是腎細(xì)胞癌(腎癌的一種)。范德堡大學(xué)計算機(jī)科學(xué)助理教授兼生物醫(yī)學(xué)數(shù)據(jù)表征與學(xué)習(xí)實(shí)驗(yàn)室主任霍元愷(Yuankai Huo)表示：“聯(lián)邦學(xué)習(xí)的理念是在訓(xùn)練過程中交換模型，而不是交換數(shù)據(jù)。”

在聯(lián)邦學(xué)習(xí)框架中，初始全局模型向客戶服務(wù)器發(fā)送模型參數(shù)。各個服務(wù)器使用這些參數(shù)來建立模型的本地版本，該版本在企業(yè)組織的專有數(shù)據(jù)上訓(xùn)練而成。然后，各個本地模型的更新參數(shù)被發(fā)送回全局模型，并在全局模型中匯總，生成一個新的全局模型。如此循環(huán)往復(fù)，直到模型的預(yù)測結(jié)果不再隨著每一輪訓(xùn)練而提高。

為了優(yōu)化訓(xùn)練速度、準(zhǔn)確性以及將模型訓(xùn)練到目標(biāo)精度水平所需的影像研究數(shù)量，研究小組嘗試了各種模型架構(gòu)和超參數(shù)。

使用 NVIDIA MONAI

進(jìn)行 AI 輔助注釋

在項目第一階段，模型使用的訓(xùn)練數(shù)據(jù)均由人工標(biāo)記。在下一階段，研究小組將使用 NVIDIA MONAI 進(jìn)行 AI 輔助注釋，然后評估在 AI 幫助下分割的訓(xùn)練數(shù)據(jù)與傳統(tǒng)注釋方法相比，模型性能有何不同。

Garrett 表示：“在通常情況下，聯(lián)邦學(xué)習(xí)活動最大的難點(diǎn)在于不同站點(diǎn)的數(shù)據(jù)并不完全統(tǒng)一。大家使用的影像設(shè)備不同，協(xié)議不同，對數(shù)據(jù)的標(biāo)記也不同。我們的目標(biāo)是通過使用 MONAI 對聯(lián)邦學(xué)習(xí)模型進(jìn)行二次訓(xùn)練，了解這是否能夠提高整體注釋的準(zhǔn)確性。”

研究小組正在使用 MONAI Label，該圖像標(biāo)記工具可用于開發(fā)定制 AI 注釋應(yīng)用，以便減少創(chuàng)建新數(shù)據(jù)集所需的時間和精力。專家將先對 AI 生成的分割進(jìn)行驗(yàn)證和完善，然后再將其用于模型訓(xùn)練。

人工注釋和 AI 輔助注釋階段的數(shù)據(jù)均托管在 Flywheel 上。這個領(lǐng)先的醫(yī)學(xué)影像數(shù)據(jù)和 AI 平臺已將 NVIDIA MONAI 集成到其產(chǎn)品中。

為了推動未來的工作，研究小組計劃在項目完成后公布他們的方法、帶注釋的數(shù)據(jù)集和預(yù)訓(xùn)練模型。

Garrett 表示：“我們不僅要探索這些工具，而且還要公布我們的研究成果，讓醫(yī)療領(lǐng)域的其他人也能夠?qū)W習(xí)和使用這些工具。”

申請 NVIDIA 學(xué)術(shù)資助

NVIDIA 學(xué)術(shù)資助計劃通過為研究人員提供世界級的計算入口和資源，來推動學(xué)術(shù)研究。現(xiàn)面向經(jīng)認(rèn)可的學(xué)術(shù)機(jī)構(gòu)的全職教職員工開放申請，這些教職員工需使用 NVIDIA 技術(shù)來加速仿真與建模、生成式 AI 以及大語言模型等項目。

未來的申請周期將重點(diǎn)關(guān)注數(shù)據(jù)科學(xué)、圖形和視覺以及邊緣 AI(包括聯(lián)邦學(xué)習(xí))領(lǐng)域的項目。