Babylon Health的首席用戶研究員Anna Zawilska最近在布拉格的Webexpo 2019上展示了通過結(jié)合技術(shù)和人工智能（AI）提供遠(yuǎn)程醫(yī)療服務(wù)的經(jīng)驗(yàn)教訓(xùn)。巴比倫健康來調(diào)整支撐產(chǎn)品開發(fā)的三個(gè)關(guān)鍵假設(shè)。

Zawilska在演講中提到了世界衛(wèi)生組織的一項(xiàng)研究，根據(jù)該研究，世界上至少50%的人口無法獲得基本的醫(yī)療服務(wù)。在這種情況下，將移動(dòng)設(shè)備的普及性與人工智能的診斷能力相結(jié)合，有可能擴(kuò)大醫(yī)療保健服務(wù)的訪問范圍。巴比倫的工程師，醫(yī)生和科學(xué)家開發(fā)了一個(gè)AI系統(tǒng)，該系統(tǒng)可以接收有關(guān)某人所患癥狀的數(shù)據(jù)，將該信息與已知狀況和疾病的數(shù)據(jù)庫進(jìn)行比較，以找到可能的匹配項(xiàng)，然后確定行動(dòng)方案和相關(guān)的風(fēng)險(xiǎn)因素。

在巴比倫移動(dòng)應(yīng)用程序中，典型的用戶流程將從該應(yīng)用程序開始，要求用戶（患者）描述他或她正在經(jīng)歷的癥狀。在第二階段，根據(jù)所宣布的癥狀，將詢問其他問題以進(jìn)一步完善影響患者的可能狀況。在第三階段，將提出建議。

巴比倫團(tuán)隊(duì)做出的第一個(gè)假設(shè)是，患者對聊天機(jī)器人（患者輸入癥狀的信任程度）與對醫(yī)生的信任程度一樣高。但是，從實(shí)際經(jīng)驗(yàn)中得出的主要觀察結(jié)果表明，人類醫(yī)生與基于機(jī)器的技術(shù)在用戶行為方面存在重大差異。

患者通常相信醫(yī)生是知識(shí)淵博且合格的醫(yī)生。這種信任沒有轉(zhuǎn)化為聊天機(jī)器人。此外，盡管患者很少會(huì)起床并在結(jié)束之前不去咨詢醫(yī)生，但Chatbot用戶更有可能盡早結(jié)束咨詢。最后，雖然患者通常認(rèn)為應(yīng)該遵循醫(yī)生的建議，但Chatbot用戶傾向于信任Chatbot的建議并遵循給定的處方。

Babylon Health得出結(jié)論，不能假定用戶信任，因此，他們需要進(jìn)行設(shè)計(jì)以提高信任度。Zawilska提供了一個(gè)對用戶界面進(jìn)行更改的示例：當(dāng)詢問一個(gè)假設(shè)的用戶：“您的脖子動(dòng)起來有問題嗎？”，該應(yīng)用程序還將提供一個(gè)為什么會(huì)提出問題的解釋。例如，在這種情況下，應(yīng)用程序?qū)@示如下消息：“我之所以問這個(gè)，是因?yàn)槲以噲D消除緊張的頭痛。對于您個(gè)人而言，頸部問題和頭痛是緊張性頭痛的有力預(yù)測指標(biāo)。”

信任問題在醫(yī)療保健行業(yè)中特別盛行。Zawilska引用了最近的爭議（涉及Theranos或DNA測序），這削弱了人們對醫(yī)療技術(shù)最新創(chuàng)新的信任。

第二個(gè)假設(shè)是，臨床安全性是評估巴比倫預(yù)測性AI成功與否的唯一標(biāo)準(zhǔn)。通常會(huì)使用大量數(shù)據(jù)來訓(xùn)練AI，并使用一些評估標(biāo)準(zhǔn)針對測試集對生成的AI模型進(jìn)行測試。Zawilska解釋說，使用臨床安全性作為驗(yàn)證AI模型的唯一標(biāo)準(zhǔn)會(huì)帶來更高的風(fēng)險(xiǎn)，從而給用戶體驗(yàn)帶來不利影響。