人工智能預(yù)計(jì)淪為提升醫(yī)學(xué)診斷速度和準(zhǔn)確性、提升患者治療效果的強(qiáng)有力工具。從確診疾病到個體化療法，再到預(yù)測手術(shù)并發(fā)癥，人工智能也許會淪為未來患者醫(yī)療不可或缺的一部分，就像今天的成像和實(shí)驗(yàn)室試驗(yàn)?zāi)菢?，但正如華盛頓大學(xué)的研究人員所找到的，人工智能模型和人類一樣，偏向于找尋捷徑。在人工智能輔助疾病偵測的情況之下，如果在醫(yī)學(xué)環(huán)境之中布署這些快捷方式，也許會造成確診錯誤

        刊登在5月31日《自然機(jī)器智能》之上的一篇全新論文之中，華盛頓大學(xué)的研究人員分析了幾個最近提交的模型，當(dāng)作從胸部X光（也稱作胸部X光）之中精確偵測疾病的潛在工具。研究小組找到，這些模型不是研習(xí)真正的醫(yī)學(xué)病理學(xué)，而是局限于快捷方式研習(xí)，在醫(yī)學(xué)之上有關(guān)的因素和疾病狀態(tài)間畫出正確的聯(lián)系，醫(yī)生通常期望從X光之中看到體現(xiàn)疾病過程的特定模式，但他們不局限這些模式。例如，采用快捷方式研習(xí)的系統(tǒng)也許會辨別某人是老年人，并推測他們更難患上這種疾病，因?yàn)檫@在老年患者之中更為常用

        研究小組說，快捷方式研習(xí)不如真正的醫(yī)學(xué)病理學(xué)強(qiáng)勁，這通常使得模型不能很糟糕地在早期設(shè)置以外推展

        融合魯棒性的缺乏和AI決策的典型不均勻，這種工具也許會淪為潛在救生員的負(fù)擔(dān)

        欠缺透明度是造成團(tuán)隊(duì)致力于可說明的醫(yī)療和科學(xué)人工智能技術(shù)的因素之一。大多數(shù)人工智能被相信是一個“黑匣子”。該模型是在海量數(shù)據(jù)集上培訓(xùn)的，當(dāng)沒人明白模型如何獲得給定的結(jié)果時(shí)，它會作出預(yù)測。通過可說明的人工智能，研究人員和實(shí)踐者可詳盡認(rèn)識各種輸入及其權(quán)重如何沖擊模型的輸出

        研究小組采用這些相近的技術(shù)來檢驗(yàn)最近吹捧的模型的可信度，這些模型似乎能精確地從胸部X光之中辨識病變。盡管許多已刊登的論文計(jì)算了這一結(jié)果，但研究人員質(zhì)疑，造成模型預(yù)測的黑匣子外部也許爆發(fā)了其他事情，研究小組得出結(jié)論，由于欠缺針對這種全新疾病的訓(xùn)練數(shù)據(jù)，這些模型難發(fā)生”的“最好情況動蕩”。這種情況減少了模型依賴快捷方式而不是從訓(xùn)練數(shù)據(jù)之中研習(xí)疾病的基本上病理學(xué)的可能性，最好的情況是讓人工智能系統(tǒng)只研習(xí)辨識數(shù)據(jù)集，而不是研習(xí)任何真正的疾病病理學(xué)。當(dāng)所有陽性病例源自一個數(shù)據(jù)集，而所有陰性病例源自另一個數(shù)據(jù)集時(shí)，就會爆發(fā)這種情況。盡管研究人員已經(jīng)提交了一些技術(shù)來減輕這些關(guān)聯(lián)，但當(dāng)它們不太輕微時(shí)
 

        研究小組對源自拷貝已刊登論文中所用方法的數(shù)據(jù)集的X射線圖像培訓(xùn)了多個深度卷積神經(jīng)網(wǎng)絡(luò)。首先，他們在訓(xùn)練數(shù)據(jù)的初始數(shù)據(jù)集的一組外部圖像之上試驗(yàn)每個模型的性能

        盡管這些模型在外部數(shù)據(jù)集的圖像之上試驗(yàn)時(shí)維持低性能，但在第二組之中，它們的精確度減少了一半。研究人員稱為“普遍化差距”，并將其用于強(qiáng)有力證據(jù)，證實(shí)混雜因素是該模型在初始數(shù)據(jù)集上順利的原因。研究小組隨后運(yùn)用了可說明的人工智能技術(shù)，包含分解對付網(wǎng)絡(luò)和明顯性圖，為了確認(rèn)哪些圖像特征在確認(rèn)模型預(yù)測之中最關(guān)鍵，這些結(jié)果廢黜了傳統(tǒng)觀點(diǎn)，即當(dāng)數(shù)據(jù)集源自相近的來源時(shí)，誤解不會引發(fā)任何問題。他們還反映了低性能醫(yī)療人工智能系統(tǒng)在余大程度之上可透過不適當(dāng)?shù)慕輳?，而不是未來所需的信號，可說明人工智能將淪為一個關(guān)鍵的工具，以保證這些模型可安全性精確地用作減弱醫(yī)療決策，并為患者獲得更糟糕的結(jié)果，盡管研究小組的研究結(jié)果令人擔(dān)憂，該團(tuán)隊(duì)分析的模型不太可能在醫(yī)學(xué)環(huán)境之中普遍布署

        關(guān)于在何處以及如何布署這些模型的完備信息不能用，但可贊賞的是，這些模型的臨床運(yùn)用很難或不適用，而且在大多數(shù)情況之下，醫(yī)療保健提供者采用實(shí)驗(yàn)室偵測PCR展開診斷，而不是局限胸部X光

        期望將人工智能運(yùn)用于疾病偵測的研究人員需改良他們的方法，然后才能采用這些模型為患者作出具體的治療決定

        分析結(jié)果表明運(yùn)用可說明人工智能技術(shù)對醫(yī)療人工智能系統(tǒng)展開嚴(yán)苛審核的重要性。如果你看幾張X光片，AI系統(tǒng)也許看上去不俗。只有當(dāng)你看了很多圖片，問題才變得清楚上去。除非我們有辦法用更小的樣本量更精確地審查這些系統(tǒng)，否則更余能說明人工智能的系統(tǒng)應(yīng)用程序可協(xié)助研究人員防止一些陷阱?！?006