人工智能有望徹底改變醫(yī)療衛(wèi)生行業(yè)，從藥物研發(fā)、診斷，再到醫(yī)療保健服務(wù)，一直到開具發(fā)票和會(huì)計(jì)工作等。據(jù)埃森哲咨詢公司(Accenture)稱，到2021年，人??工智能醫(yī)療市場將達(dá)到66億美元，到2026年人工智能醫(yī)療將為該行業(yè)每年節(jié)省1500億美元。
但要實(shí)現(xiàn)這一目標(biāo)，各個(gè)組織需要克服對(duì)該技術(shù)的不信任，應(yīng)對(duì)集成挑戰(zhàn)，并處理好隱私和安全問題。
總部位于波士頓的Beacon Health Options公司為所有50個(gè)州的4000多萬人提供行為健康治療，當(dāng)該公司第一次采用人工智能來改善治療工作時(shí)，面臨著所有這些挑戰(zhàn)。
“Beacon是美國最大的專注于行為健康的公司，”該公司執(zhí)行副總裁兼首席增長官Christina Mainelli說。“嚴(yán)重的精神疾病和藥物濫用—這是在醫(yī)療保健工作中我們目前正在處理一些非常非常相關(guān)的問題。”
Mainelli表示，Beacon Health公司正在使用人工智能來識(shí)別那些最需要幫助的患者，并為他們提供必要的干預(yù)措施。以下將闡述Beacon Health公司和其他組織如何應(yīng)對(duì)醫(yī)療行業(yè)內(nèi)所獨(dú)有的人工智能挑戰(zhàn)。
黑盒子難題
對(duì)于醫(yī)療衛(wèi)生組織而言，對(duì)人工智能的最大擔(dān)憂是很難理解為何該系統(tǒng)會(huì)做出一項(xiàng)決策。一個(gè)錯(cuò)誤就意味著生與死的區(qū)別。這就是人工智能的“黑盒子”問題。
英特爾公司負(fù)責(zé)健康與生命科學(xué)總經(jīng)理詹妮弗·埃斯波西托(Jennifer Esposito)表示，英特爾最近對(duì)醫(yī)療衛(wèi)生組織的200名決策者進(jìn)行了調(diào)查，黑盒子問題(即對(duì)人工智能缺乏信任)是一個(gè)突出的障礙。特別是，30%的受訪者表示他們最擔(dān)心的是人工智能出現(xiàn)致命錯(cuò)誤。
“我認(rèn)為現(xiàn)在還沒有解決黑盒子問題的方法，”她說。
盡管如此，37%的受訪者表示他們已經(jīng)在使用人工智能，超過一半的受訪者表示他們將在未來五年內(nèi)采用人工智能。最令埃斯波西托感到驚訝的是，人工智能最普遍的應(yīng)用是臨床用途，77%的受訪者在醫(yī)療衛(wèi)生行業(yè)中采用人工智能。
當(dāng)Beacon Health公司開始推出其人工智能風(fēng)險(xiǎn)評(píng)估系統(tǒng)時(shí)，也面臨著這個(gè)信任問題。該組織采取了三管齊下的方法來解決這個(gè)問題。
首先，由臨床醫(yī)生、技術(shù)專家、操作人員、社區(qū)醫(yī)療服務(wù)人員和其他利益相關(guān)者組成的多學(xué)科團(tuán)隊(duì)匯集在一起??，從已知的因素開始，為人工智能制定一些基本準(zhǔn)則和算法。
“我們知道哪些變量會(huì)促使那些高風(fēng)險(xiǎn)人群入院或發(fā)生精神病類事件，”Beacon Health公司的Mainelli說。
但是，雖然人類在做出決定時(shí)可以考慮七到十個(gè)因素，但人工智能可以同時(shí)考慮數(shù)千個(gè)因素，而在非結(jié)構(gòu)化數(shù)據(jù)被輸入后，其考慮的因素甚至更多，她說。
然后該團(tuán)隊(duì)進(jìn)行實(shí)驗(yàn)。首先，他們選擇一個(gè)歷史時(shí)間段，并對(duì)該數(shù)據(jù)運(yùn)行已創(chuàng)建的算法，以確定該算法是否能準(zhǔn)確預(yù)測(cè)這些患者入院的頻率或患者發(fā)生精神病類事件的頻率。
“我們發(fā)現(xiàn)，當(dāng)我們使用人工智能后，我們的預(yù)測(cè)準(zhǔn)確度會(huì)提高220%，”她說。
一旦人工智能被用于識(shí)別高?；颊?，該團(tuán)隊(duì)就可以考慮使用潛在的干預(yù)措施，并跟蹤觀察所推薦采取的干預(yù)措施。
“經(jīng)過驗(yàn)證，患者確實(shí)從我們的干預(yù)措施中獲益，然后我們可以將其作為業(yè)務(wù)模式的一部分進(jìn)行部署，”Mainelli說。
與Beacon Health公司一樣，“匹茲堡大學(xué)醫(yī)學(xué)中心”通過讓臨床醫(yī)生和管理人員參與到創(chuàng)建算法的過程來解決人工智能系統(tǒng)的“黑盒子”難題。
該醫(yī)院首席臨床分析官奧斯卡·馬羅金(Oscar Marroquin)表示：“我們不能指望一群數(shù)據(jù)科學(xué)家會(huì)孤立地開發(fā)出一些模型，然后讓所有一線的人員立即開始使用。”他補(bǔ)充說，讓臨床醫(yī)生參與其中會(huì)讓他們對(duì)這些模型有一種主人翁感。
該醫(yī)院目前有五個(gè)人工智能驅(qū)動(dòng)模型在工作，還有60個(gè)其他項(xiàng)目正在進(jìn)行中。該醫(yī)院還將增加已使用的模型的復(fù)雜性。其應(yīng)用范圍包括預(yù)測(cè)患者再入院日期以及利用特定條件的算法來預(yù)測(cè)患者發(fā)生哮喘、充血性心力衰竭和腰痛的后果。
“結(jié)果非常好，”他說。但該醫(yī)院從一開始就意識(shí)到改變行為并不容易。“讓人員參與到整個(gè)過程中有助于他們了解數(shù)據(jù)的優(yōu)缺點(diǎn)以及與使用這些數(shù)據(jù)相關(guān)的復(fù)雜性，這有助于獲得臨床醫(yī)生的支持。”
解決信任問題的另一種方法是說明該系統(tǒng)是如何做出決定的。例如，在醫(yī)學(xué)成像中使用人工智能。
在“馬薩諸塞州總醫(yī)院”(Massachusetts General Hospital)和“布里格姆和婦女醫(yī)院臨床數(shù)據(jù)科學(xué)中心”(Brigham and Women’s Hospital Center for Clinical Data Science)，人工智能自2016年起就被用于解釋放射學(xué)圖像。
“我們將熱圖放在圖像頂部，以幫助讀者了解機(jī)器在查看什么內(nèi)容，”該中心執(zhí)行董事Mark Michalski說。
這使用戶可以輕松決定對(duì)該系統(tǒng)的信任程度。
他說，對(duì)于人工智能的其他應(yīng)用，攻克可解釋性難題并不容易。
例如，該中心最近開始使用機(jī)器學(xué)習(xí)來回答一些操作性問題，例如需要多少張床，以及有關(guān)人口健康的問題，例如患者重新入院的可能性。
他說，這些決策是基于電子健康紀(jì)錄(HER)數(shù)據(jù)，因此需要考慮的變量有限，該系統(tǒng)可以顯示對(duì)某個(gè)特定預(yù)測(cè)影響最大的特定因素，這在多數(shù)情況下會(huì)提高用戶對(duì)人工智能預(yù)測(cè)的滿意度。
事實(shí)上，一個(gè)潛在的問題是對(duì)該系統(tǒng)的過度信任，因?yàn)槿藗兒苋菀讓?duì)這一系統(tǒng)太過滿意。
“我們希望人們不斷了解這些系統(tǒng)是如何以它們的方式工作，”他說。“我認(rèn)為，從我的角度來看，最可怕的一個(gè)問題--這將是最大的挑戰(zhàn)之一--就是持續(xù)驗(yàn)證和安全測(cè)試。”
凌亂的數(shù)據(jù)和遺留系統(tǒng)
人工智能以數(shù)據(jù)為基礎(chǔ)。在醫(yī)療衛(wèi)生領(lǐng)域，這些數(shù)據(jù)可能非?；靵y，當(dāng)使用人工智能時(shí)會(huì)產(chǎn)生復(fù)雜的問題。
“常規(guī)的機(jī)器語言和人工智能系統(tǒng)以固定長度的特征向量作為輸入量，以進(jìn)行預(yù)測(cè)，而在醫(yī)療衛(wèi)生領(lǐng)域中存在的并非是結(jié)構(gòu)化的關(guān)系數(shù)據(jù)庫，而是非結(jié)構(gòu)化數(shù)據(jù)，例如醫(yī)療系統(tǒng)中的圖像和注釋，”卡內(nèi)基梅隆大學(xué)的健康信息學(xué)助理教授杰里米·韋斯(Jeremy Weiss)說。
處理醫(yī)療衛(wèi)生數(shù)據(jù)的人工智能技術(shù)供應(yīng)商需要為這些格式的數(shù)據(jù)做好準(zhǔn)備。
“我們經(jīng)常在行為健康服務(wù)機(jī)構(gòu)里面對(duì)各種非結(jié)構(gòu)化數(shù)據(jù)，例如案例說明和調(diào)查數(shù)據(jù)，”Beacon Health公司的Mainelli說道，他對(duì)該組織在選擇供應(yīng)商的方式印象深刻，這家供應(yīng)商Cyft位于馬??薩諸塞州劍橋市，能夠處理所有不同格式的數(shù)據(jù)。
Beacon Health公司已經(jīng)與外部合作伙伴展開合作，將數(shù)據(jù)發(fā)送到Cyft公司，然后再以可用的數(shù)據(jù)形式返回，這已不再是問題，因?yàn)檫@種方式可能適合于許多醫(yī)療衛(wèi)生組織。
“當(dāng)(高?；颊?名單返回給我們時(shí)，”Mainelli說，“我們可以將其整合到我們的患者管理系統(tǒng)中—這些名單被輸入到我們的護(hù)理協(xié)調(diào)系統(tǒng)，從而這就成為臨床醫(yī)生工作流程的一部分。”
Beacon Health公司接下來計(jì)劃將第三方數(shù)據(jù)(例如藥房記錄)納入其人工智能分析計(jì)劃。
卡內(nèi)基梅隆大學(xué)的韋斯說，這可能是一個(gè)更大的挑戰(zhàn)。“各機(jī)構(gòu)缺乏協(xié)議和政策的標(biāo)準(zhǔn)化可能會(huì)導(dǎo)致更多的數(shù)據(jù)集成問題。”
但是，全世界正在采取措施使醫(yī)療信息標(biāo)準(zhǔn)化，這可能會(huì)有所幫助。
例如，在美國，聯(lián)邦政府已頒布了電子健康紀(jì)錄(HER)標(biāo)準(zhǔn)。
Healthy Nevada Project項(xiàng)目由Renown Health非盈利組織和沙漠研究所(Desert Research Institute)發(fā)起，采用賽仕軟件公司(SAS)的人工智能技術(shù)，這是一項(xiàng)利用電子健康紀(jì)錄繪制內(nèi)華達(dá)州居民健康狀況的醫(yī)療保健計(jì)劃。
“我們正在使用分析建模和統(tǒng)計(jì)機(jī)器學(xué)習(xí)技術(shù)來研究各種問題--手術(shù)室中的團(tuán)隊(duì)動(dòng)力，預(yù)測(cè)病人無法如約就診的情況，預(yù)測(cè)急診部工作負(fù)荷，僅列舉幾例，”該項(xiàng)目的首席數(shù)據(jù)科學(xué)家吉姆·梅特卡夫(Jim Metcalf)說。“所有這些分析均基于電子健康紀(jì)錄數(shù)據(jù)。”
他說，美國各地的醫(yī)院和醫(yī)療機(jī)構(gòu)正在開展類似的工作。
“僅基于電子健康紀(jì)錄數(shù)據(jù)，數(shù)據(jù)科學(xué)家正在創(chuàng)建統(tǒng)計(jì)模型，以識(shí)別最有可能發(fā)生感染性休克患者或患有未確診的高血壓患者或出院后再入院的患者，”他說。“憑借這種洞察力，我們可以為個(gè)人提供前所未有的個(gè)性化醫(yī)療服務(wù)。”
隱私和安全
在患者隱私和安全方面，醫(yī)療衛(wèi)生行業(yè)是最受監(jiān)管的行業(yè)之一。人工智能因其需要大量數(shù)據(jù)而備受關(guān)注。
對(duì)于Beacon Health公司來說，這意味著要選擇完全符合HIPAA標(biāo)準(zhǔn)的供應(yīng)商，以便數(shù)據(jù)能以安全的方式進(jìn)行處理。
“這一級(jí)別的認(rèn)證是進(jìn)入這一行業(yè)的門檻，”Mainelli說。
在新興的醫(yī)療衛(wèi)生人工智能市場中，健康數(shù)據(jù)隱私問題正在以幾種不同的方式處理。某些供應(yīng)商(如Cyft公司)會(huì)對(duì)數(shù)據(jù)進(jìn)行加密，以確保僅擁有相應(yīng)權(quán)限的人員才能查看數(shù)據(jù)。
其他供應(yīng)商正在考慮對(duì)數(shù)據(jù)進(jìn)行匿名化或標(biāo)記化，以便人工智能系統(tǒng)永遠(yuǎn)不會(huì)看到任何個(gè)人可識(shí)別信息。第三種方法是在本地執(zhí)行所有處理工作，這樣數(shù)據(jù)永遠(yuǎn)不會(huì)離開該醫(yī)療衛(wèi)生組織。
例如，VisualDx公司最近發(fā)布了一種基于人工智能的診斷工具DermExpert，用于識(shí)別皮膚狀況。該應(yīng)用程序安裝在iOS移動(dòng)設(shè)備上，醫(yī)生會(huì)對(duì)患者的皮疹進(jìn)行拍照并立即進(jìn)行評(píng)估，而無需將任何數(shù)據(jù)傳輸?shù)降谌交蛟贫恕?/div>
該應(yīng)用程序是人工智能在醫(yī)療衛(wèi)生領(lǐng)域應(yīng)用的另一個(gè)趨勢(shì)：它可使非專家(如家庭醫(yī)生、急診室和緊急護(hù)理醫(yī)生)能夠進(jìn)行初步診斷。
人工智能帶來的最大挑戰(zhàn)
Beacon Health公司的Mainelli說，使用人工智能面臨的最大挑戰(zhàn)不是技術(shù)，而是如何調(diào)整業(yè)務(wù)以充分利用它。
“你將如何使用人工智能來降低護(hù)理成本，并改善患者的治療效果?”她說。“這是一種新的經(jīng)營方式。”
對(duì)于希望采用類似技術(shù)路線的其他組織，她建議首先要清楚地了解需要解決的問題，以及如何使用人工智能所提供的洞察力。
“如果你不對(duì)數(shù)據(jù)進(jìn)行處理，那么你就不會(huì)獲得巨大的價(jià)值，”她說。
然后從小處開始，并快速迭代。
“在醫(yī)療衛(wèi)生領(lǐng)域利用人工智能才剛剛開始，”她說。“我認(rèn)為它創(chuàng)造了一個(gè)難以置信的機(jī)遇，不僅僅影響到那些患有嚴(yán)重精神疾病或藥物濫用的人，而且還會(huì)影響到總體醫(yī)療費(fèi)用。”
京公網(wǎng)安備 11010502049343號(hào)