２０２２年末ＣｈａｔＧＰＴ的推出，不僅成為生成式人ＡＩ發(fā)展的重要里程碑，也預(yù)示著醫(yī)療領(lǐng)域可能即將迎來(lái)一場(chǎng)技術(shù)革新。生成式ＡＩ技術(shù)被寄予厚望，能夠提高醫(yī)療安全和質(zhì)量、降低成本，并改善患者和臨床醫(yī)生的體驗(yàn)。然而，隨之而來(lái)的是，生成式ＡＩ可能會(huì)給患者安全帶來(lái)新的威脅。

醫(yī)療保健改進(jìn)研究所　（ＩＨＩ）　下屬智庫(kù)?。桑龋伞。蹋酰悖椋幔睢。蹋澹幔穑逭偌艘粋€(gè)專(zhuān)家組編寫(xiě)了一份報(bào)告。該專(zhuān)家組由亞馬遜、谷歌和微軟等大型科技公司以及哈佛醫(yī)學(xué)院、Ｌｅａｐｆｒｏｇ?。牵颍铮酰稹『汀。耍幔椋螅澹颉。校澹颍恚幔睿澹睿簦濉〉鹊念I(lǐng)導(dǎo)者組成。研究目標(biāo)是，共同確定生成式ＡＩ的實(shí)際應(yīng)用領(lǐng)域，指出潛在的威脅，并就如何最大限度地提高效益和減少傷害提出建議。

ＩＨＩ　總裁兼首席執(zhí)行官?。耍澹洌幔颉。停幔簦逯赋觯P(guān)于生成式ＡＩ將如何在我們的環(huán)境中部署，還有很多問(wèn)題尚未解決。他也表示，在這項(xiàng)技術(shù)全面應(yīng)用之前，應(yīng)當(dāng)確保大家所關(guān)切的問(wèn)題得到充分考慮。

從生成式ＡＩ在醫(yī)療領(lǐng)域的數(shù)百種潛在用途中，專(zhuān)家組選擇了“文檔支持”、“臨床決策支持”和“面向患者的聊天機(jī)器人”這三個(gè)用例進(jìn)行審查和研究，并且在報(bào)告中指出，這三個(gè)用例廣泛代表了未來(lái)幾年人工智能的預(yù)期臨床用途。

圍繞這三種用例，專(zhuān)家組討論了臨床中實(shí)施生成式ＡＩ的的潛在好處、風(fēng)險(xiǎn)和挑戰(zhàn)，對(duì)緩解和監(jiān)測(cè)這些風(fēng)險(xiǎn)的策略進(jìn)行了詳細(xì)審查，并對(duì)生成式ＡＩ對(duì)于患者安全的影響展開(kāi)了評(píng)估。

一、文檔支持：“效率提升”與“更復(fù)雜的風(fēng)險(xiǎn)”

文檔工作是臨床醫(yī)生日常任務(wù)中不可或缺的一部分，但同時(shí)也是造成職業(yè)倦怠和認(rèn)知壓力的重要原因。

生成式ＡＩ在文檔支持方面的應(yīng)用被寄予厚望，包括自動(dòng)編寫(xiě)病史摘要、病歷核對(duì)、環(huán)境記錄和起草文檔等等。研究表明，人工智能輔助記錄能夠顯著減輕臨床醫(yī)生的記錄負(fù)擔(dān)，解放他們的雙手，降低認(rèn)知負(fù)荷。此外，如果設(shè)計(jì)和實(shí)施得當(dāng)，生成式ＡＩ還能發(fā)現(xiàn)和解決ＥＨＲ中不準(zhǔn)確的問(wèn)題，并使藥物核對(duì)等一些常見(jiàn)的任務(wù)實(shí)現(xiàn)標(biāo)準(zhǔn)化?！∶嫦蚧颊撸墒剑粒晒ぞ哌€可以根據(jù)患者個(gè)人的知識(shí)水平，用他們喜歡的語(yǔ)言，為患者和護(hù)理人員提供可查閱的文檔，簡(jiǎn)化醫(yī)學(xué)術(shù)語(yǔ)。

然而，生成式ＡＩ工具的引入也可能帶來(lái)新的工作量，例如，如果有些核對(duì)工作需要人工審核，那么將會(huì)給臨床醫(yī)生帶來(lái)更多工作量。此外，醫(yī)療系統(tǒng)可能將效率提升轉(zhuǎn)化為更高的生產(chǎn)率期望（例如看更多的病人、閱讀更多的Ｘ光片或病理切片），這反而可能增加臨床醫(yī)生的工作負(fù)擔(dān)。

對(duì)生成式ＡＩ輸出的內(nèi)容進(jìn)行人工監(jiān)督這一點(diǎn)也可能給患者帶來(lái)重大挑戰(zhàn)。專(zhuān)家組成員認(rèn)為，ＡＩ輸出的內(nèi)容可能在很多時(shí)候有一定的準(zhǔn)確度，但并不完美，因此最終的簽核將由人類(lèi)操作員執(zhí)行，這樣的“技術(shù)”與“人工”的二元組合被廣泛采用，反而可能會(huì)由于人類(lèi)在審查中的偏差，導(dǎo)致更復(fù)雜的風(fēng)險(xiǎn)。

專(zhuān)家組也針對(duì)這樣的問(wèn)題提出了一些潛在的解決方案，例如：對(duì)ＡＩ系統(tǒng)進(jìn)行編程，增強(qiáng)輸出的可信度；采用各種策略，以確保負(fù)責(zé)驗(yàn)證ＡＩ結(jié)果的人員能保持警惕，并順利找出ＡＩ結(jié)果的漏洞；審核臨床醫(yī)生更改ＡＩ生成內(nèi)容的頻率，給予“提示”；在設(shè)計(jì)人工智能系統(tǒng)時(shí)，應(yīng)要求臨床醫(yī)生首先進(jìn)行評(píng)估等等。

此外，專(zhuān)家組成員還表達(dá)了對(duì)患者自主權(quán)的擔(dān)憂(yōu)，特別是普通公眾是否能在真正知情的情況下同意使用ＡＩ，包括他們的數(shù)據(jù)是否會(huì)被共享或出售。

二、臨床決策支持：提高診斷準(zhǔn)確性，但需謹(jǐn)慎

生成式ＡＩ在臨床決策支持方面的應(yīng)用，包括提供診斷支持和建議、早期檢測(cè)患者病情變化、制定潛在治療方案等。

基于生成式ＡＩ的ＣＤＳＳ（臨床決策支持系統(tǒng)）可以作為一種輔助工具，通過(guò)分析報(bào)告中的癥狀、　患者病史和檢查結(jié)果，幫助臨床醫(yī)生評(píng)估患者病例，提出潛在的診斷建議和下一步措施。許多其他潛在應(yīng)用也可促進(jìn)護(hù)士、藥劑師、治療師和其他醫(yī)療專(zhuān)業(yè)人員的護(hù)理工作。此外，ＣＤＳＳ　還有可能應(yīng)對(duì)基本的安全挑戰(zhàn)，如識(shí)別未跟進(jìn)的檢查，或幫助進(jìn)行藥品對(duì)賬等等，這些潛在的功能都可以改善診斷準(zhǔn)確性、節(jié)省醫(yī)生的時(shí)間并降低成本。

然而，臨床醫(yī)生對(duì)這些工具的準(zhǔn)確性和可信度仍持保留態(tài)度。歷史上，類(lèi)似工具的評(píng)估并未顯示出預(yù)期的臨床醫(yī)生行為改進(jìn)效果，且存在“垃圾進(jìn)垃圾出”的問(wèn)題，即輸入數(shù)據(jù)的不準(zhǔn)確性直接影響輸出結(jié)果的可靠性。此外，基于人工智能的ＣＤＳＳ的可信度因“黑箱”問(wèn)題——缺乏透明度而受到質(zhì)疑。

ＡＩ本身的弱點(diǎn)，ＡＩ領(lǐng)域監(jiān)管的缺乏、以及人們對(duì)于醫(yī)療記錄本身的不準(zhǔn)確的擔(dān)憂(yōu)等等，多種因素都會(huì)導(dǎo)致生成式ＡＩ準(zhǔn)確性降低。　雖然基于　生成式ＡＩ　的?。茫模樱印】赡軙?huì)比以前版本的　ＣＤＳＳ　產(chǎn)生更可靠的結(jié)果，但一些困擾　ＣＤＳＳ　在實(shí)際臨床中使用的核心問(wèn)題不太可能僅僅通過(guò)采用更好的算法來(lái)解決。

三、患者支持聊天機(jī)器人：改善就醫(yī)體驗(yàn)，但需確保安全

聊天機(jī)器人在其他行業(yè)的廣泛應(yīng)用，為醫(yī)療保健行業(yè)提供了新的思路。生成式ＡＩ聊天機(jī)器人可以作為數(shù)據(jù)收集器支持分診、與患者互動(dòng)回復(fù)問(wèn)題和疑慮，以及支持護(hù)理導(dǎo)航。

理論上，醫(yī)療系統(tǒng)采用的生成式ＡＩ解決方案，可以提供比未經(jīng)驗(yàn)證的在線(xiàn)資源更準(zhǔn)確、更可靠的數(shù)據(jù)。這些自動(dòng)化工具可以幫忙回答醫(yī)療問(wèn)題，支持處方續(xù)訂，幫助患者找到服務(wù)，幫助醫(yī)生管理電子病歷收件箱中的患者電子郵件等等。

然而，聊天機(jī)器人的使用也帶來(lái)了一系列挑戰(zhàn)，包括可能削弱患者與臨床醫(yī)生之間的信任關(guān)系；如果不進(jìn)行適當(dāng)?shù)拈_(kāi)發(fā)和監(jiān)控，ＡＩ聊天機(jī)器人可能會(huì)進(jìn)行誤導(dǎo)甚至有害的對(duì)話(huà)；此外，ＡＩ聊天機(jī)器人需要證明有管理復(fù)雜醫(yī)療病例的能力、要考慮并發(fā)癥以及協(xié)調(diào)相互沖突的信息和利益；信息流和分流也是關(guān)鍵問(wèn)題，如果沒(méi)有得到適當(dāng)校準(zhǔn)，聊天機(jī)器人的應(yīng)用可能會(huì)導(dǎo)致患者在及時(shí)獲得救治的問(wèn)題上帶來(lái)?yè)p害。

專(zhuān)家組成員強(qiáng)調(diào)，醫(yī)療系統(tǒng)必須向患者披露ＡＩ聊天機(jī)器人的使用情況，以減少任何混淆，并在患者和使用該技術(shù)的醫(yī)療系統(tǒng)之間建立信任。

四、擁抱生成式ＡＩ，保持謹(jǐn)慎和懷疑

生成式ＡＩ在醫(yī)療中的應(yīng)用雖然展現(xiàn)出巨大潛力，但也面臨著一系列挑戰(zhàn)。如前文所說(shuō)，首先，醫(yī)療服務(wù)的非個(gè)性化、可能產(chǎn)生不準(zhǔn)確的預(yù)測(cè)和建議、人類(lèi)對(duì)技術(shù)產(chǎn)出監(jiān)督不力等問(wèn)題，都需要通過(guò)確保人工智能數(shù)據(jù)集的廣泛代表性、透明化的利益沖突和采用新穎的計(jì)算方法來(lái)解決。其次，＂去臨床化＂問(wèn)題，即新晉臨床醫(yī)生可能永遠(yuǎn)無(wú)法掌握資深臨床醫(yī)生的技能，也是需要積極研究和實(shí)驗(yàn)的領(lǐng)域。最后，醫(yī)療保健系統(tǒng)必須向患者披露人工智能聊天機(jī)器人的使用情況，以減少混淆，并建立信任。

在報(bào)告中，專(zhuān)家組成員也對(duì)生成式ＡＩ在改善患者安全方面的潛力進(jìn)行了肯定。例如，生成式ＡＩ能夠幫助匯總并檢查事故報(bào)告、護(hù)理事件和根本原因分析數(shù)據(jù)；利用數(shù)據(jù)實(shí)時(shí)識(shí)別和解決安全問(wèn)題；找出長(zhǎng)期導(dǎo)致安全問(wèn)題的誘因；改進(jìn)審計(jì)跟蹤；協(xié)助重新設(shè)計(jì)工作流程；培訓(xùn)安全和質(zhì)量專(zhuān)業(yè)人員；以及將患者體驗(yàn)和反饋納入安全工作等。

另一方面，專(zhuān)家組也強(qiáng)調(diào)，生成式ＡＩ也可能造成傷害，需要以謹(jǐn)慎和懷疑的態(tài)度來(lái)看待這項(xiàng)技術(shù)，并對(duì)信任、透明度、準(zhǔn)確性以及以人為本的設(shè)計(jì)和實(shí)施展開(kāi)呼吁。無(wú)論監(jiān)管層面采取什么樣的措施，在醫(yī)療環(huán)節(jié)中，這些工具提供給患者，就將會(huì)有成千上萬(wàn)的使用案例和數(shù)以萬(wàn)計(jì)的算法得到實(shí)施。這意味著，生成式ＡＩ是改善還是損害安全，可能更多取決于醫(yī)院、醫(yī)療系統(tǒng)和患者家中發(fā)生的情況，而不僅僅是關(guān)注監(jiān)管層面的動(dòng)向。

注：文章來(lái)源于網(wǎng)絡(luò)，如有侵權(quán)，請(qǐng)聯(lián)系刪除