全部商品分類
２０２２年末ＣｈａｔＧＰＴ的推出，不僅成為生成式人ＡＩ發展的重要里程碑，也預示著醫療領域可能即將迎來一場技術革新。生成式ＡＩ技術被寄予厚望，能夠提高醫療安全和質量、降低成本，并改善患者和臨床醫生的體驗。然而，隨之而來的是，生成式ＡＩ可能會給患者安全帶來新的威脅。
醫療保健改進研究所 （ＩＨＩ） 下屬智庫 ＩＨＩ Ｌｕｃｉａｎ Ｌｅａｐｅ召集了一個專家組編寫了一份報告。該專家組由亞馬遜、谷歌和微軟等大型科技公司以及哈佛醫學院、Ｌｅａｐｆｒｏｇ Ｇｒｏｕｐ 和 Ｋａｉｓｅｒ Ｐｅｒｍａｎｅｎｔｅ 等的領導者組成。研究目標是，共同確定生成式ＡＩ的實際應用領域，指出潛在的威脅，并就如何最大限度地提高效益和減少傷害提出建議。
ＩＨＩ 總裁兼首席執行官 Ｋｅｄａｒ Ｍａｔｅ指出，關于生成式ＡＩ將如何在我們的環境中部署，還有很多問題尚未解決。他也表示，在這項技術全面應用之前，應當確保大家所關切的問題得到充分考慮。
從生成式ＡＩ在醫療領域的數百種潛在用途中，專家組選擇了“文檔支持”、“臨床決策支持”和“面向患者的聊天機器人”這三個用例進行審查和研究，并且在報告中指出，這三個用例廣泛代表了未來幾年人工智能的預期臨床用途。
圍繞這三種用例，專家組討論了臨床中實施生成式ＡＩ的的潛在好處、風險和挑戰，對緩解和監測這些風險的策略進行了詳細審查，并對生成式ＡＩ對于患者安全的影響展開了評估。
一、文檔支持：“效率提升”與“更復雜的風險”
文檔工作是臨床醫生日常任務中不可或缺的一部分，但同時也是造成職業倦怠和認知壓力的重要原因。
生成式ＡＩ在文檔支持方面的應用被寄予厚望，包括自動編寫病史摘要、病歷核對、環境記錄和起草文檔等等。研究表明，人工智能輔助記錄能夠顯著減輕臨床醫生的記錄負擔，解放他們的雙手，降低認知負荷。此外，如果設計和實施得當，生成式ＡＩ還能發現和解決ＥＨＲ中不準確的問題，并使藥物核對等一些常見的任務實現標準化。 面向患者，生成式ＡＩ工具還可以根據患者個人的知識水平，用他們喜歡的語言，為患者和護理人員提供可查閱的文檔，簡化醫學術語。
然而，生成式ＡＩ工具的引入也可能帶來新的工作量，例如，如果有些核對工作需要人工審核，那么將會給臨床醫生帶來更多工作量。此外，醫療系統可能將效率提升轉化為更高的生產率期望（例如看更多的病人、閱讀更多的Ｘ光片或病理切片），這反而可能增加臨床醫生的工作負擔。
對生成式ＡＩ輸出的內容進行人工監督這一點也可能給患者帶來重大挑戰。專家組成員認為，ＡＩ輸出的內容可能在很多時候有一定的準確度，但并不完美，因此最終的簽核將由人類操作員執行，這樣的“技術”與“人工”的二元組合被廣泛采用，反而可能會由于人類在審查中的偏差，導致更復雜的風險。
專家組也針對這樣的問題提出了一些潛在的解決方案，例如：對ＡＩ系統進行編程，增強輸出的可信度；采用各種策略，以確保負責驗證ＡＩ結果的人員能保持警惕，并順利找出ＡＩ結果的漏洞；審核臨床醫生更改ＡＩ生成內容的頻率，給予“提示”；在設計人工智能系統時，應要求臨床醫生首先進行評估等等。
此外，專家組成員還表達了對患者自主權的擔憂，特別是普通公眾是否能在真正知情的情況下同意使用ＡＩ，包括他們的數據是否會被共享或出售。
二、臨床決策支持：提高診斷準確性，但需謹慎
生成式ＡＩ在臨床決策支持方面的應用，包括提供診斷支持和建議、早期檢測患者病情變化、制定潛在治療方案等。
基于生成式ＡＩ的ＣＤＳＳ（臨床決策支持系統）可以作為一種輔助工具，通過分析報告中的癥狀、 患者病史和檢查結果，幫助臨床醫生評估患者病例，提出潛在的診斷建議和下一步措施。許多其他潛在應用也可促進護士、藥劑師、治療師和其他醫療專業人員的護理工作。此外，ＣＤＳＳ 還有可能應對基本的安全挑戰，如識別未跟進的檢查，或幫助進行藥品對賬等等，這些潛在的功能都可以改善診斷準確性、節省醫生的時間并降低成本。
然而，臨床醫生對這些工具的準確性和可信度仍持保留態度。歷史上，類似工具的評估并未顯示出預期的臨床醫生行為改進效果，且存在“垃圾進垃圾出”的問題，即輸入數據的不準確性直接影響輸出結果的可靠性。此外，基于人工智能的ＣＤＳＳ的可信度因“黑箱”問題——缺乏透明度而受到質疑。
ＡＩ本身的弱點，ＡＩ領域監管的缺乏、以及人們對于醫療記錄本身的不準確的擔憂等等，多種因素都會導致生成式ＡＩ準確性降低。 雖然基于 生成式ＡＩ 的 ＣＤＳＳ 可能會比以前版本的 ＣＤＳＳ 產生更可靠的結果，但一些困擾 ＣＤＳＳ 在實際臨床中使用的核心問題不太可能僅僅通過采用更好的算法來解決。
三、患者支持聊天機器人：改善就醫體驗，但需確保安全
聊天機器人在其他行業的廣泛應用，為醫療保健行業提供了新的思路。生成式ＡＩ聊天機器人可以作為數據收集器支持分診、與患者互動回復問題和疑慮，以及支持護理導航。
理論上，醫療系統采用的生成式ＡＩ解決方案，可以提供比未經驗證的在線資源更準確、更可靠的數據。這些自動化工具可以幫忙回答醫療問題，支持處方續訂，幫助患者找到服務，幫助醫生管理電子病歷收件箱中的患者電子郵件等等。
然而，聊天機器人的使用也帶來了一系列挑戰，包括可能削弱患者與臨床醫生之間的信任關系；如果不進行適當的開發和監控，ＡＩ聊天機器人可能會進行誤導甚至有害的對話；此外，ＡＩ聊天機器人需要證明有管理復雜醫療病例的能力、要考慮并發癥以及協調相互沖突的信息和利益；信息流和分流也是關鍵問題，如果沒有得到適當校準，聊天機器人的應用可能會導致患者在及時獲得救治的問題上帶來損害。
專家組成員強調，醫療系統必須向患者披露ＡＩ聊天機器人的使用情況，以減少任何混淆，并在患者和使用該技術的醫療系統之間建立信任。
四、擁抱生成式ＡＩ，保持謹慎和懷疑
生成式ＡＩ在醫療中的應用雖然展現出巨大潛力，但也面臨著一系列挑戰。如前文所說，首先，醫療服務的非個性化、可能產生不準確的預測和建議、人類對技術產出監督不力等問題，都需要通過確保人工智能數據集的廣泛代表性、透明化的利益沖突和采用新穎的計算方法來解決。其次，＂去臨床化＂問題，即新晉臨床醫生可能永遠無法掌握資深臨床醫生的技能，也是需要積極研究和實驗的領域。最后，醫療保健系統必須向患者披露人工智能聊天機器人的使用情況，以減少混淆，并建立信任。
在報告中，專家組成員也對生成式ＡＩ在改善患者安全方面的潛力進行了肯定。例如，生成式ＡＩ能夠幫助匯總并檢查事故報告、護理事件和根本原因分析數據；利用數據實時識別和解決安全問題；找出長期導致安全問題的誘因；改進審計跟蹤；協助重新設計工作流程；培訓安全和質量專業人員；以及將患者體驗和反饋納入安全工作等。
另一方面，專家組也強調，生成式ＡＩ也可能造成傷害，需要以謹慎和懷疑的態度來看待這項技術，并對信任、透明度、準確性以及以人為本的設計和實施展開呼吁。無論監管層面采取什么樣的措施，在醫療環節中，這些工具提供給患者，就將會有成千上萬的使用案例和數以萬計的算法得到實施。這意味著，生成式ＡＩ是改善還是損害安全，可能更多取決于醫院、醫療系統和患者家中發生的情況，而不僅僅是關注監管層面的動向。
注：文章來源于網絡，如有侵權，請聯系刪除
