全部商品分類
中國抗癌協會人工智能專業委員會于２０２３年進行了中國腫瘤醫生對ＡＩ感知態度的課題研究，其中一項子課題是關于腫瘤醫生對ＡＩ擔憂的研究。研究結果發表在ＪＭＩＲ Ｆｏｒｍ Ｒｅｓ （ｈｔｔｐｓ：／／ｐｕｂｍｅｄ．ｎｃｂｉ．ｎｌｍ．ｎｉｈ．ｇｏｖ／３８８３８３０７／）。
存在多重擔憂
全國范圍內的２２８名腫瘤醫生參與了在線問卷調研，研究發現醫生們在擁抱ＡＩ技術的同時，也表達了對其在臨床中ＡＩ應用的多種擔憂。這些擔憂不僅多樣且深刻，其背后的因素對于推動ＡＩ在醫療領域的安全、有效實施具有不可忽視的影響。
根據調研結果，擔憂主要體現在以下方面：
１．ＡＩ誤導診斷與治療的隱憂：高達７１．４９％的受訪者表達了對ＡＩ可能誤導診斷和治療流程的深切憂慮。由于ＡＩ系統高度依賴訓練數據，數據中的偏見會無形中傳遞給ＡＩ，進而引發錯誤的診斷或治療建議。此外，ＡＩ的預測能力受限于其學習數據的完整性，不全面的數據如同盲人摸象，難以保證預測的準確性。更令人擔憂的是，ＡＩ系統的復雜性和不透明性常常讓醫生難以透徹理解其背后的邏輯與結論，加之部分醫生缺乏針對ＡＩ的充分培訓，這可能會導致在實際應用中做出次優的決策。
２．過度依賴ＡＩ的風險：７１．０５％的受訪者警示了過度依賴ＡＩ可能帶來的后果——醫生自身的診斷與治療能力或將逐漸退化。他們擔心過度依賴ＡＩ可能會削弱醫生通過長期教育、培訓和實踐積累的核心技能，導致醫生對ＡＩ的決策產生盲目相信，進而忽視必要的審慎與判斷力，這無疑對患者的安全構成了潛在威脅。類似完全信任地圖導航，而失去自己的判斷和認知。
３．數據安全與患者隱私泄露的隱患：５３．９５％的受訪者對數據安全和患者隱私保護問題表示了關注。隨著ＡＩ系統在醫療領域的廣泛應用，大量敏感的患者數據被收集和處理，這使得醫療系統成為了黑客攻擊的高價值目標。一旦數據泄露，不僅可能引發身份盜竊、財務損失等嚴重后果，還會對醫療機構的聲譽和患者信任造成不可估量的損害。值得注意的是，國外類似研究也普遍將這一問題視為首要顧慮，這或許反映了全球范圍內對數據隱私保護的共同重視，同時也受到不同國家和地區文化認知差異的影響。
４．數據與算法偏見的陰影：同樣有５３．９５％的參與者指出了ＡＩ數據和算法偏見的存在及其嚴重后果。這些偏見如同潛藏在健康ＡＩ中的定時炸彈，可能導致診斷失誤、治療疏漏，甚至對患者造成不可逆轉的負面影響。更令人擔憂的是，這些偏見還可能加劇社會現有的不平等現象，使得某些群體在享受ＡＩ帶來的醫療便利時面臨更多障礙。
５．法律法規滯后的挑戰：半數受訪者（５０．４４％）對ＡＩ在醫療領域應用時面臨的法律法規滯后問題表示了擔憂。他們指出，當前醫療ＡＩ相關的法律、法規和政策尚不完善，醫療責任界限模糊不清，這給醫療機構和醫生帶來了極大的不確定性。在快速發展的ＡＩ技術面前，如何及時制定并完善相關法律法規，確保醫療ＡＩ的合法、安全、有效應用，成為了亟待解決的問題。
此外，３９．４７％的參與者對ＡＩ產品的“黑箱”特性也表達了一定程度的憂慮，這一現象與學術界和業界對更具可解釋性和透明度ＡＩ模型的廣泛呼吁不謀而合。專家認為，可信的ＡＩ應當賦予專業人員足夠的能力，讓他們能夠自信地為其決策承擔責任，這進一步凸顯了發展可解釋ＡＩ技術的重要性。為確保ＡＩ算法在臨床應用中的安全性和有效性，必須對其分析和臨床效果進行持續監測，并明確可解釋性和因果關系作為監督的基石。專家們強調，只有憑借可解釋性和因果關系的明確證據，他們才能更加負責任地履行自己的職責。
同時，３６．８４％的受訪者指出，ＡＩ在醫療護理中缺乏同理心，這一觀點在ＡＩ倫理的討論中屢見不鮮，凸顯了人類情感在醫療過程中無法被技術輕易替代的獨特價值。另外，商業模式的不明確（２５．４４％）、與現有工作流程整合的困難（１６．６７％），以及ＡＩ產品操作的復雜性（同樣占比１６．６７％），也是受訪者提及的顯著問題。
值得注意的是，僅有一小部分（３．０７％）受訪者認為ＡＩ在醫療應用中不存在任何風險，這種感知的多樣性很可能源于受訪者對ＡＩ技術的理解程度、知識儲備以及實際接觸經驗的差異。
推動ＡＩ在醫療領域健康應用
研究進一步指出，ＩＴ經驗在醫生對ＡＩ的態度中扮演了重要角色。具備ＩＴ經驗的腫瘤科醫生由于對ＡＩ的能力和局限有更深刻的理解，因此在將ＡＩ技術融入其醫療實踐中顯得更加自信。而沒有ＩＴ經驗的醫生可能因為對這項技術的不熟悉而感到擔憂。這些發現強調了在醫療領域推廣ＡＩ技術時，需要考慮到醫生的不同背景和經驗，并提供相應的教育和培訓，以確保技術的有效和人性化的整合。
在深入剖析影響醫生對人工智能（ＡＩ）擔憂的人口統計學與專業變量時，研究發現了一個引人關注的現象：性別差異的影響在其他眾多研究中有統計學上的顯著性，但在本研究未見此差異。具體而言，男性和女性醫生對ＡＩ可能誤導診斷和治療的擔憂比例相近，分別為７１．８５％和７０．９７％；同樣，在過度依賴ＡＩ的憂慮上，兩者的比例也相近，分別為６９．６３％和７３．１２％。不過在國外其他專科醫生研究中，顯示了性別上的差異，可能與樣本量有關。
在教育水平方面，擁有本科學歷的腫瘤醫生對數據和算法偏見的擔憂比例高于碩士和博士學位持有者（Ｐ＝．０３４）。這可能是因為高等教育培養了個體對新興技術如ＡＩ的接受度，通過提供知識、批判性思維能力、技術接觸和學習信心，從而減少了對ＡＩ的擔憂。此外，本科學歷的腫瘤醫生對法律法規政策滯后的擔憂也更為顯著（Ｐ＝．０４６）。相比之下，臨床工作１０年以下的腫瘤醫生對這一問題表現出較少的擔憂，與擁有１０年以上經驗的醫生相比（Ｐ＝．０４７）。盡管在大學附屬醫院工作的醫生與非教學醫院的腫瘤醫生相比，對ＡＩ商業模式問題表現出更大的擔憂，但這種趨勢并沒有達到統計學上的顯著性（Ｐ＝．０８８）。
尤為值得注意的是，那些具備ＩＴ經驗，特別是參與過醫院信息系統（ＨＩＳ）、電子病歷（ＥＭＲ）等項目開發實施的醫生，在擔憂過度依賴ＡＩ及ＡＩ可能削弱同理心的問題上，比例顯著低于無ＩＴ背景的醫生（Ｐ＝．０１７；Ｐ＝．００３）。這表明，對ＡＩ技術的深入理解與實踐經驗，不僅增強了醫生對ＡＩ的信心，也促使他們更理性地看待其潛在影響。
ＡＩ在腫瘤學領域展現出了極為廣闊的應用前景，但要確保其順利融入臨床實踐，有必要正視醫生們的顧慮。這需集合政策制定者的引導、技術開發者的創新、醫療專業人員的實踐智慧以及法律專家的專業意見，來共同推動。具體措施包括增強透明度、堅持以人為核心的設計理念、有效減少技術偏見，并對醫療工作者進行充分的ＡＩ知識普及，使他們既了解ＡＩ的巨大潛力，也認識到其局限性。這些努力對于促進ＡＩ在醫療行業的健康發展至關重要。
需要指出的是本次關于ＡＩ在醫療應用中的調查問卷已經過嚴格的效度和信度驗證，確保了數據的可靠性和問卷的質量。更令人期待的是，即將發布的ＩＩ期調研結果，基于１１２２例更大樣本量的數據，將為我們提供更為深入、全面的分析視角，幫助我們探索更多變量間的關聯與影響，進一步推動ＡＩ在醫療領域的精準應用與持續優化。
