2025年1月7日,FDA發布了支持人工智能醫療器械的設備軟件功能相關草案,即"Artificial Intelligence-Enabled Device Software Functions: Lifecycle Management and Marketing Submission Recommendations"。
該指南為包含人工智能功能的器械軟件的上市前提交文件提供建議,涵蓋了支持 FDA 審查的文件和信息,還為制造商在全產品生命周期(TPLC)設計、開發具備人工智能功能的器械給出參考建議,體現了對該類器械進行生命周期管理的綜合方法。
適用范圍
就本指南而言,FDA將符合器械定義的軟件功能稱為"器械軟件功能"。"功能"一詞指的是產品的特定用途,它可以是產品預期用途或預期用途的一個子集。
具備人工智能功能的器械是指包含一個或多個具備人工智能功能的器械軟件功能(AI-DSFs)的器械。一般而言,當組合產品的器械組成部分包含 AI-DSF 時,本指南中的建議也適用于該組合產品的器械組成部分。
TPLC一般原則
本指南認可 TPLC 方法對管理具備人工智能功能的器械意義重大。一方面,就上市提交文件該包含的資料信息提出建議,助于TPLC期間風險管理;另一方面,提供資源協助器械開發與生命周期管理,保障器械安全有效,還提出關于此類器械設計、開發、部署、維護(包括性能管理)的建議。
如何使用本指南
本指南就應納入上市提交文件中的文件資料和信息提供建議,以支持FDA對包含AI-DSFs的器械進行審評。指南的一些部分還描述了與全產品生命周期多個步驟相關的信息。以下是本指南各部分與全產品生命周期可能對應的一個示例:
?開發:風險評估、數據管理以及模型描述與開發
?驗證:數據管理與驗證
?最終器械描述:器械描述、模型描述與開發、用戶界面與標簽、公開提交摘要
?上市后管理:器械性能監測與網絡安全
指南內容框架
本指南描述了人工智能設備上市前提交的內容建議,包括以下部分:
V.Device Description
VI.User Interface and Labeling
VII.Risk Assessment
VIII.Data Management
IX.Model Description and Development
X.Validation
XI.Device Performance Monitoring
XII.Cybersecurity
XIII.Public Submission Summary
針對網絡安全
與集成到醫療器械中的任何數字或軟件組件一樣,人工智能可能會帶來網絡安全風險,可能受網絡安全威脅影響的人工智能風險示例包括但不限于以下方面:
數據投毒:注入不真實或惡意修改的數據,從而使醫療診斷的結果面臨風險。
模型竊取:可能使用偽造或篡改的數據來推斷模型細節或復制模型。
模型規避:蓄意構造或修改輸入樣本以欺騙模型,使其做出錯誤分類。
數據泄露:網絡威脅可能利用漏洞來獲取模型中敏感的訓練或推理數據。
過擬合:網絡威脅可能蓄意讓模型 "過擬合",使人工智能組件在難以有效適應修改后的患者數據時,容易遭受對抗性攻擊。
模型偏差:攻擊者可能利用對抗樣本利用已知偏差,在訓練期間植入后門以便日后觸發偏差行為。
性能漂移:網絡威脅可能通過改變基礎數據分布導致模型性能漂移,從而使模型性能下降。
注:文章來源于網絡,如有侵權,請聯系刪除