Page 12 - 《中国药房》2025年13期

[56]
确数据的使用权限，禁止违规的数据商业化利用行为， 白和模糊地带 。建议借鉴当前医用软件开发经验，构
并采取技术手段加以防范。药学服务常涉及对患者的 建技术开发者、医疗机构及药师三方共同参与的医疗风
长期用药管理，AIPS系统具备持续收集患者动态数据的 险防控体系，划分责任边界，确保在出现问题时能够明
能力，建议突破传统的“一次性知情同意”模式，建立动 确责任归属。AIPS系统在部署前应通过专业资质和能
态知情同意、知情选择退出等机制，保障患者对自身数 力验证，同时根据医学伦理“有意义的人类控制”这一新
[57]
据的控制权。 兴原则明确药师的主导地位 ，即AIPS仅作为药师决策
推
推荐意见荐意见 1717（（强推荐强推荐））：AIPS 模型的开发应遵循科 的辅助工具。技术开发者有义务通过算法优化与临床
技伦理审查相关要求，应重点评估其训练数据的代表性 验证确保 AIPS 系统推荐内容的准确性，最大限度地避
和公平性，避免因人群覆盖不全、数据质量不高等原因 免错误推荐；若因算法偏差而推荐错误方案，技术开发
导致输出结果产生偏倚。技术开发者应对模型透明度 者应承担技术缺陷责任，但药师仍需依据专业标准独立
进行披露，确保AIPS的算法具有可解释性、可溯源性和 审核方案的合理性，双方分别在系统可靠性和临床决策
透明性。药师应理解 AIPS 模型的计算原理和依据，结 正确性上承担不可替代的主体责任。建议建立模型事
合应用场景对模型提供的计算结果或建议进行复核，定 件报告和持续改进机制，形成药师反馈使用情况、医疗
期结合最新数据验证其有效性，避免盲目依赖算法 机构优化数据、技术开发者更新算法、药师再次验证模
输出。 型的闭环，实现风险可追溯、错误可纠正、责任可明确的
解读与证据：数据偏倚可能引发系统性误判，美国 目标，既符合“透明决策”的伦理要求，又保障了患者用
医疗AI曾因使用历史医疗费用数据训练模型，错误低估 药安全。
了黑人患者的真实需求，作出黑人患者医疗花费少却被 2.9 AIPS面临的挑战与质量控制建议
判定为“更健康”的错误判断 。药师和技术人员需要 推
推荐意见荐意见1919（（强推荐强推荐））：高质量药学数据的不足会导
[53]
主动收集多样化数据（如不同年龄、不同种族、不同地 致 AIPS 系统输出结果产生偏倚，影响用药安全与决策
区、不同等级医疗机构、罕见病患者等），并通过重采样 可信度。建议对辅助AIPS模型训练的数据保持高质量
技术平衡数据集，确保模型平等地覆盖不同群体。算法 动态更新，并使其具备一定的规模和多模态特性，以适
可解释性是实现AI药学服务伦理合规的核心，尽管深度 配于本地医疗机构药学任务模型的架构需求，且能通过
学习模型常被视为“黑箱”，但 AIPS 模型输出的建议和 测试和代表性验证。
[54]
计算结果仍需符合循证医学逻辑 。建议技术开发者 解读与证据：高质量数据集能够显著提高 AIPS 模
采用可解释 AI 技术将 AI 的药学建议转化为特征权重 型的可靠性与可解释性，并减少训练时长。数据不足或
（如药物相互作用权重、患者肝肾功能评分等）并提供推 类型单一会引发决策偏倚，如抗菌药物推荐模型如果未
理依据，帮助药师理解输出依据并纠正错误。例如，若 纳入当地细菌耐药菌数据，会导致建议方案出现偏
AIPS系统推荐某药物剂量时未考虑患者肌酐清除率，可 差 ；电子处方中“0.1 g”与“100 mg”未标准化可能会增
[58]
通过特征溯源发现模型输入数据的缺失，进而优化数据 加剂量计算模型的误判风险；药师手写备注“患者自行
[55]
采集流程。“数据集偏移”可能导致模型性能衰减 ，在 停药”等多模态数据如果未能被系统采集，模型可能无
[59]
药学服务场景中，新药上市、循证证据更新、疾病谱变 法识别患者用药依从性不佳的真实场景 。此类数据
化、政策调整均可能影响AIPS系统输出信息的有效性， 缺陷的叠加效应，将导致药学服务从处方审核到用药指
因此需定期基于最新数据验证模型，对偏移指标持续监 导的全链条风险升级。建议医疗机构通过标准化数据
控，并通过迭代更新流程修正模型偏差。 治理、动态更新机制与多模态信息整合，构建高质量数
推 据集和防错闭环；建议技术开发者配合医疗机构持续优
推荐意见荐意见 1818（（强推荐强推荐））：AIPS 系统的责任主体应包
括技术开发者、医疗机构及药师三方。其中，技术开发 化数据采集的标准、逻辑和范围。
推
者需确保模型通过基本验证，并提供合格的第三方测试 推荐意见荐意见2020（（强推荐强推荐））：未经系统化培训的药学人员
评估报告和完整的局限性声明，根据医疗机构反馈和定 使用AIPS工具，可能存在难以识别AI模型误判、决策逻
期数据更新情况进行模型迭代优化，承担系统可靠性责 辑失察及提示工程失效的风险，进而导致错误使用输出
任；医疗机构应履行系统日常维护、权限管理和合规性 结果的概率升高。使用AIPS系统的药学专业人员应具
监管责任；药师在明确AI辅助地位的前提下，承担最终 备相应资质，掌握AI工具运行的基本原理和操作技能；
决策责任。三方相互协同配合，共同完成人员培训、数 使用生成式 AI 提问时，提示词应清晰、具体，明确 AI 在
据管理、模型验证与调整等工作。 药学服务中的辅助角色。
解读与证据：目前关于 AIPS 辅助医疗决策过程的 解读与证据：当前，使用AIPS工具提供药学服务的
法律法规尚不完善，特别是在责任归属方面存在诸多空 药师普遍缺乏专业培训。建议从事药学门诊、药物重

· 1558 · China Pharmacy 2025 Vol. 36 No. 13 中国药房 2025年第36卷第13期