医疗保健领域实施人工智能的伦理评估工具：CARE-AI

在医疗保健领域部署由人工智能（AI）驱动的预测模型可能会引发对其实施和推广的伦理问题。例如，如果人工智能预测模型在没有明确理由的情况下按性别或种族和民族提出不同的诊断或治疗建议，可能会妨碍临床决策。最近的指南（如世界卫生组织关于人工智能用于医疗卫生的伦理和治理指南以及荷兰关于人工智能用于医疗卫生的指南）和立法（如欧盟人工智能法案和美国白宫关于安全、可靠和值得信赖地开发和使用人工智能的行政命令）概述了实施人工智能的重要原则，包括伦理方面的考虑1,2。医疗系统已通过建立管理委员会和流程来确保安全、公平地实施人工智能工具3。人工智能预测模型的开发和验证得益于详细的报告和偏倚风险工具，如用于公平性和偏倚控制的 TRIPOD+AI4 和 PROBAST（及其即将推出的人工智能扩展），以及用于人工智能成像研究的数据隐私、安全性和可解释性的 CLAIM5。然而，当计划在医疗实践中实施一个经过严格开发且性能良好的人工智能预测模型时，现有的伦理建议和指导并不多，也缺乏操作细节。例如，DECIDE-AI 报告指南6 包含了少量与伦理相关的建议，适用于人工智能的早期临床评估，涉及公平性、安全性和人与人工智能的互动，而 FUTURE-AI7 则根据模型设计、开发、验证和部署中的六项原则（公平性、普遍性、可追溯性、可用性、稳健性和可解释性）提出了建议。需要一个以生物伦理为中心的交付科学工具包，以便在医疗保健领域负责任地实施人工智能8。