美国食品和药物管理局（FDA）、加拿大卫生部和英国药品和保健品管理局（MHRA）共同确定了10条指导原则，这些原则可以为良好机器学习实践（GMLP）的发展提供信息，将有助于促进使用人工智能和机器学习（AI/ML）的安全、有效和高质量医疗器械。

人工智能和机器学习技术，有潜力通过从每天提供医疗服务的过程中产生的大量数据中得出新的重要见解，从而改变医疗服务。他们使用软件算法从实际使用中学习，在某些情况下可能会使用这些信息来提高产品的性能。但由于其复杂性以及开发的迭代性和数据驱动性，它们也有要独特考虑的点。

以下这10个指导原则，旨在为开发良好的机器学习实践奠定基础，解决这些产品的独特性质。另外，这些指导原则还将有助于在这个快速发展的领域培育未来的增长。

以下是10条指导原则：

1. 在整个产品生命周期中利用多学科专业知识：

深入了解模型与临床工作流程的预期集成，以及预期的好处和相关的患者风险，可以帮助确保支持ML的医疗设备安全有效，并在设备的整个生命周期内满足有临床意义的需求。

2. 实施良好的软件工程和安全实践：

实施模型设计时注意这些“基础”：良好的软件工程实践、数据质量保证、数据管理和稳健的网络安全实践。这些实践包括有条不紊的风险管理和设计过程，可以适当地捕获和传达设计、实施和风险管理决策和基本原理，并确保数据的真实性和完整性。

3. 临床研究参与者和数据集能代表预期患者群体：

数据收集协议应确保预期患者群体的相关特征（例如，年龄、性别、种族和民族）、使用和测量输入，在临床研究、培训和测试数据集中有足够大的样本、得到充分验证，因此结果可以合理地推广到感兴趣的人群中。这对于管理任何偏差、在预期患者群体中促进适当和可推广的性能、评估可用性以及识别模型可能表现不佳的情况非常重要。

4.训练数据集独立于测试集：

训练和测试数据集的选择和维护适当地相互独立。考虑并解决所有潜在的依赖源，包括患者、数据采集和地点因素，以确保独立性。

5. 选定的参考数据集基于最佳可用方法：

开发参考数据集（即参考标准）的公认最佳可用方法，确保收集临床相关且特征明确的数据，并理解参考的局限性。如果可用，在模型开发和测试中使用可接受的参考数据集，以促进和证明模型的稳健性和在预期患者群体中的普遍性。

6.模型设计根据可用数据进行定制，并反映设备的预期用途：

模型设计适合可用数据，并支持主动缓解已知风险，如过度装配、性能下降和安全风险。与本产品相关的临床益处和风险已被充分理解，用于得出具有临床意义的测试性能目标，并支持本产品能够安全有效地实现其预期用途。考虑因素包括全球和本地性能的影响以及设备输入、输出、预期患者群体和临床使用条件的不确定性/可变性。

7.重点放在人和人工智能团队的性能上：

当模型具有“human in the loop”时，人的因素考虑和模型输出的人的可解释性将重点放在人和人工智能团队的性能上，而不仅仅是孤立的模型性能。

8. 测试证明设备在临床相关条件下的性能：

制定并执行统计上合理的测试计划，以生成独立于培训数据集的临床相关设备性能信息。考虑因素包括预期的患者群体、重要的亚组、临床环境和人工智能团队的使用、测量输入和潜在的混杂因素。

9.向用户提供清晰、基本的信息：

向用户提供随时访问适合预期受众（如医疗保健提供者或患者）的清晰、上下文相关信息的机会，包括：产品的预期用途和使用适应症，适当子组的模型性能，用于训练和测试模型的数据特征、可接受的输入、已知的限制、用户界面解释以及模型的临床工作流集成。用户还可以从真实世界的性能监控中了解设备修改和更新、可用时的决策基础以及向开发人员传达产品问题的方法。

10.对部署的模型进行性能监控，并管理再培训风险：

部署的模型能够在“真实世界”使用中进行监控，重点关注维护或改进的安全和性能。此外，当模型在部署后定期或持续培训时，有适当的控制措施来管理模型过度拟合、意外偏差或退化（例如，数据集漂移）的风险，这些风险可能会影响人和人工智能团队使用模型时的安全性和性能。