在生成式AI(GenAI)出现之前，开发人员已经将人工智能(AI)和机器学习(ML)模型纳入医疗器械。这些非生成式AI/ML 模型被用于执行图像分割、分类、生物标记提取和风险预测等任务。非生成式AI/ML模型通常被认为是可重现的，即使不能完全解释或透明。

生成式AI指的是模仿输入数据的结构和特征来生成衍生合成内容的人工智能模型，可包括图像、视频、音频、文本和数字内容。生成式AI 与非生成式AI/ML 一样，都是从数据中学习模式；但与非生成式AI/ML不同的是，GenAI模型通常是为了创建与所学数据相似的新数据，而不是主要为了识别模式以做出准确预测。生成式AI模型可以分析输入数据，并根据上下文生成适当的输出，而这些输出可能在其训练数据中并未明确显示。

重要的是，生成式AI模型经常是在如此庞大的数据集上开发的，以至于开发人员在开发过程中通常无法了解数据集内容的所有信息。与用于开发其他AI/ML模型的数据集相比，用于开发生成式AI模型的数据集可能会有意扩大，最初可能不会针对特定任务进行定制。生成式AI模型在开发数据内的元素之间衍生出高度复杂的关系，可应用于一个或潜在的多个任务并对其进行进一步优化。虽然生成式AI 模型可能会生成适用于特定兴趣领域的输出，但推导出的关系是在开发数据中发现的不同单词、像素或其他语言元素之间的关系。因此，输出反映的是对衍生关系的概率预测，有时可能会参考开发数据集中与特定兴趣领域不一定相关的信息。可广泛应用于多种任务的生成式AI 模型通常被称为基础模型。

目前的基础模型通常不是为单个产品创建的，一般也不打算用作FD&C Act第 201(h)条所定义的器械。应用软件开发者通常与基础模型开发者是不同的实体，他们可以为各种应用软件（包括可能符合器械定义的应用软件）调整单一的基础模型。随着研究人员对这一领域的关注，用于训练特定任务基础模型的方法也在迅速出现和变化。一些研究人员正在探索将 GenAI模型用于类似于目前可通过非生成式AI/ML模型完成的任务，如分割或分类，而另一些研究人员则在探索将AI或生成式AI模型用于更新的功能，如广泛的图像分析和提供广泛学科的临床诊断。即使AI或生成式AI 模型是专门针对医疗信息进行训练的，这些信息也可能跨越医疗保健领域的许多医学学科和来源。因此，模型可能不仅能生成特定类型的输出，还能跨越多个临床学科。例如，一个经过训练可在活检图像上识别肿瘤组织的模型有可能用于多种不同的组织类型和成像模式。

包括生成式AI模型在内的AI模型也会出现幻觉，即生成错误或虚假的内容，以达到满足用户提示的编程目标。模型的复杂性，包括模型架构和生成式AI 模型典型的大量数据，可能是导致这种幻觉的一个因素。因此，虽然生成式AI 的一个潜在显著优点是它可以从各种不同的数据类型中生成适用于特定兴趣领域的输出结果，或者它可以生成与大量任务相关的输出结果，但生成式AI 也可能带来潜在风险，不同的应用可能需要不同程度的风险控制，其他技术也是如此。例如，幻觉，尤其是那些对用户来说可能是真实输出的幻觉，可能会对某些医疗保健应用构成重大挑战，因为在这些应用中，高度准确、真实的信息至关重要。

对于医疗器械而言，使用生成式AI生成的内容可以帮助确定可能的临床诊断、治疗方案，并为患者、医疗保健专业人员和其他人提供复杂医疗数据中的新关联，这对医疗保健大有裨益。然而，生成式AI处理多样化、新颖和复杂任务的能力有时也会导致器械输出极限的不确定性。如果控制不力，这种不确定性就会转化为确认器械预期用途界限的困难，从而给 FDA 对生成式AI 器械的监管带来挑战。例如，如果器械的预期用途没有明确定义，FDA 可能难以采用基于风险的方法对生成式AI器械进行分类，并确定适用的监管要求。此外，重要的是要有足够的评估方法和风险控制，以确保启用生成式AI 的器械在整个 TPLC 中保持安全和有效。虽然一些可用于确保 AI器械安全有效的评估方法和风险控制措施也可用于生成式AI器械，但对生成式AI 器械的兴趣和需求也可能加速新评估方法或风险控制措施的开发。与所有器械一样，FDA 遵循基于风险的方法，考虑产品的预期用途和技术特性，以合理保证其安全性和有效性。