人工智能(AI)近年来发展迅速,并通过其自动化决策能力在数字化转型中发挥着关键作用,对人们的日常生活产生了巨大影响。欧盟委员会曾于 2021 年 4 月 21 日发布了《人工智能法案》的提案,对于例如用于生物识别或关键基础设施管理和运营的高风险AI系统,进行了包括网络安全和隐私安全方面的规定和要求,以减轻对健康、安全和基本权利的威胁。
鉴于此,AI也已被欧盟网络安全局(ENISA)认定为首要的风险之一。为提高人们对AI各种使用场景下网络安全和隐私威胁的认识,ENISA 在AI网络安全特设工作组的支持下,曾于过去两年发布了两份指南:《人工智能的网络安全挑战》和《安全机器学习算法》。
今年6月,ENISA又发布了一份新指南《人工智能中的网络安全和隐私:医学影像诊断》,涉及AI支持的医学影像诊断中的网络安全和隐私。
该指南建立在 ENISA 自 2020 年以来启动的识别人工智能相关风险的工作的基础上。这份新指南分析了人工智能在例如骨质疏松症医学影像诊断中的网络安全和隐私要求及措施,并描述了该场景的基本原则(资产、参与者流程等),确定了其带来的安全和隐私风险,最后介绍了网络安全和隐私控制对已识别风险的抵消。
该指南使得更好地评估AI带来的一系列现实威胁成为可能,并坚持寻找新的安全措施以应对这些威胁。应指出的是,隐私问题也是当今社会面临的最重要的挑战之一。网络安全问题和隐私问题密切相关,两者都很重要。但优化安全和隐私的努力往往会以牺牲系统性能为代价,必须针对每种用途来进行平衡。