首次！大模型安全领域两项国际标准发布

2024-04-26 07:42 来源：中国安防协会

近日，在第２７届联合国科技大会期间，世界数字技术院（ＷＤＴＡ）发布了《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项际标准，这是国际组织首次就大模型安全领域发布国际标准。

《生成式人工智能应用安全测试标准》

《生成式人工智能应用安全测试标准》由ＷＤＴＡ作为牵头单位编制。该标准为测试和验证生成式ＡＩ应用的安全性提供了一个框架，特别是那些使用大语言模型（ＬＬＭ）构建的应用程序。它定义了人工智能应用程序架构每一层的测试和验证范围，包括基础模型选择、嵌入和矢量数据库、ＲＡＧ或检索增强生成、ＡＩ应用运行时安全等等，确保ＡＩ应用各个方面都经过严格的安全性和合规性评估，保障其在整个生命周期内免受威胁和漏洞侵害。

《大语言模型安全测试方法》

《大语言模型安全测试方法》由蚂蚁集团作为牵头单位编制。该标准为大模型本身的安全性评估提供了一套全面、严谨且实操性强的结构性方案。它提出了大语言模型的安全风险分类、攻击的分类分级方法以及测试方法，并率先给出了四种不同攻击强度的攻击手法分类标准，提供了严格的评估指标和测试程序等，可解决大语言模型固有的复杂性，全面测试其抵御敌对攻击的能力，使开发人员和组织能够识别和缓解潜在漏洞，并最终提高使用大语言模型构建的人工智能系统的安全性和可靠性。

ＷＤＴＡ人工智能安全可信负责任工作组组长黄连金介绍，此次发布的标准汇集了全球人工智能安全领域的专家智慧，填补了大语言模型和生成式人工智能应用方面安全测试领域的空白，为业界提供了统一的测试框架和明确的测试方法，有助于提高人工智能系统安全性，促进技术负责任发展，增强公众信任。

责任编辑：石旭