新华丝路首页
一带一路国家级信息服务平台

世界数字技术院发布首批国际人工智能安全标准

来源:新华丝路 责任编辑:黄新培 2024-04-18 15:45:37

新华丝路日内瓦4月18日电(记者陈俊侠  曾焱)世界数字技术院(WDTA)16日在联合国日内瓦总部所在地万国宫发布了两项具有重要意义的国际标准:“生成式人工智能(AI)应用安全测试标准”和“大语言模型安全测试方法”。这是国际组织首次在大模型安全领域发布国际标准,为业界提供了统一的测试框架。这些标准的发布将对人工智能领域产生深远影响,推动人工智能技术的安全、可靠发展。

世界数字技术院是在联合国科学和技术促进发展委员会第27届会议上发布上述国际标准的。这两大标准由云安全联盟(CSA)大中华区研究院副院长黄连金带领的专家团队编制而成,他们来自CSA大中华区、OpenAI、蚂蚁集团、谷歌、微软、亚马逊、英伟达、OPPO、科大讯飞、百度、腾讯、加州大学伯克利分校、芝加哥大学、香港科技大学等数十家单位,体现了业界的广泛协作与集体智慧。

据世界数字技术院执行理事长李雨航介绍,“生成式人工智能应用安全测试标准”为测试和验证生成式AI应用的安全性提供了一个框架,特别是那些使用大语言模型构建的应用程序。它定义了人工智能应用程序架构每一层的测试和验证范围,确保AI应用各个方面都经过严格的安全性和合规性评估。

他表示,“大语言模型安全测试方法”为大模型本身的安全性评估提供了一套全面、严谨且实操性强的结构性方案。它提出了大语言模型的安全风险分类、攻击的分类分级方法以及测试方法,并率先给出了四种不同攻击强度的攻击手法分类标准,提供了严格的评估指标和测试程序等,使开发人员和组织能够识别和缓解潜在漏洞,并最终提高使用大语言模型构建的人工智能系统的安全性和可靠性。

世界数字技术院相关负责人认为,随着新的生成式AI技术以及建立在生成式AI模型之上的AI应用架构的发展,这些标准也将不断演进。该机构表示,迅速、开放和包容是制定这些创新标准的核心理念,只有紧跟技术发展的脚步,标准才能持续发挥其引领和规范行业的作用。

世界数字技术院是一个国际非政府组织,拥有一百多位诺贝尔奖获奖者、图灵奖获得者、多国工程院院士等知名科学家,致力于引领全球向安全、高效和共享的数字未来迈进。

相关推荐
这场聚焦新兴产业的政企恳谈会,内蒙古谈出合作新机遇

近日,内蒙古自治区商务厅相关负责人在一场聚集了低空经济和人工智能产业领域企业的恳谈会上推介内蒙古这两大产业集群的投资环境。

内蒙古聚焦低空经济和人工智能产业精准招商

4月16日至22日,内蒙古自治区商务厅与工业和信息化厅,联合内蒙古自治区人民政府驻北京办事处、驻上海办事处、驻深圳办事处及呼和浩特市、包头市、呼伦贝尔市、锡林郭勒盟、乌兰察布市、鄂尔多斯市相关投资促进部门组成招商小分队,赴广州市、深圳市、杭州市、北京市开展精准招商活动。

内蒙古低空经济与人工智能产业招商引资恳谈会在京举行

4月21日,内蒙古低空经济与人工智能重点产业集群专场招商恳谈会在北京举行,重点展示内蒙古在低空经济与人工智能领域的产业基础与发展机遇,吸引央企、民企及科研机构关注,参与内蒙古现代化产业体系建设。