Home / 公司新闻 / 行业资讯 / 中国信通院联合三六零启动大模型标准制定, 筑牢人工智能安全防线

中国信通院联合三六零启动大模型标准制定, 筑牢人工智能安全防线

随着人工智能技术的迅猛发展, 大模型在各领域的应用日益广泛, 但随之而来的安全问题也日益凸显. 为了筑牢人工智能安全防线, 提升大模型技术的安全风险防范能力, 中国信息通信研究院 (以下简称 "信通院" ) 联合 360 发起大模型安全基准测试 SafetyAI Bench 制定工作.

大模型安全基准测试旨在建立业内权威的大模型安全中文基准测试体系, 秉持 "公平公正, 产业应用, 选型参考" 三大原则, 通过科学严谨的测试方法, 评估大模型在内容安全, 数据安全和科技伦理等方面的表现. 该体系将覆盖价值观正确, 合法合规, 隐私保护, 文明健康, AI 自主意识等 27 维度的中文评测数据集, 为行业提供全面, 细致的安全性能测试指标.

信通院作为中国信息通信行业的重要研究机构, 在人工智能和大数据领域具有深厚的研究底蕴和丰富的行业经验, 是国内 ICT 领域唯一能打通新技术研究, 标准研制, 试验验证, 检测认证到产业推进全链条全环节的产业创新平台. 其专业的研究团队, 广泛的行业合作网络以及深厚的行业影响力, 为大模型安全基准测试的顺利推进提供了坚实的保障.

360 集团在网络安全领域深耕多年, 拥有的安全大数据规模全球领先; 且作为国内较早布局人工智能大模型的企业, 360 自研的认知型通用大模型 -- "360 智脑" 在中文通用大模型基准评测等多第三方评测中位列国产大模型能力第一梯队. 凭借在数字安全和人工智能的深厚积累和领先实力, 360 将为本次标准测试工作提供强大的技术支持, 实践经验和创新思路, 共同推动大模型安全基准测试体系的建立和完善.

业内人士表示, 此次信通院与 360 联合开展大模型安全基准测试属于强强联合, 优势互补, 不仅能够在行业内树立一权威且公正的安全评估标准, 还将进一步推动大模型技术的创新与应用, 为人工智能产业的稳健发展贡献力量.