首頁 / 公司新聞 / 行業資訊 / 中國信通院聯合三六零啟動大模型標準制定，築牢人工智能安全防線

中國信通院聯合三六零啟動大模型標準制定，築牢人工智能安全防線

隨著人工智能技術的迅猛發展，大模型在各個領域的應用日益廣泛，但隨之而來的安全問題也日益凸顯。為了築牢人工智能安全防線，提升大模型技術的安全風險防範能力，中國信息通信研究院（以下簡稱“信通院”）聯合360發起大模型安全基準測試SafetyAI Bench制定工作。

大模型安全基準測試旨在建立業內權威的大模型安全中文基準測試體系，秉持“公平公正、產業應用、選型參考”三大原則，通過科學嚴謹的測試方法，評估大模型在內容安全、數據安全和科技倫理等方面的表現。該體系將覆蓋價值觀正確、合法合規、隱私保護、文明健康、AI自主意識等27個維度的中文評測數據集，為行業提供全面、細致的安全性能測試指標。

信通院作為中國信息通信行業的重要研究機構，在人工智能和大數據領域具有深厚的研究底蘊和豐富的行業經驗，是國內ICT領域唯一能打通新技術研究、標準研制、試驗驗證、檢測認證到產業推進全鏈條全環節的產業創新平臺。其專業的研究團隊、廣泛的行業合作網絡以及深厚的行業影響力，為大模型安全基準測試的順利推進提供了堅實的保障。

360集團在網絡安全領域深耕多年，擁有的安全大數據規模全球領先；且作為國內較早布局人工智能大模型的企業，360自研的認知型通用大模型——“360智腦”在中文通用大模型基準評測等多個第三方評測中位列國產大模型能力第一梯隊。憑借在數字安全和人工智能的深厚積累和領先實力，360將為本次標準測試工作提供強大的技術支持、實踐經驗和創新思路，共同推動大模型安全基準測試體系的建立和完善。

業內人士表示，此次信通院與360聯合開展大模型安全基準測試屬於強強聯合、優勢互補，不僅能夠在行業內樹立一個權威且公正的安全評估標準，還將進一步推動大模型技術的創新與應用，為人工智能產業的穩健發展貢獻力量。