大模型安全与发展并进：智谱AI等16家全球顶级AI公司签署前沿AI安全承诺

5月21日，第二届人工智能安全峰会在韩国首尔召开，峰会期间，中国大模型企业智谱AI、国际知名大模型公司OpenAI、科技巨头谷歌、微软等16家国际顶级人工智能公司共同签署了前沿人工智能安全承诺（Frontier AI Safety Commitments）。

第二届人工智能安全峰会基于去年11月在英国举办的首届AI安全峰会发布的《布莱切利宣言》（Bletchley Declaration），以“安全、创新、包容”为议题，就进一步保障AI安全性、推进AI可持续发展等方案进行讨论。

在此次峰会上，亚马逊、Anthropic、谷歌、IBM、OpenAI、微软、智谱AI等16家全球领先科技公司就前沿AI开发安全达成一致，多方共同做出承诺，包括：确保前沿人工智能安全的负责任治理结构和透明度；基于人工智能安全框架，负责任地说明将如何衡量前沿人工智能模型的风险；建立前沿人工智能安全模型风险缓解机制的明确流程等。

（图：前沿人工智能安全承诺签署方名单）

前沿人工智能安全承诺旨在推动全球在人工智能安全方面的合作，确保人工智能的安全发展，促进技术创新。它的签署体现了包括智谱AI在内的国际顶级人工智能公司对前沿人工智能安全发展高度负责任的态度。

图灵奖得主、世界人工智能领域顶级学者Yoshua Bengio表示，前沿人工智能安全承诺的签署“在建立促进人工智能安全的国际治理制度方面向前迈出了重要一步。”

未来，智谱AI将继续通过创新推动人工智能技术发展。基于超级认知与超级对齐技术，提升前沿人工智能模型的鲁棒性和可靠性，打造安全、可控、强大的人工智能系统，推动构建公平、公正、安全的人工智能发展环境。