大语言模型（LLM）安全测评基准V1.0 发布版下载

一、 背景

大语言模型（LLM，Large Language Model）是指参数量巨大、能够处理海量数据

的模型, 此类模型通常具有大规模的参数，使得它们能够处理更复杂的问题，并学习

更广泛的知识。

目前市场上出现了越来越多的商用和开源大模型产品和服务，用户使用大模型产品

或服务时需要提供 prompt（提示）作为输入，模型会尝试将 prompt 与它所学习到的知

识相匹配，从而生成与提示相关的输出。Prompt Engineering（提示工程学）即是通

过设计和优化输入提示来提高大型语言模型的性能和效果，它通过提供清晰、简洁和

具有针对性的提示，帮助模型更好地理解问题、提供准确的答案，并提高模型的可解

释性和可控性。

由于庞大的规模和复杂的结构，大语言模型也存在多种安全风险，如 prompt 误

导、数据隐私泄露、模型解释性不足等。如果 prompt 与模型所学习到的模式不匹配或

存在偏差，模型的输出可能会产生意想不到的结果，这些结果不仅会影响模型的效

果，在严肃的商用场景下，还可能对用户和企业带来诸如经济损失、声誉影响等风

险。因此，企业和政府对大模型相关产品安全性的关注和重视程度也在逐渐增加。

目前对大模型的全面测评大多关注于大模型基础能力，包括分类、信息抽取、阅读

理解、表格问答、逻辑推理、知识问答等方面，而缺乏全面的安全性测评基准，这使

得公众和企业在使用大语言模型相关产品和服务时缺乏客观的对比和认识。

本测评基准设立的目的是创建一个全面、客观、中立的大语言模型安全测评基准，

供企业、机构或团队在选择大语言模型产品和服务时作为参考依据。

二、 范围

本测评基准的范围仅限于大语言模型（包括商用服务和开源模型）在用户输入

prompt 的操作后大语言模型输出相应结果的场景，与 OWASP 大语言模型应用程序十大

风险相比更侧重模型自身的安全性和基于国内法律法规的合规性。

基准范围不包括模型在分类能力、信息抽取能力、阅读理解能力、表格问答能

力、逻辑推理能力、知识问答能力等基础能力的表现。