Langchain框架 prompt injection注入

Langchain框架 prompt injection注入

Prompt Injection 是一种攻击技术，黑客或恶意攻击者操纵 AI 模型的输入值，以诱导模型返回非预期的结果

Langchain框架

LangChain 是一个基于大语言模型进行应用开发的框架。

所谓大语言模型（Large Language Models, LLMs），是指基于海量语料训练、参数动辄数十亿上百亿的语言模型。除了大家熟知的 ChatGPT（由 OpenAI 研发），还有 Google 早期研发的 BERT、OpenAI 的整个 GPT 系列、Meta 近期开源的 LLaMA、清华大学的 GLM 系列、华为的盘古等。

LangChain作为一个 LLM 应用框架，支持调用多种不同模型，提供相对统一、便捷的操作接口，让模型即插即用。能把模型用起来只是第一步，第二步是建立连接。LangChain 提供 Indexes 去转化不同类型的文档，使用户能够将数据投喂给模型，这极大地解决了 ChatGPT 信息不及时、难以个性化的问题；

还有第三步，交互。让调教好的 LLM 根据用户的安排去做出决策、执行动作、评估反馈、重复直到完成。LangChain 提供 Chains 让 LLM 与其他应用交互，提供 Agents 让开发者定义能够自行决策的 AI。