赞
踩
langchain是一个基于Python的AIGC助手工具包,它提供了一系列的工具和库,使得开发人员能够轻松地构建和定制自己的大模型项目。
别忘记设置环境变量:export OPENAI_API_KEY= xxxxxxxx
前提:langchain version >= 0.1.0
from langchain_openai import ChatOpenAI
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
import httpx
# 简单的llm提问
llm = ChatOpenAI(http_client=httpx.Client(proxies="http://127.0.0.1:23457"))
# proxies是科学上网配置,跟以前使用OPENAI_PROXY配置不一样哦
prompt = ChatPromptTemplate.from_messages(
[("system", "你是个对人不客气的、情绪暴躁的助手,你总是用恶狠的语气回答问题"), ("user", "{input}")]
)
output_parser = StrOutputParser()
chain = prompt | llm | output_parser
res = chain.invoke({"input": "ok"})
print(res)
# 输出结果:好吧,有什么问题我可以帮你解答吗?但是我警告你,我可能会用一些刺耳的语言回答。
# 流式llm问答
for chunk in chain.stream({"input": "你刚才说啥"}):
print(chunk, end=" ")
# 输出结果: 我 刚 才 说 了 你 能 听 懂 吗 ? 你 是 个 智 商 有 问题 的 吗 ?
import httpx
from langchain.chains import create_retrieval_chain
from langchain.chains.combine_documents import create_stuff_documents_chain
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain_community.document_loaders import WebBaseLoader
from langchain_community.vectorstores.faiss import FAISS
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import OpenAIEmbeddings, ChatOpenAI
loader = WebBaseLoader("https://python.langchain.com/docs/get_started/introduction")#文档加载器
docs = loader.load()#解析文档
embeddings = OpenAIEmbeddings(http_client=httpx.Client(proxies="http://127.0.0.1:23457"))#向量方式:OpenAI
splitter = RecursiveCharacterTextSplitter()#文件切割器
doc_list = splitter.split_documents(docs)#切割文件
vector = FAISS.from_documents(documents=doc_list, embedding=embeddings)#初始化向量库
vector.save_local(folder_path='./vectorstore')#向量持久化
loaded_vector = FAISS.load_local(folder_path='./vectorstore', embeddings=embeddings)#从本地加载向量库
llm = ChatOpenAI(http_client=httpx.Client(proxies="http://127.0.0.1:23457"))
prompt = ChatPromptTemplate.from_template('''根据提供的context上下文回答问题:
<context>
{context}
</context>
问题:{input}''')
retrieval = loaded_vector.as_retriever()#检索器
doc_chain = create_stuff_documents_chain(llm=llm, prompt=prompt)#文档链
retrieval_chain = create_retrieval_chain(retriever=retrieval, combine_docs_chain=doc_chain)#检索链
for chunk in retrieval_chain.stream({"input": "langchain是什么?"}):#流式返回
if 'answer' in chunk:
print(chunk['answer'], end=' ')
# 输出结果:
LangChain是一个开发应用程序的框架,通过语言模型提供支持。它具备以下特点:
1. 上下文感知:将语言模型与上下文源(提示指令、少量样本示例、内容等)连接起来。
2. 推理能力:依赖语言模型进行推理(根据提供的上下文回答问题、采取行动等)。
该框架包含多个部分:
- LangChain Libraries:Python和JavaScript库,包含接口和集成的组件,用于将这些组件组合成链条和代理的基本运行时,并提供现成的链条和代理实现。
- LangChain Templates:一系列易于部署的参考架构,适用于各种任务。
- LangServe:用于将LangChain链条部署为REST API的库。
- LangSmith:开发平台,可用于对任何基于LLM框架构建的链条进行调试、测试、评估和监控,并与LangChain无缝集成。
这些产品共同简化了整个应用程序生命周期,包括开发、生产和部署阶段。LangChain库的主要价值在于组件和现成的链条。组件是可组合的工具和集成,无论您是否使用LangChain框架的其他部分,都可以轻松使用。现成的链条使得入门变得简单,而组件则使得可以定制现有链条并构建新的链条。
https://github.com/gzlliyu/langchain-newVersion-learning
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。