赞
踩
星火模型的langchain实现
目前 langchain 已经适配了 星火模型(Spark)
spark langchain url https://github.com/langchain-ai/langchain/blob/master/libs/community/langchain_community/chat_models/sparkllm.py
测试已通过,希望有所帮助。(如果出现bug,请提issue)
使用前请先安装环境:
pip install oneapi2langchain -i https://pypi.org/simple/
实现如下: 自行跳转
from oneapi2langchain import ChatSpark from dotenv import load_dotenv # 加载 APP_ID 等配置 load_dotenv() if __name__ == "__main__": llm = ChatSpark() # # 测试 string ok ret = llm.predict("你是谁",stop=['科大讯飞']) print(ret) # 测试 message ok # ret = llm.predict_messages([ChatMessage(role="user",content="你是谁")]) # print(ret) # 测试 invoke ok # ret = llm.invoke("你是谁") # print(ret) # 测试流式 # for i in llm.stream("你是谁"): # print(i)
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。