当前位置:   article > 正文

星火模型(Spark)的langchain 实现_langchain调用星火

langchain调用星火

星火模型的langchain实现

目前 langchain 已经适配了 星火模型(Spark)
spark langchain url https://github.com/langchain-ai/langchain/blob/master/libs/community/langchain_community/chat_models/sparkllm.py
测试已通过,希望有所帮助。(如果出现bug,请提issue)
使用前请先安装环境:

pip install oneapi2langchain -i https://pypi.org/simple/
  • 1

实现如下: 自行跳转

github_URL

from oneapi2langchain import ChatSpark
from dotenv import load_dotenv  # 加载 APP_ID 等配置
load_dotenv()

if __name__ == "__main__":
  
    llm = ChatSpark()
    # # 测试 string  ok
    ret = llm.predict("你是谁",stop=['科大讯飞'])
    print(ret)
    # 测试 message  ok
    # ret = llm.predict_messages([ChatMessage(role="user",content="你是谁")])
    # print(ret)
    # 测试 invoke  ok
    # ret = llm.invoke("你是谁")
    # print(ret)
    # 测试流式
    # for i in llm.stream("你是谁"):
    #     print(i)

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/weixin_40725706/article/detail/1009412
推荐阅读
相关标签
  

闽ICP备14008679号