赞
踩
最近就写点LLM入门的吧 =。=
本篇会介绍星火大模型API简单的调用。适合没有魔法的同学。
新用户注册会有免费的200w额度调用。够尝尝鲜。
首先打开官网, 先去领取免费额度,如下图所示:
按照自身条件领取或采购。点击免费试用后,
需要新建一个应用,这里随便取名字后,直接下单就行。
然后进入控制台,点击大模型V3.5
右上角可以看到你的参数,按需保存和调用。
然后打开你的IDE,控制台中输入以下命令:
pip install --upgrade spark_ai_python
安装好后,输入以下代码:
from sparkai.llm.llm import ChatSparkLLM, ChunkPrintHandler from sparkai.core.messages import ChatMessage #星火认知大模型v3.5的URL值,其他版本大模型URL值请前往文档(https://www.xfyun.cn/doc/spark/Web.html)查看 SPARKAI_URL = 'wss://spark-api.xf-yun.com/v3.5/chat' #星火认知大模型调用秘钥信息,请前往讯飞开放平台控制台(https://console.xfyun.cn/services/bm35)查看 SPARKAI_APP_ID = '' SPARKAI_API_SECRET = '' SPARKAI_API_KEY = '' #星火认知大模型v3.5的domain值,其他版本大模型domain值请前往文档(https://www.xfyun.cn/doc/spark/Web.html)查看 SPARKAI_DOMAIN = 'generalv3.5' if __name__ == '__main__': spark = ChatSparkLLM( spark_api_url=SPARKAI_URL, spark_app_id=SPARKAI_APP_ID, spark_api_key=SPARKAI_API_KEY, spark_api_secret=SPARKAI_API_SECRET, spark_llm_domain=SPARKAI_DOMAIN, streaming=False, ) messages = [ChatMessage( role="user", content='你好' )] handler = ChunkPrintHandler() a = spark.generate([messages], callbacks=[handler]) print(a)
以上就是简单的入门,后续会继续更新
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。