赞
踩
近日,自ChatGLM大幅降低调用API的费用后,多家厂商迅速跟进,比如阿里的通义千问等。据我所知,在国内的大语言模型中,百度的文心一言第一个给出了免费的API调用,随后是讯飞星火。是烧钱圈地,还是饥饿营销,个中商业缘由不多加揣测,这里只是给出一个使用教程。
热知识,截至目前,谷歌的
Gemini
也是免费调用API,且比文心一言自研的大模型要早,但因为联网的原因,这里不作教学
有同学要问了,我们都可以使用界面免费进行问答了,又不做大模型相关的东西,为什么还需要API呢?为了简单。简单在于不需要上传文件,不需要反复复制文件的内容到对话框,也不会受限于文件的大小,可以直接读取本地文件……还有很多应用,像 gpt_academic
就集成了不少。
关于
gpt_academic
在windows
下的部署,详见 windows配置gpt_academic流程(仅讯飞星火API)
文心一言算是国内第一个在 ChatGPT
出来后不久就迅速推出的大语言模型了。2024年5曰21日,文心一言宣布2个主力模型 ERINE Speed
和 ERINE Lite
全面免费。
因为第一个是基于“百度智能云千帆大模型平台”的调用,这里不展开说明了(主要是还没打算在上面应用)。只说第2个调用:“基于安全认证AK和SK鉴权调用API流程”。
进入 百度智能云控制台-在线服务,需要首先登录百度账号
可以看到在线服务中有一些是免费使用的服务,如:
Yi-34B-Chat
: 由零一万物开发并开源的双语大语言模型,使用4K序列长度进行训练,在推理期间可扩展到32KFuyu-8B
: 由Adept AI训练的多模态图像理解模型,可以支持多样的图像分辨率,回答图形图表有关问题Prompt模板
: 获取prompt工程里面的模板的内容还有一些可以免费开通的,即上述2个主力模型:
ERINE Speed-8K
: 上下文长度8KERINE Speed-128K
: 上下文长度128KERINE Speed-AppBuilder
: 千帆AppBuilder专用版模型,针对企业级大模型应用进行了专门的指令调优,在问答场景、智能体相关场景可以获得同等规模模型下更好的效果,需配合相关产品使用。ERINE Lite-8K-0308
:百度自研的轻量级大语言模型,兼顾优异的模型效果与推理性能,适合低算力AI加速卡推理使用ERINE Lite-8K-0922
: 同上ERINE Tiny-8K
: 百度自研的超高性能大语言模型,部署与精调成本在文心系列模型中最低下面的在点击 免费开通
后都需要实名认证,才能提交订单。
(害怕信息泄露,quit了,虽然是大公司)
详细参考:基于安全认证AK和SK鉴权调用API流程
作为我在上述参考文章中举例的API调用,体验感还是挺不错的,就是分析一个仓库的代码时,很快就把免费额度的Token用光了(当时还不是免费)。2024年5曰23日,讯飞星火宣布“讯飞星火Lite API永久免费开放”。以下是 Spark Lite
的相关信息。
名称 | 参数级别 | 上下文长度 | Function Calling | System | 联网搜索 | 天气查询 | 适用场景 |
---|---|---|---|---|---|---|---|
Spark Lite | 百亿 | 8K | × | × | √ | × | 低算力推理 模型精调 |
以下是 Spark Lite
的API获取教程。
Spark Lite
API 获取教程Spark Lite
前往认证
认证即可(实际上,我到3这一步就没走了,毕竟害怕信息泄露,虽然是大公司)
如今多个大模型的API调用价格大幅度降低,免费的也省不了多少,而且还需要兼顾性能,所以怎么用,用哪个就见仁见智了。其实这篇文章不算特别完整,认证工作、验证等都没有完成,因为我目前并没有这个需求,后续有需求了我再回来补充。
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。