当前位置:   article > 正文

API调用大模型如此方便,为何企业还要私有化部署大模型?_api调用与私有化部署对比

api调用与私有化部署对比

直接通过网页API调用大模型确实方便快捷,尤其对于那些追求效率、希望快速集成AI功能的项目来说,云端服务是个不错的选择。但为啥有些企业和个人还琢磨着要把这些大模型搬到自家服务器上,搞个本地部署呢?

隐私保护

想象一下,如果你的公司处理的是客户敏感信息或者商业机密,直接把数据上传到云端处理,总有点担心信息外泄吧。本地部署就能让数据在内部流转,相当于给敏感信息加了个保险箱。

从国家层面来说,为什么国外ChatGPT这么厉害了,国家还要花大力气搞国产大模型?

因为大模型技术的飞速发展,会让其成为了重要敏感数据的诱捕器,ChatGPT将用户输入纳入训练数据库,用于改善ChatGPT,就能够利用大模型获得公开渠道覆盖不到的中文语料,掌握我们自己都可能不掌握的“中国知识”。所以必须搞国产大模型,不能通过API调用。

从行业层面说,比如用电行业,你想通过大模型生成一个用电分析报告,直接将生产数据通过API调用的方式访问大模型,一旦中间某个环节被监听或者泄露,那就是非常大的事故。

定制化和控制权

每个企业都有自己的一套流程和偏好,云端模型虽然通用,但可能不够贴身。本地部署就灵活多了,你可以按照自家的需求调整模型,训练它更好地理解行业术语,甚至优化算法来提升特定任务的效率,这样一来,模型就像是为你量身定做的。此外,再结合上一些前端和后端权限控制功能,就像自己做了一套完整的大模型应用。

这一点在toB场景非常常见。一般国企或者政府单位基于大模型做应用,一定是本地私有化部署的,原因有很多,咱就不细说了。

稳定性与响应速度

网络延迟、服务提供商的稳定性都是云端服务绕不开的问题。特别是一遇到高峰期,排队等待响应那就G了。本地部署就能确保服务的稳定性和低延迟,这对于要求即时反馈的场景非常重要。比如智能客服场景,你的QPS上去了,仍采用远程API调用,那服务会不会挂心里一点底都没有。比如你所在的环境可能网络不稳定或者压根儿没网,那也必须要本地部署。

ollama使用

现在本地部署大模型也不是难事。推荐使用开源工具ollama

像启动镜像一样本地下载运行大型语言模型

下载模型

Ollama 支持的模型列表见:https://ollama.com/library

ollama pull llama3
  • 1

启动服务

如果你装好了ollama,启动模型服务只需执行如下命令:

ModelParametersSizeDownload
Llama 38B4.7GBollama run llama3
Llama 370B40GBollama run llama3:70b
Phi-33.8B2.3GBollama run phi3
Mistral7B4.1GBollama run mistral
Neural Chat7B4.1GBollama run neural-chat
Starling7B4.1GBollama run starling-lm
Code Llama7B3.8GBollama run codellama
Llama 2 Uncensored7B3.8GBollama run llama2-uncensored
LLaVA7B4.5GBollama run llava
Gemma2B1.4GBollama run gemma:2b
Gemma7B4.8GBollama run gemma:7b
Solar10.7B6.1GBollama run solar

读者福利:如果大家对大模型感兴趣,这套大模型学习资料一定对你有用

对于0基础小白入门:

如果你是零基础小白,想快速入门大模型是可以考虑的。

一方面是学习时间相对较短,学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

资源分享

图片

大模型AGI学习包

图片

图片

资料目录

  1. 成长路线图&学习规划
  2. 配套视频教程
  3. 实战LLM
  4. 人工智能比赛资料
  5. AI人工智能必读书单
  6. 面试题合集

人工智能\大模型入门学习大礼包》,可以扫描下方二维码免费领取

1.成长路线图&学习规划

要学习一门新的技术,作为新手一定要先学习成长路线图方向不对,努力白费

对于从来没有接触过网络安全的同学,我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线,大家跟着这个大的方向学习准没问题。

图片

2.视频教程

很多朋友都不喜欢晦涩的文字,我也为大家准备了视频教程,其中一共有21个章节,每个章节都是当前板块的精华浓缩

图片

3.LLM

大家最喜欢也是最关心的LLM(大语言模型)

图片

人工智能\大模型入门学习大礼包》,可以扫描下方二维码免费领取

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/笔触狂放9/article/detail/1002391
推荐阅读
相关标签
  

闽ICP备14008679号