热门标签
热门文章
- 1gerrit submit撤回_Gerrit使用篇-提交代码，合并代码
- 2《图解密码技术》笔记_图解密码技术学习笔记
- 3算法体系-02第二 时间复杂分析（插入/冒泡/选择/二分）
- 4GitHub Actions入门教程
- 5基于neo4j的体育运动员问答问答系统_neo4j智慧问答
- 6体验文心一言AI大模型生成农行、苏行和南京银行报告_利用大模型生成报告
- 7Android中免root的hook框架Legend原理解析_simhook模块免root
- 8火狐浏览器firefox检测不到U盾证书
- 9C#程序变量统一管理例子 - 开源研究系列文章
- 10若依 验证码出不来 Fontconfig head is null, check your fonts or fonts configuration
当前位置: article > 正文
大模型推理框架——text-generation-inference
作者：小小林熬夜学编程 | 2024-05-29 15:45:21
赞
踩
text-generation-inference
项目地址：https://github.com/huggingface/text-generation-inference
安装
安装rust
curl --proto '=https' --tlsv1.2 -sSf https://sh.rustup.rs | sh
- 1
安装 Protoc
PROTOC_ZIP=protoc-21.12-linux-x86_64.zip
curl -OL https://github.com/protocolbuffers/protobuf/releases/download/v21.12/$PROTOC_ZIP
- 1
- 2
声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/小小林熬夜学编程/article/detail/642985
推荐阅读
相关标签
