当前位置:   article > 正文

五一 Llama 3 超级课堂 | 第一节 本地Web Demo部署 实践笔记

五一 Llama 3 超级课堂 | 第一节 本地Web Demo部署 实践笔记

课程文档:Llama3-Tutorial/docs/hello_world.md at main · SmartFlowAI/Llama3-Tutorial · GitHub

前置工作

1.配置 VSCode 远程连接开发机

  • 使用ssh插件链接到开发机ssh
  •  将ssh 密钥添加到 InternStudio中,后续进入免登录 

2.进行端口映射

在开发机控制台中点击自定义服务,复制命令粘贴到本机的 powershell 中

本地 Web Demo 部署

1.环境配置

2.模型下载

  • 安装 git-lfs 依赖
  • 使用开发机软链接 InternStudio 中的模型

3.Web Demo 部署

  • 下载 Llama3-Tutorial

  • 安装 XTuner 

  • 运行  Tutorial 中 写好的web_demo.py

  • 浏览器打开,与llama3对话

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/我家小花儿/article/detail/648653
推荐阅读
相关标签
  

闽ICP备14008679号