热门标签
热门文章
- 1web漏洞-渗透测试-数据包参数类型-网页请求方法-数据包内容-字符型、JSON型参数注入测试-POST数据注入测试-COOKIE数据注入测试-HTTP头数据注入测试-附SQLi-LABS靶场题解_渗透原码
- 2adb远程连接手机，提示异常拒绝处理办法_甲壳虫adb连接被拒绝5555
- 3电脑快速切换窗口_提升工作效率的十大电脑快捷键，你爱学不学
- 4以栅格为中心的自动驾驶交通场景感知综述_ogm视觉
- 5经典的7种排序算法 原理C++实现_c++排序大小
- 6关于基础组件的开发与基础架构的搭建_基础组件层
- 7鸿蒙通过键值型数据库实现数据持久化_鸿蒙开发 键值对数据持久化
- 8微信小程序获取openid、sessionKey及授权获取手机号码等信息_微信登录前后端根据openid 手机号
- 9Android程序一个因requestPermission导致不停onResume(不停打印Timeline: Activity_launch_request time)的问题_华为手机onresume()方法中调用 requestpermissions,无限循环
- 10荣耀V9系统升级：新增3D创意拍功能
当前位置: article > 正文
《英伟达-本地AI》--NVIDIA Chat with RTX-本机部署_chat with rtx 部署 中文
作者：很楠不爱3 | 2024-03-15 06:59:33
赞
踩
chat with rtx 部署 中文
阿丹：
突然发现公司给配置的电脑是NVIDIA RTX 4060的显卡，这不搞一搞本地部署的大模型玩一玩？？？
从0-》1记录一下本地部署的全过程。
本地模型下载地址：
Build a Custom LLM with Chat With RTX | NVIDIA
GitHub上的开发者下载地址：
下载的文件有32个G！！
开始安装：
为了方便观看我直接放翻译的版本：（跟着红色箭头就可以了）
安装许可：
这个应该是选择安装的功能：
选择安装的位置：
开始安装：（这个下载的过程需要使用科学的上网环境！）
然后开始漫长的等待安装。。。。。。
点击完成：
双击第一次会开始下载数据也是一些依赖
这些依赖下载完毕就欧克了。
会自己将网页打开。
但是在本地访问的时候出现了一些问题。
要注意的是。在本地运行的时候需要开启科学的上网环境。
下个文章我会重点解决和汇总一下我在安装的时候出现的问题。集中一起解决。
部署问题解决文章：
《英伟达-本地AI》--NVIDIA Chat with RTX--部署问题：ValueError: When localhost is not accessible-CSDN博客
推荐阅读
相关标签
