当前位置:   article > 正文

安装 NVIDIA Chat with RTX_chat with rtx navidia installer failed

chat with rtx navidia installer failed

0. NVIDIA Chat with RTX 是什么?

Chat With RTX 是一款演示应用程序,可让您个性化连接到您自己的内容(文档、笔记、视频或其他数据)的 GPT 大语言模型 (LLM)。利用检索增强生成 (RAG)、TensorRT-LLM 和 RTX 加速,您可以查询自定义聊天机器人以快速获得上下文相关的答案。由于它全部在您的 Windows RTX PC 或工作站上本地运行,因此您将获得快速、安全的结果。

1. 安装 NVIDIA Chat with RTX

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

Note:安装目录里面不要有空格

在这里插入图片描述
在这里插入图片描述

2. 使用 NVIDIA Chat with RTX

从启动脚本中可知,NVIDIA Chat with RTX 支持2种模型,

  • “Mistral 7B int4”
  • “Llama 2 13B int4”
    在这里插入图片描述

NVIDIA Chat with RTX 启动后,后自动打开浏览器,我们就可以使用了,
在这里插入图片描述
问一个问题试一试,

在这里插入图片描述

3. NVIDIA Chat with RTX 下载地址

访问 https://www.nvidia.com/en-us/ai-on-rtx/chat-with-rtx-generative-ai/ 进行下载。

完结!

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/不正经/article/detail/169641
推荐阅读
相关标签
  

闽ICP备14008679号