当前位置:   article > 正文

开源模型应用落地-qwen模型小试-入门篇(三)_qwen-1_8b-chat 只能在gpu上运行吗

qwen-1_8b-chat 只能在gpu上运行吗

一、前言

    相信您已经学会了如何在Windows环境下以最低成本、无需GPU的情况下运行qwen大模型。现在,让我们进一步探索如何在Linux环境下,并且拥有GPU的情况下运行qwen大模型,以提升性能和效率。


二、术语

    2.1. CentOS

        CentOS是一种基于Linux的自由开源操作系统。它是从Red Hat Enterprise Linux(RHEL)衍生出来的,因此与RHEL具有高度的兼容性。CentOS的目标是提供一个稳定、可靠且免费的企业级操作系统,适用于服务器和桌面环境。

    2.2. GPU

        是Graphics Processing Unit(图形处理单元)的缩写。它是一种专门设计用于处理图形和图像计算的处理器。与传统的中央处理器(CPU)相比,GPU具有更高的并行计算能力,适用于处理大规模数据并进行复杂的计算任务。


三、技术实现

3.1. 创建虚拟环境

conda create --name ai python=3.10

3.2. 切换虚拟环境

conda activate ai

3.3. 安装第三方软件包

pip install -r requirements.txt
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/从前慢现在也慢/article/detail/175433
推荐阅读
  

闽ICP备14008679号