手把手教你用ChatGLM3-6B部署大模型！学不会你扇我！_glm3-6b能否实现垂直大模型

背景

在当今的技术领域，大型语言模型已经成为了人工智能研究的热点之一。这些模型，如OpenAI的GPT系列、阿里巴巴的通义千问、百度的文心一言等，都是通过海量数据训练而成，能够理解和生成自然语言。它们的界面设计简洁直观，使得用户无需深入了解背后的复杂算法，就能轻松地利用这些工具来解答问题、撰写文本、甚至是进行创意写作。

尽管这些大型模型在许多方面都表现出色，但它们在面对某些特定领域的专业性问题时，往往显得力不从心。例如，当需要根据一个需求文档生成精确匹配的测试案例时，这些模型可能无法提供满意的解决方案。

解决思路

然而，通过针对性的训练和微调，我们可以让这些大型模型更好地适应特定的应用场景。自主训练大型模型不仅能够提高模型的适用性，还能够确保模型在特定任务上的表现达到最优。对于那些有资源和技术能力的企业和个人来说，定制化的大型模型能够带来更大的价值。

以ChatGLM3-6B例

为了展示如何部署一个属于自己的大型模型，我将使用清华大学开源的大型模型ChatGLM3-6B作为示例。

ChatGLM3-6B是一个基于Transformer架构的开源模型，它拥有数十亿个参数，能够处理复杂的自然语言处理任务。 通过一系列的步骤，包括环境配置、模型下载、参数调整和接口部署，我们可以将这样一个大型模型集成到自己的应用中，从而实现个性化的人工智能服务。

部署大型模型是一个复杂的过程，它涉及到硬件资源、软件环境、数据准备和模型调优等多个方面。但是，随着技术的进步和开源社区的贡献，这个过程正在变得越来越简化，使得更多的研究者和企业能够轻松地利用这些先进的工具来推动自己的项目前进。通过本文的演示，希望能够为那些对大型模型部署感兴趣的人提供一个实用的入门指南。

一、在阿里云免费领取一个在线开发环境

地址： https://www.aliyun.com

左右滑动查看领取步骤

ChatGLM3-6B获取流程截图

二、在控制台创建实例

✍️建议：

资源规格： ecs.gn7i-c8g1.2xlarge (8 vCPU, 30 GiB, NVIDIA A10 * 1)

镜像： modelscope:1.14.0-pytorch2.1.2-gpu-py310-cu121-ubuntu22.04

左右滑动查看领取步骤

三、启动实例部署开源模型

✍安装虚拟环境： python-m venv myenv

✍启动虚拟环境： source myenv/bin/activate(关闭虚拟环境：deactivate)

✍安装chatglm3源码

源码地址： THUDM/ChatGLM3: ChatGLM3 series: Open Bilingual Chat LLMs | 开源双语对话语言模型 (github.com)

进入虚拟环境： source myenv/bin/activate

克隆： git clone https://github.com/THUDM/ChatGLM3.git

✍安装依赖

先进入ChatGLM3

找到依赖库requirements.txt

注释： #vllm>=0.4.2

✍安装依赖库： pip install -r requirements.txt

pip install protobuf

✍安装model社区： pip install modelscope

✍创建PY文件下载模型

from modelscope import snapshot_download
model_dir = snapshot_download("ZhipuAI/chatglm3-6b", revision = "v1.0.0")
1
2

✍执行： python 1.py

✍创建py文件调用模型

✍执行看效果：

​

如何学习大模型

现在社会上大模型越来越普及了，已经有很多人都想往这里面扎，但是却找不到适合的方法去学习。

作为一名资深码农，初入大模型时也吃了很多亏，踩了无数坑。现在我想把我的经验和知识分享给你们，帮助你们学习AI大模型，能够解决你们学习中的困难。

我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习，等录播视频免费分享出来，需要的小伙伴可以扫取。

一、AGI大模型系统学习路线

很多人学习大模型的时候没有方向，东学一点西学一点，像只无头苍蝇乱撞，我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。

二、AI大模型视频教程

三、AI大模型各大学习书籍

四、AI大模型各大场景实战案例

五、结束语

学习AI大模型是当前科技发展的趋势，它不仅能够为我们提供更多的机会和挑战，还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型，我们可以深入了解深度学习、神经网络等核心概念，并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时，掌握AI大模型还能够为我们的职业发展增添竞争力，成为未来技术领域的领导者。

再者，学习AI大模型也能为我们自己创造更多的价值，提供更多的岗位以及副业创收，让自己的生活更上一层楼。

因此，学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。