开源模型应用落地-chatglm3-6b-批量推理-入门篇（四）_chatglm 推理批处理

一、前言

     刚开始接触AI时，您可能会感到困惑，因为面对众多开源模型的选择，不知道应该选择哪个模型，也不知道如何调用最基本的模型。但是不用担心，我将陪伴您一起逐步入门，解决这些问题。

     在信息时代，我们可以轻松地通过互联网获取大量的理论知识和概念。然而，仅仅掌握理论知识并不能真正帮助我们成长和进步。实践是将理论知识转化为实际技能和经验的关键。

    本章将学习如何在低成本下，连续批处理提升LLM推理吞吐量，同时减少延迟。

---

二、术语

2.1. 批量推理

    一次加载模型参数，然后使用它们来处理多个输入序列。这可以更有效地使用芯片的内存带宽，从而实现更高的计算利用率、更高的吞吐量和更低的 LLM 推理成本。

---

三、前置条件

3.1. windows or linux操作系统均可

3.2. 下载chatglm3-6b模型

从huggingface下载：https://huggingface.co/THUDM/chatglm3-6b/tree/main

​

从魔搭下载：魔搭社区汇聚各领域最先进的机器学习模型，提供模型探索体验、推理、训练、部署和应用的一站式服务。https://www.modelscope.cn/models/ZhipuAI/chatglm3-6b/fileshttps://www.modelscope.cn/models/ZhipuAI/chatglm3-6b/files​

 3.3. 创建虚拟环境&安装依赖

conda create --name chatglm3 python=3.10
conda activate chatglm3
pip install protobuf transformers==4.39.3 cpm_kernels torch>=2.0 sentencepiece accelerate

---

四、技术实现

4.1. 完整代码

# -*-  coding = utf-8 -*-
from typing import Optional, Union
from transformers import AutoTokenizer, LogitsProcessorList, AutoModelForCausalLM
 
modelPath = "/mnt1/model/chatglm3-6b"
 
def batch(
        prompts: Union[str, list[str]],
        max_length: int = 8192,
        num_beams: int = 1,
        do_sample: bool = True,
        top_p: float = 0.8,
        temperature: float = 0.8,
):
    tokenizer.encode_special_tokens = True
    if isinstance(prompts, str):
        prompts = [prompts]
    batched_inputs = tokenizer(prompts, return_tensors="pt", padding="longest")
    print(batched_inputs)
    batched_inputs = batched_inputs.to(model.device)
 
    gen_kwargs = {
        "max_length": max_length,
        "num_beams": num_beams,
        "do_sample": do_sample,
        "top_p": top_p,
        "temperature": temperature,
    }
    batched_outputs = model.generate(**batched_inputs, **gen_kwargs)
    batched_response = []
    for input_ids, output_ids in zip(batched_inputs.input_ids, batched_outputs):
        decoded_text = tokenizer.decode(output_ids[len(input_ids):])
        batched_response.append(decoded_text.strip())
    return batched_response
 
 
def main(batch_queries):
    gen_kwargs = {
        "max_length": 8192,
        "do_sample": True,
        "top_p": 0.9,
        "temperature": 0.45,
        "num_beams": 1,
    }
    batch_responses = batch( batch_queries, **gen_kwargs)
    return batch_responses
 
def loadTokenizer():
    tokenizer = AutoTokenizer.from_pretrained(modelPath, use_fast=False, trust_remote_code=True)
    return tokenizer
 
 
def loadModel():
    model = AutoModelForCausalLM.from_pretrained(modelPath, device_map="auto", trust_remote_code=True).cuda()
    model = model.eval()
    # print(model)
    return model
 
if __name__ == "__main__":
 
    model = loadModel()
    tokenizer = loadTokenizer()
 
    batch_queries = [
        "<|user|>\n广州有什么特产\n<|assistant|>",
        "<|user|>\n东莞有什么特产\n<|assistant|>",
        "<|user|>\n韶关有什么景点\n<|assistant|>",
        "<|user|>\n深圳有什么景点\n<|assistant|>",
    ]
    batch_responses = main(batch_queries)
    for response in batch_responses:
        print("=" * 10)
        print(response)

调用结果：

通过表格展示模型生成结果：

---

五、附带说明

5.1. 批量推理的输入序列格式

1. "<|user|>\n广州有什么特产\n<|assistant|>"
2. "<|user|>\n东莞有什么特产\n<|assistant|>"
3. "<|user|>\n韶关有什么景点\n<|assistant|>"
4. "<|user|>\n深圳有什么景点\n<|assistant|>"

上述prompts经过tokenizer处理后：

{'input_ids': tensor([[    0, 64790, 64792, 64795, 30910,    13, 32528, 33277, 45645,    13,	64796],
        [    0, 64790, 64792, 64795, 30910,    13, 36705, 33277, 45645,    13,	64796],
        [64790, 64792, 64795, 30910,    13, 57712, 54637, 33277, 35180,    13,	64796],
        [    0, 64790, 64792, 64795, 30910,    13, 32370, 33277, 35180,    13,	64796]]), 
'attention_mask': tensor([[0, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1],
        [0, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1],
        [1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1],
        [0, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1]]), 
'position_ids': tensor([[ 0,  0,  1,  2,  3,  4,  5,  6,  7,  8,  9],
        [ 0,  0,  1,  2,  3,  4,  5,  6,  7,  8,  9],
        [ 0,  1,  2,  3,  4,  5,  6,  7,  8,  9, 10],
        [ 0,  0,  1,  2,  3,  4,  5,  6,  7,  8,  9]])}

5.2. 生成结果多样性

    上面示例生成的结果受到模型参数的影响，可以通过调整temperature值来改变结果的多样性和随机性。较低的temperature值会使生成的结果更加确定和保守，更加倾向于选择高概率的预测。而较高的temperature值会使生成的结果更加多样化和随机，更容易选择低概率的预测。所以，通过调整temperature值，可以控制生成结果的风格和变化程度。