【AI大模型应用开发】Moonshot API 入门，完全平替 OpenAI API ？

大家好，我是 同学小张，持续学习C++进阶知识和AI大模型应用实战案例，持续分享，欢迎大家点赞+关注，共同学习和进步。

---

月之暗面(moonshot)最近很火呀，本文我们紧跟一下实事，看下Moonshot AI的API调用，以及在LangChain中如何使用。

0. 前期准备

官网，注册账号，登录，申请API KEY

申请API KEY：https://platform.moonshot.cn/console/api-keys

申请的Key是有一点免费额度的。又能白嫖了，真开心。

1. 基本使用

官方文档：https://platform.moonshot.cn/docs/api/chat#%E5%9F%BA%E6%9C%AC%E4%BF%A1%E6%81%AF

使用 Moonshot AI API进行简单的对话，代码如下：

from openai import OpenAI
 
client = OpenAI(
    api_key = "$MOONSHOT_API_KEY",
    base_url = "https://api.moonshot.cn/v1",
)
 
completion = client.chat.completions.create(
    model = "moonshot-v1-8k",
    messages = [
        {"role": "system", "content": "你是 Kimi，由 Moonshot AI 提供的人工智能助手，你更擅长中文和英文的对话。你会为用户提供安全，有帮助，准确的回答。同时，你会拒绝一切涉及恐怖主义，种族歧视，黄色暴力等问题的回答。Moonshot AI 为专有名词，不可翻译成其他语言。"},
        {"role": "user", "content": "你好，我叫李雷，1+1等于多少？"}
    ],
    temperature = 0.3,
)
 
print(completion.choices[0].message)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17

可以看到，其接口的使用形式完全兼容OpenAI，甚至可以当作就是用的OpenAI的接口，只是将api_key、base_url、model三个值换成了Moonshot的。

2. 工具使用

工具的使用方式，示例代码如下，也与OpenAI的接口完全兼容。

import os
moonshot_api_key = os.getenv('MOONSHOT_API_KEY') 
moonshot_base_url = os.getenv('MOONSHOT_BASE_URL') 
moonshot_model = "moonshot-v1-8k"

from openai import OpenAI
 
client = OpenAI(
    api_key = moonshot_api_key,
    base_url = moonshot_base_url,
)
 
completion = client.chat.completions.create(
    model = moonshot_model,
    messages = [
        {"role": "system", "content": "你是 Kimi，由 Moonshot AI 提供的人工智能助手，你更擅长中文和英文的对话。你会为用户提供安全，有帮助，准确的回答。同时，你会拒绝一切涉及恐怖主义，种族歧视，黄色暴力等问题的回答。Moonshot AI 为专有名词，不可翻译成其他语言。"},
        {"role": "user", "content": "编程判断 3214567 是否是素数。"}
    ],
    tools = [{
        "type": "function",
        "function": {
            "name": "CodeRunner",
            "description": "代码执行器，支持运行 python 和 javascript 代码",
            "parameters": {
                "properties": {
                    "language": {
                        "type": "string",
                        "enum": ["python", "javascript"]
                    },
                    "code": {
                        "type": "string",
                        "description": "代码写在这里"
                    }
                },
            "type": "object"
            }
        }
    }],
    temperature = 0.3,
)
 
print(completion.choices[0].message)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42

以上示例代码的运行结果：

3. LangChain中使用

LangChain中，有两种使用方式。

3.1 使用 MoonshotChat

LangChain对Moonshot模型进行了单独的封装，使用方式如下：

from langchain_community.chat_models.moonshot import MoonshotChat
model = MoonshotChat(api_key=moonshot_api_key, base_url=moonshot_base_url, model="moonshot-v1-128k")
1
2

3.2 使用 ChatOpenAI

在1、2节中，我们看到，Moonshot的API接口与OpenAI的完全兼容，因此，在LangChain中我们也可以使用ChatOpenAI来调用Moonshot AI，使用方式如下：

from langchain_openai.chat_models import ChatOpenAI
model = ChatOpenAI(api_key=moonshot_api_key, base_url=moonshot_base_url, model=moonshot_model, temperature=0)
1
2

这里只展示使用方法，具体的使用，在下面一起介绍。

4. LangChain中使用 + 使用工具

这里我们使用 【AI Agent系列】【LangGraph】2. 再进阶：给你的LangGraph加入循环逻辑（Cycles） 这篇文章中的代码，进行修改。

为什么用这个代码？因为遇到了坑，刚好给大家避坑…

从第3节中，我们得到了Moonshot的model，那我们就把下面红框中的代码替换掉就好了。

是不是觉得很可行？理论上是可以的。

但是实操过程中，发现，大模型根本识别不了tools…无论如何都识别不了。

如何解决呢？我找到了一种解决办法：

# from langchain.tools.render import format_tool_to_openai_function
# functions = [format_tool_to_openai_function(t) for t in tools]
# model = model.bind_functions(functions)

# 改为：

model = model.bind_tools(tools=tools)
1
2
3
4
5
6
7

修改后，运行结果如下：

可以看到，成功识别到了tools。

如果觉得本文对你有帮助，麻烦点个赞和关注呗 ~~~

---

• 大家好，我是 同学小张，持续学习C++进阶知识和AI大模型应用实战案例
• 欢迎 点赞 + 关注
  声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/我家小花儿/article/detail/752703