大模型为什么能把业务系统拉通?Function Calling全面解析_大模型function call 返回结果如何使用结合prompt 处理

作者：爱喝兽奶帝天荒 | 2024-08-01 00:02:00

踩

大模型function call 返回结果如何使用结合prompt 处理

随着人工智能技术的快速发展，ChatGPT 不再仅仅是一个回答问题的机器人，它已经进化为可以执行复杂任务的强大工具。这一切的背后，离不开它的 Function Calling（函数调用）机制。本文将为你详细解析这一扩展功能，揭示 ChatGPT 如何在对话过程中调用预定义函数，完成特定任务，提供实时、个性化的服务。

一、背景与概念

ChatGPT 的 Function Calling 机制允许模型调用外部函数获取信息或执行操作。这种机制不仅增强了模型的功能，使其能够处理更复杂的任务，还大大扩展了 AI 在实际应用中的能力范围。不再局限于静态知识库的回答，ChatGPT 通过 Function Calling 可以动态获取最新信息，执行特定操作，极大提高了实用性和灵活性。

二、主要组件

Function Calling 机制主要由以下几个关键组件构成：

函数定义：预先定义可调用的函数，包括名称、参数类型和返回值类型等。
函数调用请求：用户或系统发出的调用请求，包含函数名称及所需参数。
函数执行器：实际执行函数的组件，可能是外部的 API 或本地逻辑处理器。
结果返回：函数执行完毕后，返回结果给 ChatGPT，继续对话。

三、 Function Calling 机制详细解析

一个应用如何与OpenAI的API进行交互，通过发送函数定义，接收参数，调用函数，再将结果与其他信息结合生成最终的回答，并返回给用户。下面是每一步的详细说明：

一个应用如何与 OpenAI 的 API 进行交互？以下是详细的步骤说明：

传入函数定义：

应用服务将函数定义传递给 OpenAI。

返回调用参数：

OpenAI 返回调用函数所需的参数。

调用函数：

应用服务使用这些参数调用相应的函数。

传入结果：

函数调用结果被传递回 OpenAI。

组合回答：

OpenAI 将函数结果与其他相关信息结合，生成完整的回答。

返回答案：

最终回答通过应用服务返回给用户。

四. 安全与控制

为了确保安全性和控制，函数调用机制通常包括以下措施：

权限控制：仅允许调用经过安全审查的函数。
输入验证：验证输入参数的合法性，防止恶意输入。
错误处理：处理函数调用过程中可能出现的错误，如网络错误、参数错误等。

五. 示例应用

这种机制在许多应用场景中非常有用，例如：

信息查询：调用外部 API 获取天气、新闻、股票价格等实时信息。
操作执行：调用函数执行系统操作，如发送邮件、创建日历事件等。
数据处理：调用数据处理函数，如数据分析、图表生成等。

六、案例实现

1、调用本地函数计算一个数学表达式的值

`import openai``import os``from math import *``from icecream import ic``import json``   ``# 加载 .env 文件``from dotenv import load_dotenv, find_dotenv``_ = load_dotenv(find_dotenv())``   ``# 从环境变量中获得你的 OpenAI Key``openai.api_key = os.getenv('OPENAI_API_KEY')``openai.api_base = os.getenv('OPENAI_API_URL')``model = os.getenv('MODEL')``   ``# 基于 prompt 生成文本``def get_completion3(messages, model=model):`    `response = openai.ChatCompletion.create(`     `# 注意，以前的 openai.ChatCompletion 要换成 openai.chat.completions`        `model=model,`        `messages=messages,`        `temperature=0,  # 模型输出的随机性，0 表示随机性最小`        `tools=[{  # 用 JSON 描述函数。可以定义多个。由大模型决定调用谁`            `"type": "function",`            `"function": {`                `"name": "sum",`                `"description": "计算一组数的加和",`                `"parameters": {`                    `"type": "object",`                    `"properties": {`                        `"numbers": {`                            `"type": "array",`                            `"items": {`                                `"type": "number"`                            `}`                        `}`                    `}`                `}`            `}`        `}],`    `)`    `return response.choices[0].message``   ``def test_promopt():`    `prompt = "Tell me the sum of 1, 2, 3, 4, 5, 6, 7, 8, 9, 10."`    `#prompt = "桌上有 2 个苹果，四个桃子和 3 本书，一共有几个水果？"`    `#prompt = "1+2+3...+99+100"``   `    `messages = [`        `{"role": "system", "content": "你是一个小学数学老师，你要教学生加法"},`        `{"role": "user", "content": prompt}`    `]`    `response = get_completion3(messages)``   `    `# 把大模型的回复加入到对话历史中`    `if (response.content is None):  # 解决 OpenAI 的一个 400 bug`        `response.content = "null"`    `messages.append(response)``   ``   `    `# 如果返回的是函数调用结果，则打印出来`    `if (response.tool_calls is not None):`        `# 是否要调用 sum`        `tool_call = response.tool_calls[0]`        `if (tool_call.function.name == "sum"):`            `# 调用 sum`            `args = json.loads(tool_call.function.arguments)`            `result = sum(args["numbers"])``   `            `# 把函数调用结果加入到对话历史中`            `messages.append(`                `{`                    `"tool_call_id": tool_call.id,  # 用于标识函数调用的 ID`                    `"role": "tool",`                    `"name": "sum",`                    `"content": str(result)  # 数值result 必须转成字符串`                `}`            `)``   `            `# 再次调用大模型`            `ic("=====最终回复=====")`            `ic(get_completion3(messages).content)``   ``   ``if __name__ == '__main__':`   `test_promopt()`    
1

输出

ic| '=====最终回复====='``ic| get_completion3(messages).content: 'The sum of 1, 2, 3, 4, 5, 6, 7, 8, 9, 10 is 55.'
1

2、通过代码套代码实现可以算任意数学表达式需求

`import openai``import os``from math import *``from icecream import ic``import json``from math import *``   ``# 加载 .env 文件``from dotenv import load_dotenv, find_dotenv``_ = load_dotenv(find_dotenv())``   ``# 从环境变量中获得你的 OpenAI Key``openai.api_key = os.getenv('OPENAI_API_KEY')``openai.api_base = os.getenv('OPENAI_API_URL')``model = os.getenv('MODEL')``   ``# 基于 prompt 生成文本``def get_completion(messages, model=model):`    `response = openai.ChatCompletion.create(`     `# 注意，以前的 openai.ChatCompletion 要换成 openai.chat.completions`        `model=model,`        `messages=messages,`        `temperature=0,  # 模型输出的随机性，0 表示随机性最小`        `tools=[{`            `"type": "function",`            `"function": {`                `"name": "calculate",`                `"description": "计算一个数学表达式的值",`                `"parameters": {`                    `"type": "object",`                    `"properties": {`                        `"expression": {`                            `"type": "string",`                            `"description": "a mathematical expression in python grammar.",`                        `}`                    `}`                `}`            `}`        `}],`    `)`    `return response.choices[0].message``   ``def test_promopt():`    `#prompt = "从1加到10"`    `prompt = "3的平方根乘以2再开平方"``   `    `messages = [`        `{"role": "system", "content": "你是一个数学家，你可以计算任何算式。"},`        `{"role": "user", "content": prompt}`    `]`    `response = get_completion(messages)`    `if (response.content is None):  # 解决 OpenAI 的一个 400 bug`        `response.content = "null"`    `messages.append(response)  # 把大模型的回复加入到对话中`    `ic("=====GPT回复=====")`    `ic(response)``   `    `# 如果返回的是函数调用结果，则打印出来`    `if (response.tool_calls is not None):`        `# 是否要调用 sum`        `tool_call = response.tool_calls[0]`        `if (tool_call.function.name == "calculate"):`            `# 调用 calculate`            `args = json.loads(tool_call.function.arguments)`            `result = eval(args["expression"])`            `ic("=====函数返回=====")`            `ic(result)``   `            `# 把函数调用结果加入到对话历史中`            `messages.append(`                `{`                    `"tool_call_id": tool_call.id,  # 用于标识函数调用的 ID`                    `"role": "tool",`                    `"name": "calculate",`                    `"content": str(result)  # 数值result 必须转成字符串`                `}`            `)``   `            `# 再次调用大模型`            `ic("=====最终回复=====")`            `ic(get_completion(messages).content)``   ``   ``if __name__ == '__main__':`   `test_promopt()`    
1

输出

ic| '=====GPT回复====='``ic| response: <OpenAIObject at 0x1a97b6d3480> JSON: {`                `"role": "assistant",`                `"content": "null",`                `"tool_calls": [`                  `{`                    `"id": "call_jSVjTMqMIMUHYCpDisvpYInp",`                    `"type": "function",`                    `"function": {`                      `"name": "calculate",`                      `"arguments": "{\"expression\":\"((3**0.5)*2)**0.5\"}"`                    `}`                  `}`                `]`              `}``ic| '=====函数返回====='``ic| result: 1.8612097182041991``ic| '=====最终回复====='``ic| get_completion(messages).content: '3的平方根乘以2再开平方的结果约为1.8612。'
1

3、从一段文字中抽取联系人姓名、地址和电话，用 Function Calling 获取 JSON 结构轻松解决，在没有大模型之前非常难解决的问题

`import openai``import os``from math import *``from icecream import ic``import json``from math import *``import requests``import logging``# 设置日志记录配置``logging.basicConfig(level=logging.INFO, format='%(asctime)s - %(levelname)s - %(message)s')``   ``# 加载 .env 文件``from dotenv import load_dotenv, find_dotenv``_ = load_dotenv(find_dotenv())``   ``# 从环境变量中获得你的 OpenAI Key``openai.api_key = os.getenv('OPENAI_API_KEY')``openai.api_base = os.getenv('OPENAI_API_URL')``model = os.getenv('MODEL')``amap_key = os.getenv('GAODE_MAP_API_KEY')``   ``def get_completion(messages, model=model):`    `response = openai.ChatCompletion.create(`        `model=model,`        `messages=messages,`        `temperature=0,  # 模型输出的随机性，0 表示随机性最小`        `tools=[{`            `"type": "function",`            `"function": {`                `"name": "add_contact",`                `"description": "添加联系人",`                `"parameters": {`                    `"type": "object",`                    `"properties": {`                        `"name": {`                            `"type": "string",`                            `"description": "联系人姓名"`                        `},`                        `"address": {`                            `"type": "string",`                            `"description": "联系人地址"`                        `},`                        `"tel": {`                            `"type": "string",`                            `"description": "联系人电话"`                        `},`                    `}`                `}`            `}`        `}],`    `)`    `return response.choices[0].message``   ``   ``   ``   ``def test_promopt():`    `prompt = "帮我寄给星城老谭，地址是湖南省长沙市岳麓区湘江壹号8楼，电话1887486XXXX。"`    `messages = [`        `{"role": "system", "content": "你是一个联系人录入员。"},`        `{"role": "user", "content": prompt}`    `]`    `response = get_completion(messages)`    `logging.info("====GPT回复====")`    `logging.info(response)`    `args = json.loads(response.tool_calls[0].function.arguments)`    `logging.info("====函数参数====")`    `logging.info(args)``   ``if __name__ == '__main__':`   `test_promopt()`    
1

输出

2024-06-05 13:31:30,121 - INFO - ====GPT回复====``2024-06-05 13:31:30,124 - INFO - {`  `"role": "assistant",`  `"content": null,`  `"tool_calls": [`    `{`      `"id": "call_QEnFRbZRBs2Eww4YbUxP7oKv",`      `"type": "function",`      `"function": {`        `"name": "add_contact",`        `"arguments": "{\"name\":\"\u661f\u57ce\u8001\u8c2d\",\"address\":\"\u6e56\u5357\u7701\u957f\u6c99\u5e02\u5cb3\u9e93\u533a\u6e58\u6c5f\u58f9\u53f78\u697c\",\"tel\":\"18874868888\"}"`      `}`    `}`  `]``}``2024-06-05 13:31:30,124 - INFO - ====函数参数====``2024-06-05 13:31:30,125 - INFO - {'name': '星城老谭', 'address': '湖南省长沙市岳麓区湘江壹号8楼', 'tel': '1887486XXXX'}
1

七、总结

ChatGPT 的 Function Calling 机制极大地扩展了其功能，使其能够在对话中动态调用外部函数，提供实时、个性化和互动的服务。这一机制不仅提升了用户体验，也为开发者提供了强大的工具，帮助他们构建更智能、更强大的对话系统和应用。理解并善用这一机制，能让你在 AI 应用开发中占据领先地位。

通过这篇文章，希望你对 ChatGPT 的 Function Calling 机制有了更深入的了解。未来，随着这一技术的不断发展，我们可以期待更多令人惊喜的应用场景。

随着大模型的持续爆火，各行各业都在开发搭建属于自己企业的私有化大模型，那么势必会需要大量大模型人才，同时也会带来大批量的岗位？“雷军曾说过：站在风口，猪都能飞起来”可以说现在大模型就是当下风口，是一个可以改变自身的机会，就看我们能不能抓住了。

那么，我们该如何学习大模型？

作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。至于能学习到多少就看你的学习毅力和能力了。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

一、大模型全套的学习路线

学习大型人工智能模型，如GPT-3、BERT或任何其他先进的神经网络模型，需要系统的方法和持续的努力。既然要系统的学习大模型，那么学习路线是必不可少的，下面的这份路线能帮助你快速梳理知识，形成自己的体系。

L1级别:AI大模型时代的华丽登场

L2级别：AI大模型API应用开发工程

L3级别：大模型应用架构进阶实践

L4级别：大模型微调与私有化部署

一般掌握到第四个级别，市场上大多数岗位都是可以胜任，但要还不是天花板，天花板级别要求更加严格，对于算法和实战是非常苛刻的。建议普通人掌握到L4级别即可。