赞
踩
▼最近直播超级多,预约保你有收获
今晚直播:《基于从原理到实现教你做出一个 Code Interpreter》
—1—
怎么才能动手做出一个 Code Interpreter ?
Code Interpreter 本质是一个 AI Agent,准备的说是 LLM Copilot Agent。它的核心能力是通过运行代码的方式完成用户的多模态 Prompt 请求。因此它有以下几个子能力构成。
第一、对用户输入的 Prompt 提示词进行规划拆解,并生成对应的可执行 Pyhton 代码;
第二、提供了对 Python 代码可以执行的沙箱 SanbBox 环境;
第三、对 Python 代码进行执行,并对代码执行异常进行处理;
第四、通过引入 Python 的语音库、图像库等,实现了多模态的支持。
需要重点强调的一点是,Code Interpreter 的推理引擎并不是 GPT-4,而是gpt-4-code-interpreter,这个大模型推理引擎是基于 GPT-4 通过大量 Python 代码微调(Fine-tuning)出来的新模型,此模型更擅长 Python 代码的生成。
那么怎么才能实现一个 Code Interpreter 呢?主要有以下几个核心步骤:
第一、架构设计,采用 LLM + Planning + Memory + Use Tools 的组合 Copilot Agent 架构设计,其中 LLM 选用 GPT 4 Turbo。
第二、支持 Python 代码运行,因此 Python 代码执行器采用本地的 iPython 运行环境或者云端的 CodeBox。
第三、Copilot Agent 的 Agent 框架,我们采用 LangChain 最新的 OpenAIFunctionAgent 框架。
第四、Planning 规划模块,我们采用类似人类对复杂问题思考拆解的 ReAct 模式(Thought-Aciton-Observation 模式)。
第五、Memory 记忆模块采用 Milvus 向量数据库来存储长期记忆数据,短期记忆数据我们直接存储在 Code Interpreter 内存里。
更详细的架构设计细节和代码实现,为了更充分给同学们讲解,今晚我会会开一场直播详细来剖析,请同学点击免费预约。
总之,掌握好 Coder Interpreter 的技术架构和落地实现,对于 IT 人来说是一项非常重要的技能,它可以让您的 LLM 业务研发更高效和创新。
—2—
超干货 Code Interpreter 技术实战直播
为了帮助同学们掌握好 Code Interpreter 技术架构和落地实现细节,今晚20点,我会开一场直播和同学们深度聊聊:
第一、Code Interpreter 应用场景解析
第二、Code Interpreter 技术架构深度剖析
第三、基于 LangChain 实现 Code Interpreter
第四、Code Interpreter 架构实践中的难点及解决方案
请同学点击下方按钮预约直播,咱们今晚20点不见不散哦~~
近期直播:《基于从原理到实现教你做出一个 Code Interpreter》
END
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。