生成式 AI — LLMOps 架构模式：在企业中部署大型语言模型 (LLM)

在企业中部署大型语言模型 (LLM)

最近 Open AI 宣布正在考虑推出人工智能应用程序商店（链接），这一消息非常有趣。预计谷歌、AWS、Hugging Face 等其他主要参与者也会效仿。虽然动机很明确，即成为生成式人工智能（GenAI）/大型语言模型（LLM）采用的首选平台；平台上发布的企业应用程序还存在掩盖底层平台的风险。

AI 应用商店是否会像 Apple App Store 对于 iPhone/移动设备那样改变游戏规则还有待观察——有趣的时代即将到来！

这也让我思考当今企业的法学硕士部署选项是什么。我能想到至少4种部署架构：

• 黑盒 LLM API
• LLM App Store 中的企业应用程序
• 企业 LLMOps — LLM 微调
• 多代理LLM编排
  
  一些观察结果。4 种部署模式：

1. 黑盒 LLM API

这是经典的 ChatGPT [1] 示例，我们可以通过黑盒访问 LLM API/UI。类似的 LLM API 也可用于其他自然语言处理 (NLP) 核心任务，例如知识检索、总结、自动更正、翻译、自然语言生成 (NLG)。

提示是这里的主要交互机制，我们仍在努力完善我们的提示工程技能 -