OpenAI ChatGPT 云架构

ChatGPT狂飙160天，世界已经不是之前的样子。

新建了人工智能中文站https://ai.weoknow.com
每天给大家更新可用的国内可用chatGPT资源

---

导读

Azure OpenAI Chat架构的发布， 使得大模型进行yun端部署的过程标准化， 极大地降低了整体架构的部署及应用开发的成本。 下文将对该架构进行详细介绍。系统架构图较大，欢迎收藏在电脑上查看

Azure OpenAI 聊天框架概述

Azure OpenAI Chat参考架构标志着Chat应用程序开发的重大飞跃。

它集成了 Azure Machine Learning 的提示流程、在线端点和应用服务，简化了从用户输入到大型语言模型（LLM）生成响应的过程。该架构是创建、测试和启动有效提示流的强大指南。

开发和部署最佳实践

该框架提供了详细的最佳实践和指南，用于在开发过程中使用诸如 VS Code、Azure Machine Learning 和 CI/CD 流水线等工具。它确保了从初始开发阶段到最终发布聊天应用程序的平稳高效的过程。    

增强监控和诊断

这种架构的一个关键特点是它专注于诊断和监测它概述了配置诊断的方法，以便为所有集成服务启用性能指标和数据漂移的紧密跟踪。这一方面对于随着时间推移保持聊天应用程序的效率和准确性至关重要。

生成 Azure 基于 OpenAI 的聊天架构

要创建这个复杂的架构，将整合几个关键的 Azure 组件，以确保安全、高效和智能的聊天解决方案。这些组件包括：

1.应用程序网关与 Web 应用程序防火墙（WAF）：这为您的聊天应用程序提供了一个安全的入口，确保针对潜在网络威胁采取了强大的安全措施。

2.Private Endpoints for App Service:这些端点增强了您的应用服务的安全性和隐私性，使它们可以在您的 Azure 网络内安全访问。

3.Azure 存储:Azure 存储对于安全高效地存储大量数据至关重要，将成为您的聊天应用程序数据处理需求的支撑。

4.Azure Key Vault:              
Azure 密钥保管库:这个组件对于管理和保护您的聊天应用程序使用的加密密钥和其他机密信息至关重要。

5.与 Azure 机器学习和其他人工智能服务的集成：为了赋予您的聊天机器人先进的人工智能能力，与 Azure Machine Learning 和其他相关的人工智能服务集成是必要的。这将使您的聊天机器人能够提供智能的、上下文感知的回复。

TheTerraform 模块你将使用的是专门设计用于在 Azure OpenAI 上部署私人 ChatBot/ChatGPT 类似解决方案的 LibreChat。该模块简化了整个过程，使您能够以一种连贯的方式配置和部署所有必要的组件。

以下是Terraform 代码示例：

 

provider "azurerm" {                features {}              }              


# Create a resource group              resource "azurerm_resource_group" "rg" {                name     = "rg-openai-chat"                location = "East US"              }              


# Create a virtual network              resource "azurerm_virtual_network" "vnet" {                name                = "vnet-openai-chat"                address_space       = ["10.0.0.0/16"]                location            = azurerm_resource_group.rg.location                resource_group_name = azurerm_resource_group.rg.name              }   

           
           

# Subnet for Application Gateway              resource "azurerm_subnet" "app_gateway_subnet" {                name                 = "subnet-app-gateway"                resource_group_name  = azurerm_resource_group.rg.name                virtual_network_name = azurerm_virtual_network.vnet.name                address_prefixes     = ["10.0.1.0/24"]              }              


# Subnet for App Service integration              resource "azurerm_subnet" "app_service_integration_subnet" {                name                 = "subnet-app-service-integration"                resource_group_name  = azurerm_resource_group.rg.name                virtual_network_name = azurerm_virtual_network.vnet.name                address_prefixes     = ["10.0.2.0/24"]              }              


# Create an Application Gateway with WAF              resource "azurerm_application_gateway" "app_gw" {                # ... configuration for Application Gateway                # This will include setting up the frontend IP configuration, backend pools, listeners, rules, etc.              }              


# Create an Azure App Service Plan              resource "azurerm_app_service_plan" "app_service_plan" {                name                = "asp-openai-chat"                location            = azurerm_resource_group.rg.location                resource_group_name = azurerm_resource_group.rg.name                # ... additional configuration              }              


# Create an Azure App Service              resource "azurerm_app_service" "app_service" {                name                = "app-service-openai-chat"                location            = azurerm_resource_group.rg.location                resource_group_name = azurerm_resource_group.rg.name                app_service_plan_id = azurerm_app_service_plan.app_service_plan.id                # ... additional configuration              }              

             

 

# Create an Azure Storage Account              resource "azurerm_storage_account" "storage_account" {                name                     = "storageaccountopenaichat"                resource_group_name      = azurerm_resource_group.rg.name                location                 = azurerm_resource_group.rg.location                account_tier             = "Standard"                account_replication_type = "LRS"                # ... additional configuration              }              


# Create an Azure Key Vault              resource "azurerm_key_vault" "key_vault" {                name                = "kv-openai-chat"                location            = azurerm_resource_group.rg.location                resource_group_name = azurerm_resource_group.rg.name                # ... additional configuration                # Sku name (e.g., standard, premium)              }              


# ... additional resources like Azure Container Registry, Azure Machine Learning Workspace, etc.

使用 Brainboard 构建您的模块服务目录

简化的模块库

Brainboard 彻底改变了团队管理其内部模块库的方式。通过提供一个创建和共享内部目录的平台，Brainboard 消除了不断重新发明轮子的需要。其用户友好的界面促进了快速采用，提供了一个增强模块在团队内可见性和可访问性的中央托管解决方案。

直观的嵌入式文档

Brainboard 的一个突出特点是其能够无缝集成模块文档。通过直接从模块源代码中提取信息，它为用户呈现了清晰、高效的概述。这个特性不仅提升了用户在各种知识水平上的自主性，还作为一个有效的教育工具，指导用户熟练利用模块。

配置中的增强定制

Brainboard 赋予用户在模块配置方面无与伦比的定制能力。它允许对模块的各个方面进行精确控制，包括特定版本、分支或标签。这种灵活性与可视化工具相结合，有助于标准化模块的创建、使用和配置，确保全面一致的方法。

模块类型的高级集成

Brainboard 的能力在于本地集成各种模块类型 - 私有、公共或社区 - 这使其与众不同。这种深度集成使用户能够更有效地构建和组合模块。Brainboard 的先进系统直观地识别和解释不同模块和标准 Terraform 资源之间的动态，为用户在模块管理过程中提供更全面的控制。

---

ChatGPT狂飙160天，世界已经不是之前的样子。

新建了人工智能中文站https://ai.weoknow.com
每天给大家更新可用的国内可用chatGPT资源