AI大模型应用落地：AI+任何行业都是王炸_顺丰大模型

AI大模型+物流：顺丰案例分享：

顺丰集团作为物流行业的领军企业，如何通过新质生产力的注入，重塑科技驱动的物流服务。

“天网”航空资源和“地网”地面运输网络一直是顺丰的两大优势，而多年来，通过在技术方面的持续投入，顺丰还打造了连接天地的物流网络智能决策体系，即——信息网。基于底层数据中台能力和对数据价值的挖掘，能够实现资源的智能化精准调度和运营异常的快速响应，不但提升整个物流效率，同时还可以进行经营成本分析与降本机会挖掘。

耿艳坤强调，只有在具体的业务场景得以落地，才能体现科技的价值。如果无法挖掘场景价值，脱离场景、脱离降本增收，技术的价值都会打折扣的。

为此，在夯实的数据基础上，近年来顺丰也在不断探索人工智能、自动化和数字孪生等技术在物流场景的全面应用，用以提升服务效率和客户体验。从智能呼叫与客户服务洞察、慧眼神瞳、智慧安检等让计算机“听懂”和“看懂”物流的场景，到现如今，顺丰正在全力打造更懂物流知识的大模型，将大语言模型全面应用到各个业务场景中去，包括收寄标准确认与智能海关查验、基于大语言模型的供应链分析助手、物流决策等等。

与此同时，顺丰还积极布局低空经济，开发多款无人机，服务于不同行业场景，包括景区、医疗、电力、应急救援等等，推动物流服务向更广阔的空间拓展。并且，为了推动绿色经济，顺丰持续致力于实现碳中和目标，通过优化运力结构、绿色包装和路径优化等措施，减少碳排放。

AI 编程颠覆 IT 生产力

除了行业业务场景之外，编程成为最高频的 AI 应用场景之一。

AI 编程最终将如何颠覆生产力。企业对技术红利的追求是无止境的，但程序员产能和软件研发效率成为企业竞争发展的瓶颈之一，设计、研发侧过去十多年没有发生根本性变化，具体如何提效，成为企业关注的焦点。

具体而言，编码领域的人机协同经历了三个关键阶段：第一，代码辅助生成，即不改变软件工程专业分工，增强领域专业技术，AI 研发工具辅助人完成任务；第二，自主完成任务，AI 扮演单一职能专家，能够自主使用工具完成预定任务；第三，协同处理复杂任务，AI 影响着整个软件研发过程，多 Agent 互相协作完成复杂工作。

对应地，阿里云通义灵码产品实现路径也分为三个阶段：代码辅助生成、任务自主处理、功能自主研发。“我们希望为企业培养更多的 AI 程序员，人类程序员可以 965，AI 程序员 007，从而大幅提升企业生产力。”丁宇（叔同）强调，即便如此，未来主流的编程模式，还是人类程序员主导，带领 AI 程序员完成研发任务，“我们会在下半年，发布 AI 程序员产品，我们相信，通过 AI 编程，可以颠覆 IT 生产力，让程序员的产能提高 100 倍，带来生产力革命，创造更大价值。”

K8s 上的数据库私有云之旅：KubeBlocks 架构设计与实践

业务的更迭创新和变革，同样依赖于底层基础设施的支撑。

杭州云猿生数据创始人兼 CEO 曹伟总结了如今 IT 基础设施层面正在发生的三大趋势变化：第一，私有云正在从 OpenStack 时代全面进化到 K8s；第二，K8s 发展带动私有云技术水平追赶公共云；第三，K8s 正在统一公共云和私有云的 PaaS 系统。

而 K8s 作为构建 PaaS 的基础，其全景图里还缺最后一块“拼图”——dbPaaS。曹伟认为，在 K8s 上构建 dbPaaS 是大势所趋。比如，对于大型互联网公司而言，统一基础设施已经成为普遍需求，同时企业还希望在这个过程中提高密度，实现降本增效；再比如，对于央国企和银行等企业而言，除了统一基础设施之外，为满足定制化、安全合规等需求，要求进行私有云部署，而旗下数科公司除了赋能内部业务，还要构建行业云向外输出，这个过程同样需要一个统一的管控平台。

然而，数据库种类太多、研发和运维人力不足、运维操作复杂等依旧是摆在眼前的巨大挑战。对此，云猿生数据探索出了一套帮助企业在数据库容器化后，能够像搭积木一样在 K8s 上进行管理的思路和路径。

曹伟指出，为应对以上挑战，首先要解决对数据库进行抽象，以及建立标准化 API 的问题。云猿生数据推出了开源项目 KubeBlocks，通过抽象和分层管理数据库，定义了数据库容器化标准——KubeBlocks API。该标准可以把不同数据库的概念、能力、特点映射到其 5 层 API 架构中，实现一套代码管理多种数据库。

截至目前，KubeBlocks 已经集成了 35 种数据库引擎，正在试图帮助企业应对数据库私有云领域的挑战，并推动数据库服务向更高效、灵活和可扩展的方向发展。

经验传递——内部技术团队工程平台成功实践

为什么到了 2024 年，我们还在讨论工程平台？

Thoughtworks 亚太区 CTO Scott Shaw 在分享中给出了他的答案。他表示，工程平台提供了一系列精选的工具、能力和流程，能够缩短软件开发交付效率、节约劳动力和成本。也正因如此，Gartner 已经连续 2 年将“平台工程”列为年度最重要的十大技术趋势之一。

然而，在平台工程真正的落地实践过程中，仍然存在一系列可预知和不可预知的挑战。比如，由于缺少指导性路线，大家并不清楚接下来该朝哪里去，市场上也没有参考架构和清晰的设计模式；再比如，不少开发者苦于不能很好地向企业显示平台工程团队的价值，而是被视为企业内部的一个消费团队，这给实践过程带来了重重阻力。

那么，究竟如何呈现平台工程的价值？如何让工程组织更具有效率？Scott Shaw 详细介绍了建立和运营工程平台的成功因素：

第一，让用户充分参与和理解工程价值： 工程平台团队需要与产品交付团队进行深入的接触和理解，通过研讨会、一对一访谈和价值流映射来识别真正的问题，这是非常重要的基础；

第二，度量并跟踪平台提供的价值： 确定度量标准或相关指标来衡量团队成熟度，并通过商业目标、成本建模等维度定义和量化平台的价值；

第四，和早期采用者之间建立信任： 通过早期开发者的参与来建立信任，并通过持续的协作和反馈来不断改进平台性能和价值；

第五，衡量和分享进度： 在价值讨论过程中需要关注平台的业务成果和财务可行性，但现实情况中这些业务成果通常有所滞后，为此，企业需要通过领先指标来同步平台交付团队和软件开发人员的目标受众的有效性；

第六，构建资金模型： 资金模型的构建需要在平台工程团队、产品工程团队和其他技术功能之间找到平衡；

第七，持续的优先级排序：将工作流程应用嵌入到工程平台，进行持续的优先级排序，确保平台的工作与业务目标和交付团队的价值相一致。

大模型时代深度学习平台的挑战和机遇

百度飞桨总架构师于佃海在压轴分享中深入剖析了大模型时代下深度学习平台面临的全新挑战和机遇。他指出，大模型时代下，模型参数规模和数据规模的快速增长面临着算力瓶颈，大规模分布式训练成为刚需；另一方面，大模型带来的 AI 开发应用方式的变革，也给深度学习平台带来新的需求。

对此，深度学习平台面临两方面的挑战：

其一，从大模型基础技术特点来看，深度学习模型结构逐步收敛，模型和数据规模持续增长。这使得模型通用开发需求相对变弱、Transformer 深度支撑需求变强，而大规模分布式计算上升为核心能力，与硬件的协同优化非常关键。

其二，从大模型全流程开发应用来看，训练呈现多种模式不同需求，推理部署的重要性凸显。因而亟需分布式策略的更便捷的开发能力，并进而能支撑不同场景的高效分布式训练；同时需要具备高效推理服务能力，并能为大模型提供训推一体全流程支撑。

换言之，基础设施能力已成为大模型的关键竞争力，构建低门槛低成本、极致训推性能、效果协同优化的大模型坚实底座成为当务之急。

对此，于佃海还进一步分享了飞桨平台如何通过训练吞吐、收敛效率、大规模集群训练有效率三个维度实现大模型训练提效，以及从模型压缩、高效推理计算和服务化部署三个环节实现推理吞吐和时延的优化，从而搞定大模型训练和推理的一系列挑战，支持文心大模型快速迭代发展。

最后，于佃海指出，深度学习平台加大模型，共同构成了当前人工智能的基础技术底座。自主创新的飞桨平台和文心大模型，在支撑 AI 技术创新迭代和产业智能化升级中将会发挥更大作用。

26 大专题论坛并行，涉及基础设施、AI 运维、AI 应用多个热点

专题 1：AIOps 业务场景最佳实践

在“AIOps 业务场景最佳实践”专题论坛上，网易云音乐资深测试开发工程师宋东辉、群核科技云原生观测技术专家何碧宏、字节跳动 Dev Infra-APM 服务端观测平台负责人孔罗星、阿里云高级算法工程师陈昆仪博士、腾讯文档高级工程师张瀚元，聚焦 AIOps 在不同业务场景中的实际成效展开了分享，包括在实际的业务场景中如何利用 AIOps 提升业务效能，并取得可度量的业务价值。

专题 2：AI 助力工业 / 制造智能化

在“AI 助力工业 / 制造智能化”专题论坛上，富士康智能制造平台平台赋能处副经理李延顺、顺丰科技智慧供应链产品负责人苏冠、清智优化董事长兼总经理蒙绎泽博士、腾讯云高级产品专家王刚，分享了 AI 在工业质检、供应链、智能决策等工业制造场景的最新应用案例和最佳实践。

专题 3：大模型基础框架

在“大模型基础框架”专题论坛上，华为昇腾产品线 AI 框架规划专家赵英俊、百度深度学习技术平台部杰出架构师胡晓光、阿里云资深技术专家李永、腾讯机器学习平台部大模型训练框架研发技术专家薛金宝、微众银行基础科技产品部室高级经理黄叶飞，深入探讨了各行业中大模型训练和推理的基础架构和关键技术，包括训练加速、多维并行、万卡集群、高性能算力等技术焦点。

专题 4：智算平台建设与应用实践

在“智算平台建设与应用实践”专题论坛上，百度混合云部资深技术专家肖松、天翼云云网产品事业部研发专家黄坚、火山引擎容器服务技术总监乐金明、Thoughtworks 全球数字化转型专家肖然、vivo 互联网高级工程师于相洋，分享了各自在构建智算平台方面的实践经验，包括该过程中的技术要点，以及在实践和落地过程中所作的优化和踩过的坑。

专题 5：高可用架构实现

在“高可用架构实现”专题论坛上，阿里云云通信架构师张松然、Akamai 高级解决方案顾问李岳霖、字节跳动视频架构智能组网负责人游望秋、高德地图架构师邓学祥，分享了各自领域内的高可用架构最佳实践，深入探讨了从解构系统的复杂性到控制成本、保障数据安全，以及如何更有效地利用云服务、容器化、微服务、DevOps 等前沿技术来确保系统的稳定运行等话题。

专题 6：成本优先的技术架构

在“成本优先的技术架构”专题论坛上，Shopee Marketplace Expert Engineer 张俊杰、知乎数据库架构团队负责人代晓磊、腾讯云专家工程师林兆祥、字节跳动基础架构 /Lidar 性能平台负责人张金柱，分享了在如今的大环境下，企业如何根据业务需求和成本效益进行权衡，以探索在各种约束下做出最佳决策的路径，进而适应不断变化的业务环境和技术更迭。

可能大家都想学习AI大模型技术，也想通过这项技能真正达到升职加薪，就业或是副业的目的，但是不知道该如何开始学习，因为网上的资料太多太杂乱了，如果不能系统的学习就相当于是白学。为了让大家少走弯路，少碰壁，这里我直接把全套AI技术和大模型入门资料、操作变现玩法都打包整理好，希望能够真正帮助到大家。