当前位置:   article > 正文

微软“Build 2024”大盘点:Copilot、大模型,生成式AI时代来啦!_windows copilot runtime

windows copilot runtime

5月22日凌晨,微软在西雅图召开“Build 2024 ”全球开发者大会。为期3天,大模型、生成式AI成为本次大会的重中之重。

从第一天发布的内容来看,大模型、生成式AI几乎贯穿了微软所有的开发平台和产品矩阵,例如,Copilot Studio支持开发具有AI Agent功能的应用;全新开发平台Azure AI Studio,支持GPT-4o、Phi-3-vision等1600多种大模型。

由于第一天发布的内容实在太多,「AIGC开放社区」就为大家盘点一下所有重要内容。如果是已经正式发布的产品和大模型,都会附上详细地址方便大家体验

目前,微软仍在进行大会直播,无法到达现场的小伙伴可以免费在线观看,深度了解微软最新的AI技术趋势。

Build大会详情:https://build.microsoft.com/en-US/home

微软CEO在大会上的部分演讲

Azure AI Studio正式发布

我们深知ChatGPT等生成式AI产品对生活、工作的重要性,但是想开发一款类似的应用并不容易。为了帮助开发者简化开发流程、部署,微软宣布Azure AI Studio正式全面上市。

开发者通过Azure AI Studio可快速使用RAG(检索增强生成)、测试评估大模型、大范围模型部署和持续监控等实用功能。

免费体验地址:https://azure.microsoft.com/en-us/products/ai-studio

图片

Azure AI Studio另外一个重要亮点功能是支持GPT-4o、Phi-3-vision、Llama 3、TimeGen-1等,几乎市面上所有主流1600多种开/闭源大模型,帮助开发人员快速找到自己最想要的模型。

Phi-3系列模型正式发布:参数小,性能强

自微软发布Phi-1/2模型以来,其参数小、性能强、功耗低的特性获得了一大批开发者的喜爱。今年4月微软首次预览了Phi-3系列开源模型,现在已经全部上市可在Microsoft Azure上使用。

图片

Phi-3一共有4种参数:Phi-3-vision有42亿参数,具备视觉识别和转化功能;Phi-3-mini 38亿参数,支持128K和8K上下窗口;

Phi-3-small有70亿参数,性能却比GPT-3.5更强;Phi-3-medium有140亿参数,性能优于谷歌Gemini 1.0 Pro。

从huggingface下载量来看,Phi-3-mini是目前最受欢迎的类型已经超过100万次。

免费在线体验地址:https://ai.azure.com/explore/models/Phi-3-vision-128k-instruct/version/1/registry/azureml

开源地址:https://huggingface.co/collections/microsoft/phi-3-6626e15e9585a200d2d761e3

Phi-3家族还有一个非常特殊的模型Phi Silica,这也是微软昨天发布Copilot+ PC内置的大模型。

图片

据悉,Phi Silica只有33亿参数,但每秒却可生成27 tokens数据,功耗仅为1.5瓦,对CPU、GPU的要求非常低,很适合内置在笔记本、平板等移动设备中,这也是目前最强的小参数模型。

Phi Silica地址:https://learn.microsoft.com/en-us/windows/ai/apis/phi-silica?ref=maginative.com

微软已经开放了Phi Silica的SDK,有需要的可以去看看。

Copilot Studio,轻松开发AI Agent应用

AI Agent是目前生成式AI领域最火的分支赛道之一,它的高效、自动化、易使用被很多人誉为AGI的雏形。

微软在Copilot Studio开发平台中新增了开发AI Agent功能,以帮助用户快速创建量身定制的Copilot。

Copilot Studio的使用方法非常简单,你只需要描述想要Copilot自动做什么,以及拥有哪些知识,给出一个思维执行链便会立刻创建完成。简单来说,和按键精灵、RPA使用方法类似,无需任何专业编程知识。

图片

此外,Copilot Studio创建的AI Agent可以与SharePoint、OneDrive、Microsoft Dataverse、第三方应用等集成使用。

体验地址:https://aka.ms/trycopilotstudio

例如,通过Copilot Studio开发一个人事AI Agent。当公司有新员工入职后,会自动为员工介绍公司的整体情况,工作规则、上班/下班时间、团建时间、实习期时间以及通过标准等,相比之前的人工,用AI来自动化完成便高效很多。

推出Windows Copilot Runtime

为了扩大、简化生成式AI应用的开发生态,微软推出了Windows Copilot Runtime,主要模块如下。

丰富的AI框架:包含DirectML、ONNX Runtime、PyTorch、WebNN 以及工具链如 Olive、Visual Studio Code 的 AI 工具包等,可以帮助开发人员快速引入自己的大模型,并在 Windows硬件生态系统的广泛范围内扩展其 AI 应用。

图片

Windows Copilot Library:由 Windows搭载的40多个设备模型提供支持的一组API,包括用于支持 Windows 体验并可供开发人员使用的 API 和算法。

例如,微软最新发布的Copilot+PC的特色功能Recall就包含在这组API中,它可以帮助用户快速查找任何操作和看见的东西;以及可实时翻译40多种语言的视频、音频功能。

更多详细内容:https://learn.microsoft.com/zh-cn/windows/ai/

借助API,开发人员可以把这些特色功能集成在自己的AI应用中。

发布新的Azure 虚拟机

微软发布了搭载最新芯片Cobalt 100的Azure 虚拟机,一共包含通用型Dpsv6和 Dplsv6系列以及内存优化型Epsv6系列。

图片

新的Dpsv6 和Dpdsv6通用型被设计为高效运行规模化工作负载和云原生计算解决方案,例如,在Azure Kubernetes Service上运行的解决方案。这些虚拟机非常适合小型到中型的开源数据库、应用服务器和 Web 服务器。

而Epsv6和Epdsv6内存优化虚拟机的每个CPU内存更高,可以满足大型数据库、内存缓存应用程序和数据分析工作负载的开发需求。

发布Team Copilot

为了提升Copilot性能和应用范围,微软发布了Team Copilot。该产品更像是一名“数字化员工”,可以参与到公司的日常运营、工作和团队协调当中。

例如,自动编写会议摘要,自动跟踪项目进程,帮助员工解读PDF、word等长文档等。

同时Team Copilot可以与Microsoft Teams、Microsoft Loop 和 Microsoft Planner等产品相结合使用。

这也就是说,可以实现跨部门的复杂工作链条协同工作,这可以帮助中大型企业极大提升工作效率、节省时间。

推出Build with AI

微软在Startups Founders Hub中新增了AI开发工具“Build with AI”,可以帮助用户简化开发流程。

Build with AI为用户提供了一组灵活、高效的应用模板,用户只需要选择适合自己的模板,根据向导提示快速实现AI应用的编辑、部署以及维护等。

图片

这些模板的功能包括,将 ChatGPT添加到应用程序;使用Python将ChatGPT连接到应用程序的数据;使用 JavaScript将ChatGPT连接到应用程序的数据创建一个ChatGPT 插件等。

目前,部分AI创作助手处于私人预览状态,很快会开启大范围应用。更多详细:http://startups.microsoft.com/

本文素材来源微软官网,如有侵权请联系删除

END

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/Gausst松鼠会/article/detail/657293
推荐阅读
相关标签
  

闽ICP备14008679号