当前位置:   article > 正文

微软最新发布了Phi-2:小语言模型的惊人力量

微软最新发布了Phi-2:小语言模型的惊人力量

微软最新发布了:Phi-2 和promptbase。Phi-2 的性能优于其他现有的小型语言模型,但它足够小,可以在笔记本电脑或移动设备上运行。
在这里插入图片描述
在过去的几个月里,我们微软研究院的机器学习基础团队发布了一套名为“Phi”的小型语言模型 (SLM),它们在各种基准测试中取得了卓越的性能。我们的第一个模型,13 亿参数Phi-1(在新选项卡中打开),在现有 SLM 中的 Python 编码方面实现了最先进的性能(特别是在 HumanEval 和 MBPP 基准测试上)。然后,我们将重点扩展到常识推理和语言理解,并创建了一个新的 13 亿参数模型,名为Phi-1.5(在新选项卡中打开),性能可与 5 倍大的型号相媲美。

我们现在发布Phi-2(在新选项卡中打开),一个 27 亿参数的语言模型,展示了出色的推理和语言理解能力,展示了参数少于 130 亿的基础语言模型中最先进的性能。在复杂的基准测试中,得益于模型扩展和训练数据管理方面的新创新,Phi-2 的性能可与大 25 倍的模型相匹配或优于。

凭借其紧凑的尺寸,Phi-2 成为研究人员的理想游乐场,包括探索机械可解释性、安全性改进或对各种任务的微调实验。我们已经制作了Phi-2(在新选项卡中打开) 可在 Azure AI Studio 模型目录中找到,以促进语言模型的研究和开发。

我们还开发了一套强大的技术来帮助引导前沿模型获得更高的性能,首先是 MedPrompt,现在通过我们在 GitHub 上作为提示库提供的其他资源进行扩展。

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/你好赵伟/article/detail/277686?site
推荐阅读
相关标签
  

闽ICP备14008679号