AI新宠：Prompt Learning,用提示学习调教大模型

“提示学习”对于很多人来说都是新名词，Prompt Learning 和 Prompting 这两者之间有什么区别和联系呢？现在的一些大模型如何利用“提示语言”呢？本期直播课为大家做了详细介绍，从 AI 范式的一个变迁，到提示学习（Prompt Learning）和“提示”的有趣小例子！快跟微软 ATP 一起来看看吧！

▍走近“大”模型

目前，当谈及 AI 技术的时候 ，它的最核心的一点 ，就是“模型”这个概念。什么叫模型 ？比如下图的 AI  模型是语言模型 :

那像 ChatGPT 这种大模型，简直就像人类一样拥有智能的模型，那是因为它非常复杂。它是很大的一个神经网络，是有着 1,750 亿个参数的函数，拥有巨大的表现力。

那怎么样才能得到这样一个模型，最早期的时候，也许比下图的神经网络更加简单，像线性回归、支持向量机（SVM）、隐马尔可夫模型（HMM）、条件随机场（CRF）等。

最早期的训练是从零开始的，即 Training From Scratch，但是后来就出现了一个问题，模型变得越来越大， 2012 - 2016 年期间，大量人工智能的深度学习研究集中在如何把神经网络的层数增加、将其结构复杂化，并让结果能有效收敛。

▍大模型与“提示学习”

那什么叫“提示学习”，对应的英文是 Prompt Learning——当有一个大模型 ，例如ChatGPT，不对这个模型本身进行任何的修改的情况下，即不去更新本身这个预训练模型的结构和参数，通过对它增加输入提示信息，然后将下游任务改变为一个文本生成任务。

大家如果想要了解更多关于“提示学习”和“提示”（Prompting）的有趣示例，请前往微软 ATP 的官方 B 站账号「微软智汇AI」观看直播课回放吧！

直播回放地址：https://www.bilibili.com/video/BV1ax4y1T7x4/?spm_id_from=333.999.0.0

欢迎关注微软 ATP 官方账号

微软 ATP 一手资讯抢先了解

点击“阅读原文” | 了解更多 AI 赋能案例