NLP新宠——Prompt范式_数据研究一prompt

作者：不正经 | 2024-04-05 17:28:45

踩

数据研究一prompt

hi！又到每周分享的时刻了，希望大家能有收获呀！！！！！！！！！！！

什么是Prompting ？它和Fine-tuning有什么区别？这里引用CMU刘鹏飞博士放在博客里的图：

preview

prompt是研究者们为下游任务设计的一种模板或者范式，这种范式能够帮助预训练模型回忆起自己预训练学到的知识，其实说白了就是将下游任务和预训练任务的统一（近似），比如说MLM。

对于输入文本 $x$ ，经过函数 $f_{prompt}(x)$ 得到 $x^{'}$

$x^{'}=f_{prompt}(x)$

该函数首先会使用一个模板，通常为自然语言（就是一句通顺的话），因为预训练模型训练数据都是基于自然语言的，该模板一般包含两个空位置：用于填输入 $x$ 的位置 $[x]$ 和用于生成答案文本的 $z$ 位置 $[Z]$ 。

举个

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/不正经/article/detail/367041