【PaperShare】SELF-INSTRUCT: Aligning Language Model with Self Generated Instructions

作者：爱喝兽奶帝天荒 | 2024-07-15 12:54:56

踩

self-instruct: aligning language model with self generated instructions

Self-Instruct: 使用自生成指令调整语言模型

SELF-INSTRUCT 介绍
实验
总结

随着大规模语言模型（LLM）的能力范围越来越广，其中涉及到的人工标注需求量快速增长，标注成本也不断提高，因此，一些研究人员尝试提出一种能够让模型自己引导自己生成过程的方法，以解决人工成本对模型能力增强的瓶颈。

近日，华盛顿大学等机构联合发表一篇论文《SELF-INSTRUCT: Aligning Language Model with Self Generated Instructions》，提出的新框架SELF-INSTRUCT通过引导模型自己的生成过程，提高了预训练语言模型的指令遵循能力。

论文地址：https://arxiv.org/pdf/2212.10560v1.pdf
发表时间：20 Dec, 2022

SELF-INSTRUCT 介绍

SELF-INSTRUCT 是一种半自动化过程，使用来自模型本身的指令信号对预训练的 LM 进行指令调整。如下图所示，整个过程是一个迭代引导算法。
A high-level overview of SELF-INSTRUCT
该过程从一组小的任务种子集（每个任务的一条指令和一个输入输出实例）作为任务池开始。从任务池中抽取随机任务，并用于提示现成的 LM 生成新的指令和相应的实例，然后过滤低质量或相似的生成，然后添加回任务的初始存储库。生成的数据可用于稍

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/爱喝兽奶帝天荒/article/detail/829446