这个屌丝很懒，什么也没留下！

区分自回归（Autoregressive）和自编码（Autoencoder）_自回归自编码模型

作者：秋刀鱼在做梦 | 2024-08-11 07:27:07

自回归模型可以类比早期的统计语言模型，根据上下文预测下一个单词。

自编码模型（如BERT），在输入中随机掩盖一个单词，在与训练过程中，根据上下文，预测被掩盖的单词。这种行为可以视为是降噪（denosing）。

常见自回归模型：ELMo、GPT、XLNet
常见自编码模型：BERT、ERINE、RoBERTa

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/秋刀鱼在做梦/article/detail/962921

区分自回归（Autoregressive）和自编码（Autoencoder）_自回归 自编码模型