Knowledge Editing for Large Language Models: A Survey

作者：从前慢现在也慢 | 2024-04-01 19:30:56

踩

knowledge editing for large language models: a survey

本文是LLM系列文章，针对《Knowledge Editing for Large Language Models: A Survey》的翻译。

大型语言模型的知识编辑研究综述

摘要
1 引言
2 背景
3 问题描述
4 评估指标
5 方法
6 数据集
7 应用
8 讨论
9 结论

摘要

大型语言模型（LLM）最近改变了学术界和工业界的格局，因为它们具有基于丰富的知识和推理能力理解、分析和生成文本的非凡能力。然而，LLM的一个主要缺点是，由于其前所未有的参数数量，其预训练的计算成本巨大。当经常需要将新知识引入预先训练的模型中时，这种劣势会加剧。因此，必须开发有效和高效的技术来更新预先训练的LLM。传统方法通过直接微调将新知识编码在预先训练的LLM中。然而，天真地重新训练LLM可能是计算密集型的，并且有可能退化与模型更新无关的有价值的预先训练的知识。最近࿰

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/从前慢现在也慢/article/detail/349917?site