Octopus V2：设备端super agent的高级语言模型

作者：Cpp五条 | 2024-04-10 00:23:34

踩

论文：Octopus v2: On-device language model for super agent
论文地址：https://arxiv.org/abs/2404.01744
模型主页：https://huggingface.co/NexaAIDev/Octopus-v2

Octopus-V2-2B

Octopus-V2-2B 是一款具有20亿参数的开源先进语言模型，它体现了Nexa AI在将大型语言模型（LLM）应用于函数调用方面的研究成果，并且是针对Android API特别设计的。与传统的检索增强生成（RAG）方法不同，后者在处理潜在的函数参数时需要进行详尽的描述（有时涉及数万个输入标记），Octopus-V2-2B在训练和推理过程中采用了独特的函数标记策略。这种策略不仅让它能够与GPT-4的性能相媲美，还大幅提升了推理速度，优于基于RAG的方法。这一改进特别适合边缘计算设备，使得Octopus-V2-2B在这些平台上更具优势

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/Cpp五条/article/detail/395654