AI资讯2024-04-08 | 斯坦福大学推出手机端运行大模型—Octopus v2，性能超越GPT-4

关注文章底部公众号可获取每日AI新闻，还有更多好玩使用的黑科技工具分享

斯坦福大学推出可在手机端运行大模型—Octopus v2

Octopus-V2-2B 是一个拥有 20 亿参数的开源语言模型，专为 Android API 量身定制，旨在在 Android 设备上无缝运行，并将实用性扩展到从 Android 系统管理到多个设备的编排等各种应用程序。Octopus v2 可以在智能手机、汽车、个人电脑等端侧运行，在准确性和延迟方面超越了 GPT-4，并将上下文长度减少了 95%。此外，Octopus v2 比 Llama7B + RAG 方案快 36 倍。

论文地址：
https://arxiv.org/abs/2404.01744

模型主页：

https://huggingface.co/NexaAIDev/Octopus-v2

阿里开源Qwen 1.5-32B

阿里正式开源Qwen 1.5-32B，这个模型显示出了与72B模型相当的性能，特别是在语言理解、多语言支持、编码和数学能力等方面。在推理和部署过程中，成本还会更加友好。除此之外，团队还做了一项比较有意思的测试——长文本评估任务，“大海捞针”。简单来说，这项任务就是将一个与文本无关的句子࿰