8B 端侧小模型 | 能力全面对标GPT-4V！单图、多图、视频理解端侧三冠王，这个国产AI开源项目火爆全网_端测的小模型

作者：盐析白兔 | 2024-08-17 00:07:44

踩

端测的小模型

这两天， Github上一个国产开源AI 项目杀疯了！一开源就登上了 Github Trending 榜前列，一天就获得将近600 star。

这个项目就是国内大模型四小龙之一面壁智能最新大打造的面壁「小钢炮」 MiniCPM-V 2.6 。它再次刷新端侧多模态天花板，仅8B参数，单图、多图、视频理解全面超越 GPT-4V ！
更有多项功能首次上「端」：小钢炮一口气将实时视频理解、多图联合理解、多图ICL等能力首次搬上端侧多模态模型。
它端侧友好，量化后端侧 6G 内存即可使用；端侧推理速度高达 18 tokens/s，相比上代模型快 33%。并且发布即支持 llama.cpp、ollama、vllm 推理；且支持多种语言。

➤MiniCPM-V 2.6开源地址：
GitHub声明：本文内容由网友自发贡献，转载请注明出处：【wpsshop】

推荐阅读

相关标签