ICCV 2021 | 基于稀疏多视角彩色相机的多人人体全身捕捉

点击上方“3D视觉工坊”，选择“星标”

干货第一时间送达

本文作者来自清华大学刘烨斌老师团队，作者提出了一种轻量级的基于稀疏多视角相机的多人全身运动捕捉方案，只需少数几个彩色相机，便可以同时捕捉多个目标对象的人体运动、手部姿态以及面部表情，对于人体严重自遮挡或多人近距离交互等复杂情况下也能取得不错结果。对于 6 个相机 2 个人整个系统能够以 1FPS 的速度运行，对于 8 个相机 7 个人处理速度差不多为 0.3FPS。

项目主页：http://www.liuyebin.com/lwtotalcap/lwtotalcap.html

Method

文章的流程如下图所示，系统的输入是多视角彩色图片及其对应的人体 2D 关键点，首先通过 4D Association[2] 方法计算出每个人体的 3D 骨架，然后在每一张图片中定位出每个对象的人手和人脸框，再通过一个两阶段拟合算法将 SMPL-X 人体模型拟合到人体 3D 骨架、手部 2D 关键点和脸部 2D 关键点，当前帧追踪到的人体模型再进一步对下一帧的 4D Association 提供反馈以提高严重遮挡情况下的关联准确性。

下图展示了两阶段 SMPL-X 人体拟合结果，首先拟合人体部分，再进一步进行全身优化以得到更加准确的捕捉结果。

Results

下图展示了文章方法在实际场景和 CMU 数据集上的表现，可以看到人体姿态的准确性和模型的贴合性还是蛮不错的，不过看视频可以观察到追踪的人体模型有点抖动。

参考

1. Lightweight Multi-person Total Motion Capture Using Sparse Multi-view Cameras. Yuxiang Zhang, Zhe Li, Liang An, Mengcheng Li, Tao Yu, Yebin Liu, ICCV, 2021.

2. 4D Association Graph for Realtime Multi-person Motion Capture Using Multiple Video Cameras. Yuxiang Zhang, Liang An, Tao Yu, Xiu Li, Kun Li, Yebin Liu. CVPR, 2020.

本文仅做学术分享，如有侵权，请联系删文。

下载1

在「3D视觉工坊」公众号后台回复：3D视觉，即可下载 3D视觉相关资料干货，涉及相机标定、三维重建、立体视觉、SLAM、深度学习、点云后处理、多视图几何等方向。

下载2

在「3D视觉工坊」公众号后台回复：3D视觉github资源汇总，即可下载包括结构光、标定源码、缺陷检测源码、深度估计与深度补全源码、点云处理相关源码、立体匹配源码、单目、双目3D检测、基于点云的3D检测、6D姿态估计源码汇总等。

下载3

在「3D视觉工坊」公众号后台回复：相机标定，即可下载独家相机标定学习课件与视频网址；后台回复：立体匹配，即可下载独家立体匹配学习课件与视频网址。

重磅！3DCVer-学术论文写作投稿 交流群已成立

扫码添加小助手微信，可申请加入3D视觉工坊-学术论文写作与投稿 微信交流群，旨在交流顶会、顶刊、SCI、EI等写作与投稿事宜。

同时也可申请加入我们的细分方向交流群，目前主要有3D视觉、CV&深度学习、SLAM、三维重建、点云后处理、自动驾驶、多传感器融合、CV入门、三维测量、VR/AR、3D人脸识别、医疗影像、缺陷检测、行人重识别、目标跟踪、视觉产品落地、视觉竞赛、车牌识别、硬件选型、学术交流、求职交流、ORB-SLAM系列源码交流、深度估计等微信群。

一定要备注：研究方向+学校/公司+昵称，例如：”3D视觉 + 上海交大 + 静静“。请按照格式备注，可快速被通过且邀请进群。原创投稿也请联系。

▲长按加微信群或投稿

▲长按关注公众号

3D视觉从入门到精通知识星球：针对3D视觉领域的视频课程（三维重建系列、三维点云系列、结构光系列、手眼标定、相机标定、orb-slam3等视频课程）、知识点汇总、入门进阶学习路线、最新paper分享、疑问解答五个方面进行深耕，更有各类大厂的算法工程人员进行技术指导。与此同时，星球将联合知名企业发布3D视觉相关算法开发岗位以及项目对接信息，打造成集技术与就业为一体的铁杆粉丝聚集区，近2000星球成员为创造更好的AI世界共同进步，知识星球入口：

学习3D视觉核心技术，扫描查看介绍，3天内无条件退款

 圈里有高质量教程资料、答疑解惑、助你高效解决问题

觉得有用，麻烦给个赞和在看~