智客 ZICQ
EN 登录 / 注册
智客前沿 前沿论文 #InstantHMR #三维人体网格恢复 #移动端推理 #MHR参数化模型 #NPU部署

InstantHMR开源:手机端5.5毫秒恢复全身三维网格

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间:

中文阅读 (Chinese) English Version

摘要:Naturalpad Studio 发布 InstantHMR 单图三维人体网格恢复模型系列,并同步开放代码与模型权重。该方法基于 Momentum Human Rig 参数化人体,仅使用 SAM 3D Body 的公开标注训练,在 Galaxy S23 NPU 上以 5.5 毫秒恢复 6,890 顶点人体网格,RTX 4070 上降至 0.98 毫秒。其移动端速度约为唯一兼容且精度略高方法的 12 倍,同时在 3DPW、EMDB 与 RICH 上保持有竞争力的 PA-MPJPE。研究还以统一协议复评 11 种方法,覆盖桌面 TensorRT 与两款手机 NPU,为移动 AR/VR、运动分析和机器人感知提供了可直接部署的基线。


InstantHMR 把单图三维人体恢复推进到手机实时区间

InstantHMR 试图解决三维人体网格恢复中最现实的部署矛盾:基于服务器 GPU 的方法延迟过高,而面向移动端压缩的模型往往需要牺牲明显的姿态与体形精度。该项目直接以 Momentum Human Rig(MHR)参数化模型作为输出空间,只使用 SAM 3D Body 公开标注训练,并开放了代码与模型权重。

论文报告,InstantHMR 在 Samsung Galaxy S23 NPU 上以每 人 5.5 毫秒恢复包含 6,890 个顶点的人体网格,在 NVIDIA RTX 4070 上则只需 0.98 毫秒。移动端速度约为唯一可运行且精度略高方法的 12 倍,精度方面在 3DPW、EMDB 和 RICH 上分别达到 40.0 mm、48.8 mm 和 41.7 mm PA-MPJPE。

从像素直接回归到参数化人体网格

InstantHMR 属于单图像回归路线:输入一张 RGB 人体图像,网络直接预测三维人体参数,再由 MHR 解码为可渲染的身体网格。相比先进行二维关键点检测、再依赖人体模型拟合的多阶段流水线,这类方案能够减少跨模块的数据传输和调度开销,更适合相机、AR/VR 或机器人应用中的低延迟闭环。

MHR 的关键作用不是简单充当最终输出格式,而是把高维网格空间约束在结构化参数空间中。网络无需逐点回归 6,890 个三维顶点,而是预测紧凑的人体形状与姿态参数,随后通过可微或固定解码器生成网格。这种设计减少了输出维度,也使姿态先验更明确;代价是模型的可表达空间受 MHR 的骨骼、关节和蒙皮结构约束,细化到手指、服装、头发或布料时仍需额外模型。

项目还采用 Meta 官方 MHR-to-SMPL 转换,将基于 MHR 的竞争方法纳入相近输出空间。该步骤对公平比较尤其重要:如果直接把 MHR 网格转换后的误差与原生 SMPL 输出混为一谈,参数定义、关节结构与对齐误差都可能污染排名。

移动端速度来自模型与部署链路协同

InstantHMR 的意义不只是“更小的网络”。在 NPU 上运行二维人体姿态估计、SMPL 优化或通用视觉骨干时,内存搬运、动态形状、算子支持和不规则解码都可能成为瓶颈。面向移动设备设计的模型家族通常需要同时处理静态形状优化、量化友好的算子、输入分辨率控制以及 NPU 厂商编译器兼容性;仅报告参数量无法反映这些系统成本。

研究在八种目标平台上测量延迟,覆盖桌面 TensorRT 与两款手机 NPU,这比只给桌面 GPU 数字更接近实际部署。该评估仍需注意输入分辨率、线程设置、功耗模式、预热次数、端到端图像采集时间以及批量大小等条件;论文摘要没有完整披露这些参数,因此 5.5 毫秒不应直接等同于摄像头到网格的端到端响应时间。

对于移动应用,合理的工程链路通常是摄像头采样、图像缩放与归一化、NPU 推理、MHR 解码、姿态平滑和时间一致性处理。即便网络推理达到毫秒级,摄像头管线、图形渲染和跨帧稳定也会占据显著预算。

精度与速度之间仍有可量化取舍

论文的核心对照很有价值:一个移动兼容方法在精度上略占优势,但 InstantHMR 快约 12 倍;其余方法则无法在移动端有效运行。这说明该任务的主要约束已经从“能否再提高一点平均误差”转向“设备上的延迟与精度如何配比”。

PA-MPJPE 仍不能完整代表人体网格质量。实例级误差、肢体长度和体形估计误差、遮挡条件下的姿态稳定性、深度方向抖动,以及跨帧运动抖动,都可能影响 AR 虚拟化身或生物力学应用。论文还统一复评了 11 种现有方法,有助于减少预处理、后处理和参数转换不一致造成的比较偏差;但这些结果仍属于作者主导的评测,第三方复现、更多手机 SoC 和持续功耗测试仍有必要。

开发者落地建议

移动 AR/VR 和运动捕捉应用可以优先测试 InstantHMR:将 NPU 推理与 MHR 解码接入实时管线,再使用时序滤波、置信度估计或关键点约束抑制逐帧抖动。若业务依赖精确手部、面部或服装几何,单目 InstantHMR 不应被视为完整替代方案,可将其作为低成本人体与根姿态先验,再级联专用手脸模型。

机器人与运动分析场景应分别记录网络推理延迟、参数解码延迟、端到端延迟和功耗,而不是只引用单次前向时间。部署前还应针对目标人群、服装、拍摄视角和遮挡类型建立测试集,并检验跨设备量化后 PA-MPJPE 是否发生明显漂移。

对于研究与教学价值,InstantHMR 最大亮点是把统一协议、多个后端、公开模型和移动端实测放在一起。它更像一个可复现的实时三维人体基线,而不是宣称在所有精度维度取代传统大模型方法。

仍需补齐的工程证据

摘要尚未给出各模型参数量、FLOPs、峰值内存、功耗、量化类型与持续散热表现,也没有披露移动端速度在人物数量增加时如何扩展。公开代码和模型使这些问题具备核验条件。后续若加入端到端视频评估、跨手机泛化和持续吞吐测试,InstantHMR 对移动三维感知的实际价值将更容易判断。


消息来源:Hugging Face Daily Papers (2026-11-06)

—— 完 ——

主题标签: #InstantHMR #三维人体网格恢复 #移动端推理 #MHR参数化模型 #NPU部署

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

社区整体评论区

正在加载实时智能评论与划词标注…