皮皮网

PFLD：一个实用的人脸关键点检测器

       人脸关键点检测作为算法业务的核心部分，广泛应用于各类场景，例如换脸、换妆、人脸识别等2C应用，以及疲劳驾驶中对人脸姿态的估计。本文介绍的PFLD算法（PFLD: A Practical Facial Landmark Detector）特别针对嵌入式设备进行优化，其在骁龙芯片上的效率可达fps，模型大小仅2.1MB。在关键点检测基准测试中表现出色，有着广泛的实际应用前景。尽管当前源码未公开，但提供了Android测试应用供感兴趣的朋友体验。

       PFLD算法在设计上采用Mobilenet-V1作为特征提取骨干，并直接回归2xN个关键点。在训练过程中，需要提供充足的训练数据，并加入一些技巧以应对复杂情况，如遮挡、光照变化、极端姿态与表情。为解决实际应用中的问题，PFLD提出了采用更强大的特征描述能力的backbone，增加训练数据的多样性和平衡性，以及改进数据采样策略。针对这些问题，PFLD从算法设计层面提出了解决方案。

       在模型设计上，PFLD对Mobilenet的输出特征进行结构修改，融合三个不同尺度的特征，以增强模型的表达能力。该设计在嵌入式设备中表现出优秀的性能，且未采用VGG、ResNet等大型模型。PFLD的损失函数设计独具匠心，旨在平衡不同情况的训练数据，通过调整可调控的权值函数，优先提升性能不佳的关键点检测，从而有效解决训练样本不均衡的问题。

       在训练过程中，PFLD引入了一个辅助子网络，专门用于监督关键点检测网络的训练。该子网络在训练阶段发挥作用，通过估计输入人脸样本的三维欧拉角来帮助模型收敛。其输入为PFLD主网络的中间输出，而非训练数据本身。这一设计不仅有助于提升模型的训练效果，而且能为关键点检测提供辅助信息。

       通过PFLD算法的设计与实现，我们看到了如何在保持模型简洁性的同时，通过巧妙的策略和设计来优化关键点检测的准确性和效率。该算法在嵌入式设备上的应用展示了其广泛的适用性，为实际应用提供了有力支持。未来，PFLD的开源版本将为开发者提供一个交流与学习的平台，共同探索更多可能性。

SMPL可视化大杀器，你并不需要下载SMPL就能可视化你的3D Pose

       SMPL可视化大杀器，无需下载SMPL，通过简洁代码实现3D姿态可视化，解决入门者难题。

       SMPL是一种先进的人体建模方法，广泛应用于元宇宙、自动驾驶等领域。借助大规模数据训练，它能精准估计人体三维姿态，适用于人体、手部、脸部甚至动物的建模。尤其是人脸，通过扩展方法如MANO、FLAME，实现更高精度。

       尽管SMPL模型强大，但3D姿态可视化常让初学者感到困惑。传统方法如pyrender，虽然强大，但跨平台性差，依赖复杂且版本固定，新手难以驾驭。此外，下载大量不同格式的SMPL模型（如npz、pkl）并配置相关依赖库，过程繁琐。

       本文提出一种简便、高效的方法，无需繁琐步骤，仅需寥寥数行代码即可实现3D姿态可视化。这意味着，即使面对复杂模型预测的准确姿态，也能轻松可视化，避免了传统方法的繁琐与困扰。

       通过简单代码，即可生成SMPL mesh，直观展示预测的三维姿态。整个流程无需依赖其他库，输入为预测姿态，输出为直观的三维模型。这不仅简化了可视化流程，还实现了跨语言兼容性，确保任何环境下都能轻松执行。

       代码示例如下：

       # 你的代码实现

       mesh = generate_smpl_mesh_from_pose(pose)

       visualize(mesh)

       这段代码展示了如何将预测的三维姿态转化为可视化的SMPL mesh，并进行展示。只需几行代码，即可完成可视化任务，轻松实现三维姿态的直观呈现。

       总结而言，无需下载SMPL模型，通过精简代码就能实现高效、直观的3D姿态可视化。这种方法简化了流程，降低了入门门槛，为用户提供了一种简便、跨平台的解决方案，是解决3D姿态可视化难题的有效途径。

谷歌发布 MediaPipe Holistic，实现移动端同时进行人脸、手部和人体关键点检测跟踪

       谷歌 MediaPipe Holistic 的发布标志着在移动设备上实现近乎实时的人体关键点检测与跟踪的突破性进展，它提供了统一的拓扑结构，包含多个关键点（个姿势、个手部和个人脸关键点），适用于移动端，如Android、iOS，以及桌面设备。此框架旨在解决将多个依赖性神经网络实时组合成语义一致的端到端解决方案的难题。通过优化的姿态、人脸和手部组件，MediaPipe Holistic 在移动设备上实现了实时性能，为健身、运动分析、手势控制、手语识别和增强现实效果等应用提供了强大支持。

       MediaPipe Holistic 通过集成姿势、面部和手部组件的独立模型，优化了每个组件的性能，通过姿势检测器和关键点模型估计人的姿势，为每只手和脸部推导出三个感兴趣区域（ROI），应用 re-crop 模型改进 ROI。全分辨率输入帧上裁剪 ROI，并应用特定任务的模型估计关键点，最后将所有关键点与姿势模型的关键点合并，提供全部多个关键点。

       在性能方面，MediaPipe Holistic 每帧需要协调多达8个模型，包括1个姿势检测器、1个姿势关键点模型、3个 re-crop 模型和3个手部与面部的关键点模型。作者通过优化机器学习模型和前处理/后处理算法，以及将计算转移到GPU，使得在中端设备和浏览器中也能以接近实时的速度运行，提供多级性能优化，可根据需求使用不同计算量和复杂度的模型。

       MediaPipe Holistic 的应用广泛，包括远程手势界面、全身AR、运动分析、手语识别等。作者构建了一个简单的远程控制界面，在浏览器中本地运行，无需鼠标或键盘，实现了对屏幕上的物体操作、虚拟键盘打字以及对面部区域的特定指令（如静音或关闭摄像头）。这种手势控制技术在不方便的交互方式下提供了新颖的使用场景。

       展望未来，MediaPipe Holistic 旨在激发更多独特应用的构建，为手语识别、非接触式控制界面等复杂用例开辟新途径。开源地址提供了进一步探索与应用的平台。

关键点检测算法（一）总体介绍

       关键点检测领域涵盖了人脸、人体及特定类别物体的关键点检测。人体骨骼关键点检测尤为热门，因其在自动驾驶、姿态估计、行为识别、人机交互、虚拟现实、智能家居及无人驾驶等领域具有广泛的应用前景。人体骨骼关键点检测作为计算机视觉的基础任务，面临着人体柔韧性带来的多变姿态、关键点受姿态、穿着、视角影响显著及遮挡、光照环境变化等挑战，构成了其研究的复杂性和挑战性。本文将对人体关键点检测的各方面进行介绍。

       在进行关键点检测时，往往依赖于数据集。以下是用于人体关键点检测的常用数据集：

       2D数据集包括LSP、FLIC、MPII、MSCOCO、AI Chanllenge、Pose Track等。

       3D数据集则有Human3.6M、HumanEva、Total Capture、JTA Dataset、MPI-INF-3DHP、SURREAL及UP-3D等。

       构建关键点的Ground Truth时，有三种常见方式：直接使用坐标、使用热图表示及结合热图与偏移量。直接坐标方式可直接获得关键点位置信息；热图方式则通过概率图表示每个关键点的可能位置，其距离关键点越近的像素概率越大；结合热图与偏移量的方式，由Google在CVPR 年提出，其热图表示关键点一定范围内的所有点，而偏移量则描述与目标关键点之间的关系。

       在单人2D关键点检测领域，近年来涌现了多种先进的算法，如DeepPose、Efficient Object Localization、Convolutional Pose Machines、Learning Feature Pyramids等，这些算法通过深度神经网络的学习能力提高了检测精度。

       多人2D关键点检测主要分为自上而下和自下而上两种方法。自上而下方法如RMPE、Cascaded Pyramid Network、Spatial Shortcut Network等，自下而上方法则以OpenPose为代表，通过构建部分关联领域进行整体现象的解析。

       3D关键点检测涉及更复杂的三维空间建模，近年来的研究成果包括Coarse-to-Fine Volumetric Prediction、A simple yet effective baseline、RepNet、Generating Multiple Hypotheses等，这些方法旨在从不同角度解决3D空间中人体姿态的估计问题。

       通过上述介绍，我们可以看到人体关键点检测是一个跨学科、技术密集型的研究领域，其应用广泛且挑战性显著。未来，随着深度学习、计算机视觉等技术的不断进步，人体关键点检测的精度和效率将有望得到进一步提升。

3dmm算法全称

       3DMM是一种人脸形状和外观的统计模型, 全称是3D Morphable Face Model, 即可变性人脸模型. 首先利用高精度一起扫描多组人脸3D数据, 并进行对齐. 之后利用PCA从这些三维形状和颜色数据中得到更低维的子空间.可变性体现在可以在这些PCA子空间进行组合变形, 将一个人脸的特性转移到另外一个人脸, 或者生成新的人脸.P(S,ρ):R

       3N

       →R

       2N

       其中S

       bold{ S}S代表人脸形状, ρ

       rhoρ代表相机参数.模型坐标系统到三维相机坐标系统

       v c = [ x c , y c , z c ] T = R v + t

       bold{ v}_c = [x_c, y_c, z_c]^T =

       bold{ R}

       bold{ v} +

       bold{ t}vc=[xc,yc,zc]T=Rv+tR

       bold{ R}R代表3 *3的旋转矩阵, t

       bold{ t}t代表三维平移向量

       应用相机投影到二维空间

       v ′ = π ( ρ i n t r , v c )

       bold{ v}' =

       pi(

       rho_{ intr},

       bold{ v}_c)v′=π(ρintr,vc)其中ρ i n t r

       rho_{ intr}ρintr代表相机的内参.

       例如对于可缩放的正交投影, 内参只有一个缩放因子s ss, 这样相机的所有参数就是

       ρ = [ s , R , t x , t y ]

       rho = [s,

       bold{ R}, t_x, t_y]ρ=[s,R,tx,ty]

       我们在姿态估计的时候, 需要恢复这些参数.