作者与机构
Dohun Kim
School of Data Science, The University of Suwon
Jinmyung Jung
School of Data Science, The University of Suwon
解决了什么问题
WeaveFace 旨在为亚百万参数人脸检测器添加全局跨尺度交互,而无需支付连接完整特征图或应用二次自注意力的内存和计算成本。
关键结果
在 WIDER FACE 上,WeaveFace 报告平均 AP 为 91.41%,具有 34 万个参数和 1.16 GFLOP。其硬子集 AP 为 87.14%,这是小面和遮挡面最强调跨尺度设计的区域。该论文报告了比之前低于 50 万个参数的探测器更高的准确度。
摘要
从FPN到BiFPN的特征金字塔方法通过融合多尺度特征在人脸检测中取得了强大的性能。然而,在无约束条件下(例如小尺度、遮挡和极端姿势)检测人脸仍然很困难,因为它需要局部融合无法建模的全局跨尺度依赖性。 Mamba 等状态空间模型通过将特征扫描为序列来提供具有线性复杂性的全局上下文,因此为该问题提供了一个有希望的方向。然而,这样的扫描需要将两个金字塔尺度组合成单个特征图,并且它们的组合方式决定是否保留跨尺度结构。求和在扫描之前折叠了两个尺度,因此扫描没有可利用的跨尺度结构,而串联保留了两个尺度,但成本要高得多。为了解决这个问题,我们提出了 Weave Mamba Fusion (WMF),它将两个相邻的金字塔尺度逐列交错,以便水平双向 SS2D 扫描的每一步都从一个尺度移动到另一个尺度。通过部分通道处理和无参数去编织,WMF 能够在保留特征结构的同时实现高效的跨尺度交互。将 WMF 集成到每个融合节点中会产生 WeaveBiFPN,即 WeaveFace 检测器的特征融合层。在 WIDER FACE 上,WeaveFace 仅用 0.34M 参数和 1.16 GFLOP 就实现了 91.41% 的平均 AP,在 0.5M 参数下优于之前的检测器。它的最大收益是在 Hard 子集上,达到 87.14% AP。该代码可在 https://github.com/dohun-mat/WeaveMambaFusion 上公开获取。
研究出发点
小的、遮挡的和强烈旋转的面部需要来自高分辨率金字塔级别的精细空间细节和来自低分辨率级别的语义上下文。标准 FPN 和 BiFPN 融合是局部的,而在轻量级检测器使用的分辨率下,全局注意力的成本可能太高。
方法概述
Weave Mamba Fusion 交错相邻金字塔层的列,因此双向水平 SS2D 扫描在每个步骤的尺度之间交替。仅处理部分通道,并且无参数的去编织操作恢复原始尺度。用该算子替换每个 BiFPN 融合节点会生成 WeaveBiFPN,它用作 WeaveFace 检测器的特征融合层。
论文总结
该检测器适合参数量和计算量受限的边缘部署,尤其值得在小人脸较多的场景中测试。不过论文主要用模型复杂度证明效率,仍应在目标加速器上实测推理延迟和内存占用。