作者与机构
Tahar Chettaoui
Fraunhofer Institute for Computer Graphics Research IGD
Guray Ozgur
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Eduarda Caldeira
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Naser Damer
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Fadi Boutros
Fraunhofer Institute for Computer Graphics Research IGD
解决了什么问题
ViT-HarDis 重点抑制身份嵌入接近其他类别时的冗余注意力,目标是在保持推理延迟、模型结构和嵌入接口不变的情况下,改善大规模和低分辨率人脸识别。
关键结果
在受控 ViT-S 消融中,FAR 1e-4 处的 TAR 在 IJB-B 上从 84.46% 上升到 85.72%,在 IJB-C 上从 88.18% 上升到 89.09%。 ViT-B 在 WebFace4M 上进行训练后,该方法在 IJB-B 上的准确率达到 95.84%,在 IJB-C 上的准确率达到 97.24%,在 TinyFace Rank-1 上的准确率达到 75.97%,领先于基于 ViT 的系统。尽管作者报告说 WebFace4M 上的训练时间延长了大约 30%,但推理成本没有变化,因为惩罚仅针对训练。
摘要
视觉 Transformer(ViT)的多头注意力允许不同注意力头学习独立模式,但缺少显式正则化时,各头可能学到冗余而非互补的信息。基于相关性的惩罚可以促进注意力头分工,却通常对所有训练样本采用相同强度。人脸识别中,嵌入靠近其他身份类别中心的困难样本对优化和泛化尤其重要。为此,ViT-HarDis 根据样本难度调节注意力头的去相关约束:样本与负类中心的余弦相似度越高,约束越强,从而在身份最容易混淆之处促进不同头的分工。实验在多数基准上优于基线和均匀去相关方式。分析显示,该方法同时降低困难样本与竞争类别中心的相似度,以及注意力头之间的相似度;仅在末段 Transformer 层施加约束比约束整个网络更有效。WebFace4M 训练的模型在所比较的 ViT 方法中取得 IJB-B、IJB-C 和 TinyFace Rank-1 最佳结果;MS1MV3 训练的模型也在 IJB-B 和 TinyFace 上领先,且无需修改架构或增加推理成本。代码:https://github.com/TaharChettaoui/Hard-Sample-Conditioned-Attention-for-FR
研究出发点
视觉 Transformer 能让不同注意力头关注不同面部区域,但多个头往往收敛到相似的冗余模式。统一的去相关惩罚会同样对待简单正面照和身份难以区分的困难样本,而靠近其他身份类别中心的样本往往更容易影响验证错误。研究因此探索:能否在不改变部署架构的前提下,把更多学习能力用于这些困难身份。
方法概述
方法先根据样本与最近负类中心的余弦相似度估计难度,再在选定的 Transformer 块中计算注意力头之间的相关性惩罚。对于已正确分类但较难的样本,给予更高的惩罚权重,并将其加入常规的间隔型人脸识别损失。实验对比基线、均匀去相关和难度条件去相关;层级消融表明,只约束最后四分之一的 Transformer 块比约束整个网络更有效。
论文总结
对于已采用 ViT 人脸编码器的团队,这是一项训练阶段的改进,无需重写部署流程。它在大规模和低分辨率的困难测试中收益较明显,但会增加训练时间,仍需在实际目标人群上验证。