Attention décorrélée conditionnée par les exemples difficiles pour une reconnaissance faciale robuste
Auteurs & institutions
Tahar Chettaoui
Fraunhofer Institute for Computer Graphics Research IGD
Guray Ozgur
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Eduarda Caldeira
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Naser Damer
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Fadi Boutros
Fraunhofer Institute for Computer Graphics Research IGD
Problème traité
ViT-HarDis cible une attention redondante spécifiquement là où l'intégration est dangereusement proche d'une autre identité. Il est conçu pour améliorer la reconnaissance faciale à grande échelle et à basse résolution tout en conservant inchangées la latence d’inférence, la forme du modèle et les interfaces d’intégration.
Résultat clé
Sur l'ablation contrôlée ViT-S, le TAR à FAR 1e-4 passe de 84,46 % à 85,72 % sur IJB-B et de 88,18 % à 89,09 % sur IJB-C. Avec ViT-B formé sur WebFace4M, la méthode rapporte 95,84 % sur IJB-B, 97,24 % sur IJB-C et 75,97 % TinyFace Rank-1, en tête des systèmes basés sur ViT comparés. Le coût d'inférence reste inchangé car la pénalité concerne uniquement la formation, bien que les auteurs signalent une formation environ 30 % plus longue sur WebFace4M.
Résumé
L'attention multi-têtes dans Vision Transformers (ViTs) permet des modèles d'attention indépendants entre les têtes, mais sans régularisation explicite, les têtes peuvent apprendre des modèles redondants plutôt que des rôles complémentaires. Les pénalités basées sur la corrélation encouragent le démêlage de la tête, tout en appliquant une régularisation uniforme à tous les échantillons d'apprentissage. En reconnaissance faciale (FR), les échantillons durs dont les plongements se situent à proximité d'identités concurrentes sont essentiels pour l'optimisation et la généralisation. Motivés par cela, nous proposons ViT-HarDis, qui conditionne le démêlage de la tête d'attention en fonction de la difficulté de l'échantillon : les échantillons présentant une similarité cosinusoïdale élevée avec les centres de classe négative reçoivent une décorrélation de tête plus forte, renforçant la spécialisation là où l'ambiguïté d'identité est la plus élevée. Les expériences montrent des améliorations par rapport à la ligne de base et au démêlage uniforme sur la plupart des critères. Notre analyse montre que ViT-HarDis réduit la similarité des échantillons durs avec les centres de classe concurrents tout en diminuant la similarité de l'attention entre les têtes, et que l'application du démêlage uniquement aux couches finales du transformateur surpasse la régularisation de l'ensemble du réseau. Formé sur WebFace4M, ViT-HarDis obtient des résultats SOTA parmi les méthodes basées sur ViT sur IJB-B, IJB-C et TinyFace Rank-1, tout en obtenant les meilleurs résultats IJB-B et TinyFace lorsqu'il est formé sur MS1MV3, améliorant FR sans modifications architecturales ni coût d'inférence supplémentaire. Code : https://github.com/TaharChettaoui/Hard-Sample-Conditioned-Attention-for-FR.
Point de départ de la recherche
Les Transformateurs de Vision peuvent attribuer différentes régions du visage à différentes têtes d'attention, mais ces têtes convergent souvent vers des modèles redondants. Les pénalités de décorrélation uniformes traitent de la même manière un portrait frontal facile et un échantillon dur à l'identité ambiguë, même si les échantillons difficiles proches de centres de classe concurrents sont les plus susceptibles de déterminer des erreurs de vérification. Le document se demande si la capacité de formation peut être concentrée sur ces identités difficiles sans modifier l’architecture déployée.
Méthode
La méthode mesure la dureté de l'échantillon depuis la similarité cosinus jusqu'au centre de classe négative le plus proche. Pour chaque bloc de transformateur sélectionné, il calcule une pénalité de corrélation d'attention entre les têtes, pondère plus fortement les échantillons plus durs et correctement classés, et l'ajoute à la perte de reconnaissance faciale basée sur la marge normale. Les expériences comparent la ligne de base, le démêlage uniforme et le démêlage conditionné par la dureté ; les ablations de couches montrent que régulariser uniquement le dernier quart des blocs de transformateurs est plus efficace que d'appliquer la contrainte partout.
À retenir
Pour les équipes utilisant déjà un encodeur facial ViT, il s’agit d’améliorer la procédure d’entraînement, sans refondre l’inférence. Les gains sont surtout visibles sur les tests difficiles à grande échelle et à basse résolution, au prix d’un entraînement plus long et d’une validation nécessaire sur la population cible.