Weave Mamba Fusion : interaction globale entre échelles pour la détection des visages avec un modèle léger
Auteurs & institutions
Dohun Kim
School of Data Science, The University of Suwon
Jinmyung Jung
School of Data Science, The University of Suwon
Problème traité
WeaveFace vise à ajouter une interaction globale à plusieurs échelles à un détecteur de visage de moins d'un million de paramètres sans payer les coûts de mémoire et de calcul liés à la concaténation de cartes de caractéristiques complètes ou à l'application d'une auto-attention quadratique.
Résultat clé
Sur WIDER FACE, WeaveFace rapporte un AP moyen de 91,41 % avec 0,34 million de paramètres et 1,16 GFLOP. Son AP du sous-ensemble dur est de 87,14 %, la zone où les faces petites et occluses mettent le plus l'accent sur la conception à échelle croisée. Le document fait état d'une précision plus élevée que celle des détecteurs précédents, inférieure à 0,5 million de paramètres.
Résumé
Les méthodes pyramidales de fonctionnalités, de FPN à BiFPN, ont atteint de solides performances en matière de détection de visages en fusionnant des fonctionnalités multi-échelles. Cependant, la détection de visages dans des conditions non contraintes, telles qu'une petite échelle, une occlusion et une pose extrême, reste difficile, car elle nécessite des dépendances globales à plusieurs échelles que la fusion locale ne peut pas modéliser. Les modèles d'espace d'états tels que Mamba fournissent un contexte global avec une complexité linéaire en analysant les caractéristiques sous forme de séquence, et offrent donc une direction prometteuse pour ce problème. Néanmoins, une telle analyse nécessite que les deux échelles pyramidales soient combinées en une seule carte de caractéristiques, et la manière dont elles sont combinées détermine si la structure multi-échelles est préservée. La sommation réduit les deux échelles avant l'analyse, de sorte que l'analyse n'a pas de structure multi-échelles à exploiter, tandis que la concaténation conserve les deux échelles mais à un coût bien plus élevé. Pour résoudre ce problème, nous proposons Weave Mamba Fusion (WMF), qui entrelace deux échelles pyramidales adjacentes colonne par colonne afin que chaque étape d'un scan SS2D bidirectionnel horizontal se déplace d'une échelle à l'autre. Grâce au traitement des canaux partiels et au détissage sans paramètres, WMF permet une interaction multi-échelle efficace tout en préservant la structure des fonctionnalités. L'intégration de WMF dans chaque nœud de fusion donne WeaveBiFPN, le cou de notre détecteur WeaveFace. Sur WIDER FACE, WeaveFace atteint un AP moyen de 91,41% avec seulement 0,34 M de paramètres et 1,16 GFLOP, surpassant les détecteurs précédents sous 0,5 M de paramètres. Ses gains les plus importants se situent sur le sous-ensemble Hard, où il atteint 87,14% AP. Le code est accessible au public sur https://github.com/dohun-mat/WeaveMambaFusion.
Point de départ de la recherche
Les faces petites, obstruées et fortement pivotées nécessitent des détails spatiaux fins provenant des niveaux pyramidaux haute résolution et un contexte sémantique provenant des niveaux basse résolution. La fusion FPN et BiFPN standard est locale, tandis qu'une attention totale peut s'avérer trop coûteuse aux résolutions utilisées par un détecteur léger.
Méthode
Weave Mamba Fusion entrelace les colonnes des niveaux pyramidaux adjacents afin qu'un scan SS2D horizontal bidirectionnel alterne entre les échelles à chaque étape. Seule une partie des canaux est traitée, et une opération de détissage sans paramètre restaure les échelles d'origine. Le remplacement de chaque nœud de fusion BiFPN par cet opérateur produit WeaveBiFPN, qui est utilisé comme col du détecteur WeaveFace.
À retenir
Ce détecteur est prometteur pour les systèmes embarqués limités en paramètres et en calcul, notamment en présence de petits visages. Les gains d’efficacité étant surtout mesurés par la complexité du modèle, il faut vérifier la latence réelle et la mémoire utilisée sur le matériel cible.