Weave Mamba Fusion: Globale skalenübergreifende Interaktion für effiziente Gesichtsdetektion
Autoren & Institutionen
Dohun Kim
School of Data Science, The University of Suwon
Jinmyung Jung
School of Data Science, The University of Suwon
Welches Problem es löst
WeaveFace zielt darauf ab, einem Gesichtsdetektor mit Submillionen-Parametern eine globale skalenübergreifende Interaktion hinzuzufügen, ohne den Speicher- und Rechenaufwand für die Verkettung vollständiger Feature-Maps oder die Anwendung quadratischer Selbstaufmerksamkeit zu bezahlen.
Zentrales Ergebnis
Auf WIDER FACE meldet WeaveFace einen mittleren AP von 91,41 % mit 0,34 Millionen Parametern und 1,16 GFLOPs. Sein Hard-Subset-AP beträgt 87,14 %, der Bereich, in dem kleine und verdeckte Flächen das skalenübergreifende Design am meisten beanspruchen. Das Papier berichtet über eine höhere Genauigkeit als frühere Detektoren unter 0,5 Millionen Parametern.
Abstract
Merkmalspyramidenmethoden, von FPN bis BiFPN, haben durch die Fusion von Merkmalen mit mehreren Maßstäben eine starke Leistung bei der Gesichtserkennung erzielt. Die Erkennung von Gesichtern unter uneingeschränkten Bedingungen wie kleinem Maßstab, Okklusion und extremer Pose bleibt jedoch weiterhin schwierig, da hierfür globale maßstabsübergreifende Abhängigkeiten erforderlich sind, die durch lokale Fusion nicht modelliert werden können. Zustandsraummodelle wie Mamba liefern globalen Kontext mit linearer Komplexität, indem sie Merkmale als Sequenz scannen, und bieten daher eine vielversprechende Richtung für dieses Problem. Dennoch müssen für einen solchen Scan die beiden Pyramidenskalen in einer einzigen Feature-Map kombiniert werden, und die Art und Weise ihrer Kombination bestimmt, ob die skalenübergreifende Struktur erhalten bleibt. Bei der Summierung werden die beiden Skalen vor dem Scan zusammengefasst, sodass der Scan keine skalenübergreifende Struktur ausnutzen kann, während bei der Verkettung beide Skalen erhalten bleiben, allerdings zu weitaus höheren Kosten. Um dieses Problem anzugehen, schlagen wir Weave Mamba Fusion (WMF) vor, das zwei benachbarte Pyramidenskalen Spalte für Spalte verschachtelt, sodass sich jeder Schritt eines horizontalen bidirektionalen SS2D-Scans von einer Skala zur anderen bewegt. Mit Teilkanalverarbeitung und parameterfreiem Deweaving ermöglicht WMF eine effiziente skalenübergreifende Interaktion unter Beibehaltung der Merkmalsstruktur. Die Integration von WMF in jeden Fusionsknoten ergibt WeaveBiFPN, den Hals unseres WeaveFace-Detektors. Auf WIDER FACE erreicht WeaveFace einen mittleren AP von 91,41 % mit nur 0,34 Mio. Parametern und 1,16 GFLOPs und übertrifft damit frühere Detektoren unter 0,5 Mio. Parametern. Die größten Zuwächse gibt es in der Untergruppe „Schwer“, wo es 87,14 % AP erreicht. Der Code ist öffentlich verfügbar unter https://github.com/dohun-mat/WeaveMambaFusion.
Ausgangspunkt der Forschung
Kleine, verdeckte und stark gedrehte Gesichter benötigen feine räumliche Details aus hochauflösenden Pyramidenebenen und semantischen Kontext aus niedrigaufgelösten Ebenen. Die Standard-FPN- und BiFPN-Fusion erfolgt lokal, während volle Aufmerksamkeit bei den von einem leichten Detektor verwendeten Auflösungen zu teuer sein kann.
Methode
Weave Mamba Fusion verschachtelt Säulen benachbarter Pyramidenebenen, sodass ein bidirektionaler horizontaler SS2D-Scan bei jedem Schritt zwischen den Skalen wechselt. Nur ein Teil der Kanäle wird verarbeitet und ein Parameter-freier Entwebungsvorgang stellt die ursprünglichen Maßstäbe wieder her. Das Ersetzen jedes BiFPN-Fusionsknotens durch diesen Operator erzeugt WeaveBiFPN, das als Hals des WeaveFace-Detektors verwendet wird.
Einordnung
Dieser Detektor ist für Edge-Systeme mit begrenztem Parameter- und Rechenbudget interessant, insbesondere bei vielen kleinen Gesichtern. Da die Effizienz vor allem über Modellgröße und FLOPs belegt wird, sollten Teams die tatsächliche Latenz und den Speicherbedarf auf ihrer Zielhardware messen.