著者・所属
Dohun Kim
School of Data Science, The University of Suwon
Jinmyung Jung
School of Data Science, The University of Suwon
何を解決するか
WeaveFace は、完全な特徴マップを連結したり二次セルフ アテンションを適用したりするためのメモリと計算コストを支払うことなく、100 万未満のパラメータの顔検出器にグローバルなクロススケール インタラクションを追加することを目的としています。
主要結果
WIDER FACE では、WeaveFace は 34 万のパラメータと 1.16 GFLOP で 91.41% の平均 AP を報告します。そのハードサブセット AP は 87.14% であり、小さくて遮蔽された面がクロススケール設計に最もストレスを与える領域です。この論文では、50 万パラメータ以下で以前の検出器よりも高い精度が報告されています。
要旨
FPN から BiFPN までの特徴ピラミッド法は、マルチスケール特徴を融合することで顔検出において強力なパフォーマンスを達成しました。ただし、小規模、オクルージョン、極端なポーズなどの制約のない条件下で顔を検出することは、ローカル フュージョンではモデル化できないグローバルなスケール間の依存関係が必要となるため、依然として困難です。 Mamba などの状態空間モデルは、フィーチャをシーケンスとしてスキャンすることで線形複雑性を備えたグローバル コンテキストを提供するため、この問題に対して有望な方向性を提供します。それにもかかわらず、このようなスキャンでは 2 つのピラミッド スケールを 1 つの特徴マップに結合する必要があり、それらを結合する方法によって、スケール間の構造が保存されるかどうかが決まります。合計ではスキャン前に 2 つのスケールが折りたたまれるため、スキャンには利用できるクロススケール構造がありませんが、連結では両方のスケールが維持されますが、コストがはるかに高くなります。これに対処するために、Weave Mamba Fusion (WMF) を提案します。これは、水平双方向 SS2D スキャンの各ステップが 1 つのスケールから別のスケールに移動するように、2 つの隣接するピラミッド スケールを列ごとにインターリーブします。 WMF は、部分チャネル処理とパラメーターフリーのデウィービングにより、特徴構造を維持しながら効率的なクロススケール相互作用を可能にします。 WMF をすべての融合ノードに統合すると、WeaveFace 検出器のネックである WeaveBiFPN が生成されます。 WIDER FACE では、WeaveFace はわずか 0.34M パラメータと 1.16 GFLOP で 91.41% の平均 AP を達成し、0.5M パラメータの下で以前の検出器を上回りました。最大の増加はハード サブセットであり、87.14% AP に達します。コードは https://github.com/dohun-mat/WeaveMambaFusion で公開されています。
研究の出発点
小さく、遮蔽され、強く回転された顔には、高解像度のピラミッド レベルからの詳細な空間的詳細と、低解像度レベルからのセマンティック コンテキストが必要です。標準の FPN と BiFPN の融合はローカルですが、軽量の検出器で使用される解像度では完全な注意を払うとコストがかかりすぎる可能性があります。
手法
Weave Mamba Fusion は、隣接するピラミッド レベルの列をインターリーブするため、双方向の水平 SS2D スキャンが各ステップのスケール間で交互に行われます。チャンネルの一部のみが処理され、パラメータを使用しないデウィービング操作により元のスケールが復元されます。各 BiFPN 融合ノードをこのオペレーターで置き換えると、WeaveBiFPN が生成され、WeaveFace 検出器のネックとして使用されます。
論文要点
パラメータ数と演算量が限られるエッジ環境、特に小さな顔が多い場面に有望な検出器です。ただし、効率の主な根拠はモデル規模と演算量なので、対象アクセラレータで実測の遅延とメモリ使用量を確認する必要があります。