著者・所属
Tahar Chettaoui
Fraunhofer Institute for Computer Graphics Research IGD
Guray Ozgur
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Eduarda Caldeira
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Naser Damer
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Fadi Boutros
Fraunhofer Institute for Computer Graphics Research IGD
何を解決するか
ViT-HarDisは、特に顔埋め込みが他人の埋め込みに近い場合に、アテンションの冗長性を抑えます。推論遅延、モデル構造、埋め込みのインターフェイスを変えずに、大規模および低解像度の顔認識を改善することが目的です。
主要結果
制御された ViT-S アブレーションでは、FAR 1e-4 の TAR は、IJB-B では 84.46% から 85.72% に、IJB-C では 88.18% から 89.09% に上昇しました。 WebFace4M でトレーニングされた ViT-B を使用すると、このメソッドは IJB-B で 95.84%、IJB-C で 97.24%、TinyFace Rank-1 で 75.97% を報告し、比較した ViT ベースのシステムをリードしました。ペナルティはトレーニングのみであるため推論コストは変わりませんが、著者らは WebFace4M でのトレーニングが約 30% 長くなったと報告しています。
要旨
Vision Transformer(ViT)のマルチヘッドアテンションでは、各ヘッドが異なるパターンを学習できる一方、明示的な正則化がなければ冗長なパターンに収束することがあります。従来の相関ペナルティはヘッドの分化を促しますが、すべての学習例に同じ強さで適用されます。顔認識では、他人のクラス中心に近い埋め込みを持つ難例が最適化と汎化を左右します。ViT-HarDisは難易度に応じてヘッド間の非相関化を調整し、他クラス中心とのコサイン類似度が高い例ほど強い制約を与えます。実験では、多くのベンチマークでベースラインと一律の非相関化を上回りました。難例と競合するクラス中心との類似度、およびヘッド間のアテンションの類似度が低下し、終盤のTransformer層だけへの適用が全層への適用より有効でした。WebFace4Mで学習したモデルは、比較対象のViT方式の中でIJB-B、IJB-C、TinyFaceのRank-1で最高の結果を示し、MS1MV3で学習した場合もIJB-BとTinyFaceで最高でした。構造の変更や追加の推論コストは不要です。コード:https://github.com/TaharChettaoui/Hard-Sample-Conditioned-Attention-for-FR
研究の出発点
Vision Transformerは顔の異なる領域に別々のアテンションヘッドを割り当てられますが、複数のヘッドが似たパターンに集中することがあります。一律の非相関化では、容易な正面顔と識別が曖昧な難例が同じ扱いになります。しかし、本人照合の誤りを左右しやすいのは、他人のクラス中心に近い難例です。本研究は、推論時の構造を変えず、こうした難例に学習能力を集中できるかを検討します。
手法
最も近い他クラス中心とのコサイン類似度からサンプルの難易度を求めます。対象のTransformerブロックでヘッド間のアテンション相関にペナルティを与え、正しく分類できた例のうち難しいものほど重みを大きくし、通常のマージン付き顔認識損失に加えます。ベースライン、一律の非相関化、難易度に応じた非相関化を比較し、最後の4分の1のブロックだけを正則化する方が全層への適用より有効であることを示します。
論文要点
ViT顔エンコーダをすでに利用するチームにとって、これは推論システムの作り直しではなく、学習手順への改善です。大規模・低解像度の難しい評価で効果が大きい一方、学習時間は増えるため、対象集団での検証が必要です。