著者・所属
Mansur Bultygov
VisionLabs
Vadim Seliutin
Amazon Web Services
VisionLabs (work performed there)
Dmitry Nekhaev
VisionLabs
Ivan Laptev
Mohamed bin Zayed University of Artificial Intelligence
何を解決するか
DenseFaceは、人種による誤一致の格差を、基盤となる顔エンコーダを変更または再訓練することなく比較時に減らせるかどうかを問います。また、サブグループの精度の標準偏差を、展開指向のプロトコルに置き換えます:白人の偽陽性率を0.001に設定し、他のすべてのコホートが公平性からどれだけ逸脱するかを測定します。
主要結果
Glint360K、MS1MV2、WebFace4M、WebFace12M、BUPT-BalancedFaceで訓練されたCosFaceおよびAdaFaceモデル全体で、同じグローバル閾値は大幅に均等化されます。BUPTモデルでは、アフリカ系コホートの偽陽性倍率は6.15から1.43に、インド系コホートは4.01から1.03に低下し、白人の基準と比較されます。従来の認証精度は維持されます:CosFace Glint360Kモデルでは、RFWの平均精度は98.61%から98.68%に上昇し、サブグループの標準偏差は0.53から0.44に低下します。回帰器は著者のGPUテストで約0.2%のメモリと1.75%のエンドツーエンド遅延を追加し、最適化されたCPUスコア計算は生のコサイン計算の約1.5倍のコストです。結果は依然として代表的なアンカーまたは回帰器の訓練人口に依存します。
要旨
顔認識における着実な進展にもかかわらず、現在の顔認識モデルは依然として重大な人口統計的バイアスに悩まされています。バイアス軽減のためのアプローチは提案されてきましたが、既存の方法はしばしば訓練手順に制約を課し、認識精度の低下を引き起こします。この問題に対処するために、我々は、精度を損なうことなく事前学習された顔認識モデルの人種的バイアスを低減する手法を導入します。そのために、各人物の顔埋め込みをフォン・ミーゼス・フィッシャー(MF)分布でモデル化します。次に、人口統計属性とMF分布の密度との依存関係を観察し、MF分布の違いを考慮した確率的顔照合手法であるDenseFaceを提案します。我々の大規模な実験により、DenseFaceはネットワークアーキテクチャ、訓練データセット、損失関数の異なる強力な顔認識モデルにおいて一貫して人種的バイアスを低減することが示されました。特に、DenseFaceは認識精度を保持し、基盤となる顔認識モデルの再訓練を必要としません。我々の研究は、以前に採用されたバイアス測定についても検討し、提案を行っています。
研究の出発点
顔認識システムはしばしば1つのグローバルな判定閾値を使用しますが、不正利用者のスコア分布は異なる人口統計群ごとに異なります。したがって、各グループが独自の交差検証された閾値を受け取る場合、モデルはRFWで正確に見えるかもしれませんが、実際のサービスでは非常に異なる誤照合率を生み出す可能性があります。多くの緩和方法も、認識性能を低下させる可能性があるバランスの取れた再学習データ、アーキテクチャの変更、または公平性損失を必要とし、承認済みモデルに後付けするのは困難です。
手法
各顔埋め込みについて、この方法は人口統計学的にバランスの取れたアンカーセット内で最も近い同一人物を見つけ、局所的なクラス間密度を推定します。そして埋め込みを、その密度を反映した濃度を持つフォン・ミーゼス-フィッシャー分布で表現し、ペアを生のコサイン類似度ではなく相互尤度でスコアリングします。近傍の同一人物はマージンで分離され、軽量回帰器のバリアントは密度を直接予測するため、実際のマッチングでは大規模なアンカー検索は必要ありません。エンコーダー、埋め込み次元、登録データは変更されません。
論文要点
比較層の公正性制御は、モデルの再トレーニングを行わずにコーホートの均等性を改善することができますが、実際の運用しきい値での代表的なキャリブレーションデータやサブグループの監視の必要性をなくすことはできません。