저자 및 소속
Tahar Chettaoui
Fraunhofer Institute for Computer Graphics Research IGD
Guray Ozgur
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Eduarda Caldeira
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Naser Damer
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Fadi Boutros
Fraunhofer Institute for Computer Graphics Research IGD
해결하는 문제
ViT-HarDis는 특히 임베딩이 다른 신원과 위험할 정도로 가까운 경우 중복된 주의를 집중시키는 것을 목표로 합니다. 추론 대기 시간, 모델 모양 및 임베딩 인터페이스를 변경하지 않고 유지하면서 대규모 및 저해상도 얼굴 인식을 개선하도록 설계되었습니다.
핵심 결과
제어된 ViT-S 절제에서 FAR 1e-4의 TAR은 IJB-B에서는 84.46%에서 85.72%로, IJB-C에서는 88.18%에서 89.09%로 증가합니다. WebFace4M에서 훈련된 ViT-B를 사용하면 이 방법은 IJB-B에서 95.84%, IJB-C에서 97.24%, TinyFace Rank-1에서 75.97%를 보고하여 ViT 기반 시스템 비교에서 선두를 달리고 있습니다. 저자는 WebFace4M에서 훈련 시간이 약 30% 더 길다고 보고했지만 페널티는 훈련 전용이기 때문에 추론 비용은 변하지 않습니다.
초록
ViT(Vision Transformers)의 다중 헤드 주의는 머리 전반에 걸쳐 독립적인 주의 패턴을 허용하지만 명시적인 정규화가 없으면 머리는 보완적인 역할이 아닌 중복 패턴을 학습할 수 있습니다. 상관 기반 페널티는 머리 분리를 장려하지만 모든 훈련 샘플에 균일한 정규화를 적용합니다. 얼굴 인식(FR)에서는 임베딩이 경쟁 ID에 가까운 하드 샘플이 최적화 및 일반화에 중요합니다. 이에 동기를 부여하여 우리는 샘플 난이도에 대한 주의 헤드 분리를 조건으로 하는 ViT-HarDis를 제안합니다. 네거티브 클래스 센터에 대한 코사인 유사성이 높은 샘플은 더 강한 헤드 상관 관계를 수신하여 신원 모호성이 가장 높은 전문화를 적용합니다. 실험 결과 대부분의 벤치마크에서 기준선과 균일한 풀림 모두에 대한 개선이 나타났습니다. 우리의 분석에 따르면 ViT-HarDis는 경쟁 클래스 센터에 대한 하드 샘플의 유사성을 줄이는 동시에 헤드간 주의 유사성을 줄이며, 최종 변환기 레이어에만 분리를 적용하는 것이 전체 네트워크를 정규화하는 것보다 성능이 우수하다는 것을 보여줍니다. WebFace4M에서 교육을 받은 ViT-HarDis는 IJB-B, IJB-C 및 TinyFace Rank-1에서 ViT 기반 방법 중 SOTA 결과를 달성하는 동시에 MS1MV3에서 교육을 받을 때 최고의 IJB-B 및 TinyFace 결과를 달성하여 아키텍처 수정이나 추가 추론 비용 없이 FR을 향상시킵니다. 코드: https://github.com/TaharChettaoui/Hard-Sample-Conditioned-Attention-for-FR.
연구 출발점
Vision Transformer는 다양한 얼굴 영역을 다양한 주의 머리에 할당할 수 있지만 이러한 머리는 종종 중복 패턴으로 수렴됩니다. 경쟁 클래스 센터 근처의 어려운 샘플이 확인 오류를 결정할 가능성이 가장 높은 샘플임에도 불구하고 균일한 역상관 페널티는 쉬운 정면 초상화와 신원이 모호한 하드 샘플을 모두 처리합니다. 이 백서는 배포된 아키텍처를 변경하지 않고도 이러한 어려운 정체성에 교육 역량을 집중할 수 있는지 묻습니다.
방법
이 방법은 코사인 유사성부터 가장 가까운 네거티브 클래스 중심까지 샘플 경도를 측정합니다. 선택된 각 변환기 블록에 대해 헤드 간 주의 상관 페널티, 정확하게 분류된 샘플에 대해 더 강력한 페널티를 적용하는 가중치를 계산하고 이를 일반 마진 기반 얼굴 인식 손실에 추가합니다. 실험에서는 기준선, 균일한 풀림, 경도 조건 풀림을 비교합니다. 레이어 절제는 변압기 블록의 마지막 1/4만 정규화하는 것이 모든 곳에 제약 조건을 적용하는 것보다 더 효과적이라는 것을 보여줍니다.
논문 요약
이미 ViT 얼굴 인코더를 사용하는 팀이라면 추론 시스템을 다시 만드는 대신 학습 절차를 개선할 수 있습니다. 대규모·저해상도 난이도 높은 평가에서 효과가 크지만 학습 시간이 늘어나므로 실제 대상 집단에서 검증해야 합니다.