Atenção descorrelacionada condicionada por amostras difíceis para reconhecimento facial robusto
Autores e instituições
Tahar Chettaoui
Fraunhofer Institute for Computer Graphics Research IGD
Guray Ozgur
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Eduarda Caldeira
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Naser Damer
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Fadi Boutros
Fraunhofer Institute for Computer Graphics Research IGD
Que problema resolve
ViT-HarDis visa atenção redundante especificamente onde a incorporação está perigosamente próxima de outra identidade. Ele foi projetado para melhorar o reconhecimento facial em grande escala e baixa resolução, mantendo inalteradas a latência de inferência, o formato do modelo e as interfaces de incorporação.
Resultado-chave
Na ablação controlada de ViT-S, o TAR no FAR 1e-4 sobe de 84,46% para 85,72% no IJB-B e de 88,18% para 89,09% no IJB-C. Com ViT-B treinado em WebFace4M, o método reporta 95,84% em IJB-B, 97,24% em IJB-C e 75,97% TinyFace Rank-1, liderando os sistemas baseados em ViT comparados. O custo de inferência permanece inalterado porque a penalidade é apenas de treinamento, embora os autores relatem treinamento cerca de 30% mais longo no WebFace4M.
Resumo
A atenção de múltiplas cabeças em Vision Transformers (ViTs) permite padrões de atenção independentes entre as cabeças, mas sem regularização explícita, as cabeças podem aprender padrões redundantes em vez de funções complementares. Penalidades baseadas em correlação incentivam o desembaraço da cabeça, mas aplicam regularização uniforme em todas as amostras de treinamento. No reconhecimento facial (FR), amostras rígidas cujas incorporações estão próximas de identidades concorrentes são críticas para otimização e generalização. Motivados por isso, propomos ViT-HarDis, que condiciona o desembaraço da cabeça da atenção à dificuldade da amostra: amostras com alta similaridade de cosseno com centros de classe negativos recebem decorrelação da cabeça mais forte, reforçando a especialização onde a ambiguidade de identidade é maior. Os experimentos mostram melhorias tanto na linha de base quanto no desembaraço uniforme na maioria dos benchmarks. Nossa análise mostra que o ViT-HarDis reduz a similaridade de amostras duras com centros de classe concorrentes, ao mesmo tempo que diminui a similaridade de atenção entre cabeças, e que aplicar o desemaranhamento apenas às camadas finais do transformador supera a regularização de toda a rede. Treinado em WebFace4M, ViT-HarDis alcança resultados SOTA entre métodos baseados em ViT em IJB-B, IJB-C e TinyFace Rank-1, ao mesmo tempo em que alcança os melhores resultados de IJB-B e TinyFace quando treinado em MS1MV3, melhorando FR sem modificações arquitetônicas ou custo adicional de inferência. Código: https://github.com/TaharChettaoui/Hard-Sample-Conditioned-Attention-for-FR.
Ponto de partida da pesquisa
Os Vision Transformers podem alocar diferentes regiões faciais para diferentes cabeças de atenção, mas essas cabeças geralmente convergem para padrões redundantes. As penalidades de decorrelação uniformes tratam um retrato frontal fácil e uma amostra difícil com identidade ambígua, embora amostras difíceis próximas a centros de classe concorrentes sejam as que têm maior probabilidade de determinar erros de verificação. O artigo questiona se a capacidade de formação pode concentrar-se nessas identidades difíceis sem alterar a arquitetura implementada.
Método
O método mede a dureza da amostra a partir da similaridade do cosseno com o centro de classe negativo mais próximo. Para cada bloco transformador selecionado, ele calcula uma penalidade de correlação de atenção entre cabeças, pondera essa penalidade mais fortemente para amostras mais difíceis e corretamente classificadas e adiciona-a à perda de reconhecimento facial baseada em margem normal. Os experimentos comparam a linha de base, o desembaraço uniforme e o desembaraço condicionado pela dureza; as ablações de camadas mostram que regularizar apenas o último quarto dos blocos do transformador é mais eficaz do que aplicar a restrição em todos os lugares.
Síntese do artigo
Para equipes que já usam um codificador facial ViT, trata-se de melhorar o procedimento de treinamento, não de refazer a implantação. Os ganhos são maiores em testes difíceis, de grande escala e baixa resolução, mas exigem mais tempo de treinamento e validação na população-alvo.