DenseFace: Mitigação de Viés em Reconhecimento Facial via Correspondência Probabilística Sensível à Densidade
Autores e instituições
Mansur Bultygov
VisionLabs
Vadim Seliutin
Amazon Web Services
VisionLabs (work performed there)
Dmitry Nekhaev
VisionLabs
Ivan Laptev
Mohamed bin Zayed University of Artificial Intelligence
Que problema resolve
DenseFace questiona se as disparidades de falso-positivo racial podem ser reduzidas no momento da comparação, sem alterar ou re-treinar o codificador facial subjacente. Ele também substitui o desvio padrão de precisão por subgrupo por um protocolo voltado para implantação: definir um limiar na taxa de falso-positivo de 0,001 para caucasianos e medir o quanto cada outro grupo se afasta da paridade.
Resultado-chave
Nos modelos CosFace e AdaFace treinados com Glint360K, MS1MV2, WebFace4M, WebFace12M e BUPT-BalancedFace, o mesmo limiar global torna-se substancialmente mais uniforme. No modelo BUPT, o múltiplo de falso-positivo do grupo africano cai de 6,15 para 1,43 e o grupo indiano de 4,01 para 1,03 em relação à referência caucasiana. A precisão convencional da verificação é preservada: para um modelo CosFace Glint360K, a precisão média do RFW sobe de 98,61% para 98,68%, enquanto o desvio padrão por subgrupo cai de 0,53 para 0,44. O regressor adiciona cerca de 0,2% de memória e 1,75% de latência de ponta a ponta no teste em GPU dos autores; seu cálculo otimizado em CPU custa cerca de 1,5 vezes o custo do cosseno bruto. Os resultados ainda dependem de um conjunto de referência representativo ou população de treinamento do regressor.
Resumo
Apesar do progresso constante no reconhecimento facial, os modelos atuais de reconhecimento facial ainda sofrem de vieses demográficos significativos. Embora tenham sido propostas abordagens para mitigar o viés, os métodos existentes frequentemente impõem restrições ao procedimento de treinamento e resultam na degradação da precisão do reconhecimento. Para abordar essa questão, apresentamos aqui um método que reduz o viés racial em modelos de reconhecimento facial pré-treinados sem comprometer sua precisão. Para tanto, modelamos as embeddings faciais de cada pessoa usando a distribuição von Mises-Fisher (MF). Em seguida, observamos a dependência entre os atributos demográficos e a densidade das distribuições MF, e propomos o DenseFace, um procedimento probabilístico de correspondência facial que leva em conta as diferenças nas distribuições MF. Nossos extensos experimentos demonstram que o DenseFace reduz consistentemente o viés racial em modelos de reconhecimento facial avançados, variando nas arquiteturas de rede, conjuntos de dados de treinamento e funções de perda. Notavelmente, o DenseFace preserva a precisão do reconhecimento e não requer re-treinamento do modelo de reconhecimento facial subjacente. Nosso trabalho também investiga medidas de viés previamente adotadas e faz sugestões.
Ponto de partida da pesquisa
Sistemas de reconhecimento facial frequentemente usam um único limiar de decisão global, mas as distribuições de pontuação de impostores diferem entre grupos demográficos. Um modelo, portanto, pode parecer preciso no RFW quando cada grupo recebe seu próprio limiar validado cruzadamente, enquanto produz taxas de falso-positivo muito diferentes em um serviço real. A maioria dos métodos de mitigação também requer dados de retrainamento balanceados, mudanças na arquitetura ou perdas de equidade que podem reduzir o desempenho do reconhecimento e são difíceis de implementar em um modelo aprovado.
Método
Para cada embeddin facial, o método encontra as identidades mais próximas em um conjunto de referência demograficamente equilibrado e estima a densidade interclasse local. Representa o embedding com uma distribuição von Mises-Fisher cuja concentração reflete essa densidade, e em seguida avalia um par pela probabilidade mútua em vez da similaridade cosseno bruta. Uma margem separa as identidades de vizinhos próximos, e uma variante leve de regressor prevê a densidade diretamente para que a comparação em produção não precise de uma pesquisa em grande conjunto de referência. O codificador, a dimensão do embedding e os dados de cadastro permanecem inalterados.
Síntese do artigo
Um controle de justiça na camada de comparação pode melhorar a paridade de coorte sem reabrir o treinamento do modelo, mas não elimina a necessidade de dados de calibração representativos e monitoramento de subgrupos no limiar operacional real.