Atención descorrelacionada condicionada por muestras difíciles para el reconocimiento facial robusto
Autores e instituciones
Tahar Chettaoui
Fraunhofer Institute for Computer Graphics Research IGD
Guray Ozgur
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Eduarda Caldeira
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Naser Damer
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Fadi Boutros
Fraunhofer Institute for Computer Graphics Research IGD
Qué problema resuelve
ViT-HarDis apunta a la atención redundante específicamente cuando la incrustación está peligrosamente cerca de otra identidad. Está diseñado para mejorar el reconocimiento facial a gran escala y de baja resolución manteniendo sin cambios la latencia de inferencia, la forma del modelo y las interfaces de incrustación.
Resultado clave
En la ablación controlada con ViT-S, el TAR en FAR 1e-4 aumenta del 84,46 % al 85,72 % en IJB-B y del 88,18 % al 89,09 % en IJB-C. Con ViT-B entrenado en WebFace4M, el método reporta un 95,84 % en IJB-B, un 97,24 % en IJB-C y un 75,97 % en TinyFace Rank-1, liderando los sistemas basados en ViT comparados. El costo de inferencia no cambia porque la penalización es solo para la capacitación, aunque los autores informan aproximadamente un 30% más de capacitación en WebFace4M.
Resumen
La atención de múltiples cabezas en Vision Transformers (ViTs) permite patrones de atención independientes entre cabezas, pero sin una regularización explícita, las cabezas pueden aprender patrones redundantes en lugar de roles complementarios. Las penalizaciones basadas en correlación fomentan el desenredo de la cabeza, pero aplican una regularización uniforme en todas las muestras de entrenamiento. En el reconocimiento facial (FR), las muestras duras cuyas incrustaciones se encuentran cerca de identidades en competencia son fundamentales para la optimización y la generalización. Motivados por esto, proponemos ViT-HarDis, que condiciona el desenredo de la cabeza de atención a la dificultad de la muestra: las muestras con alta similitud de coseno con centros de clase negativos reciben una descorrelación de la cabeza más fuerte, lo que refuerza la especialización donde la ambigüedad de identidad es mayor. Los experimentos muestran mejoras tanto con respecto a la línea de base como al desenredado uniforme en la mayoría de los puntos de referencia. Nuestro análisis muestra que ViT-HarDis reduce la similitud de las muestras duras con los centros de clases de la competencia al tiempo que disminuye la similitud de atención entre cabezales, y que aplicar el desenredo solo a las capas finales del transformador supera la regularización de toda la red. ViT-HarDis, entrenado en WebFace4M, logra resultados SOTA entre los métodos basados en ViT en IJB-B, IJB-C y TinyFace Rank-1, mientras logra los mejores resultados de IJB-B y TinyFace cuando se entrena en MS1MV3, mejorando FR sin modificaciones arquitectónicas ni costos de inferencia adicionales. Código: https://github.com/TaharChettaoui/Hard-Sample-Conditioned-Attention-for-FR.
Punto de partida
Vision Transformers puede asignar diferentes regiones faciales a diferentes cabezas de atención, pero esas cabezas a menudo convergen en patrones redundantes. Las penalizaciones por descorrelación uniforme tratan por igual un retrato frontal fácil y una muestra difícil de identidad ambigua, aunque las muestras difíciles cercanas a centros de clases en competencia son las que tienen más probabilidades de determinar errores de verificación. El documento se pregunta si la capacidad de formación puede centrarse en esas identidades difíciles sin cambiar la arquitectura implementada.
Método
El método mide la dureza de la muestra desde la similitud del coseno hasta el centro de clase negativo más cercano. Para cada bloque de transformador seleccionado, calcula una penalización de correlación de atención entre cabezales, pondera esa penalización con mayor fuerza para muestras más difíciles clasificadas correctamente y la suma a la pérdida normal de reconocimiento facial basada en márgenes. Los experimentos comparan la línea de base, el desenredo uniforme y el desenredo condicionado por la dureza; Las ablaciones de capas muestran que regularizar solo el último cuarto de los bloques del transformador es más efectivo que aplicar la restricción en todas partes.
Conclusión del artículo
Para los equipos que ya usan un codificador facial ViT, se trata de mejorar el procedimiento de entrenamiento, no de rehacer el despliegue. Las mayores ganancias aparecen en pruebas difíciles a gran escala y de baja resolución, a costa de más tiempo de entrenamiento y con validación pendiente en la población objetivo.