Декорреляция внимания с учётом сложных примеров для устойчивого распознавания лиц
Авторы и организации
Tahar Chettaoui
Fraunhofer Institute for Computer Graphics Research IGD
Guray Ozgur
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Eduarda Caldeira
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Naser Damer
Fraunhofer Institute for Computer Graphics Research IGD
TU Darmstadt
Fadi Boutros
Fraunhofer Institute for Computer Graphics Research IGD
Какую задачу решает
ViT-HarDis нацелен на избыточное внимание, особенно там, где встраивание находится в опасной близости от другого идентификатора. Он предназначен для улучшения распознавания лиц в крупном масштабе и с низким разрешением, сохраняя при этом задержку вывода, форму модели и интерфейсы внедрения неизменными.
Ключевой результат
При контролируемой абляции ViT-S TAR на FAR 1e-4 повышается с 84,46% до 85,72% на IJB-B и с 88,18% до 89,09% на IJB-C. При обучении ViT-B на WebFace4M этот метод показывает 95,84% на IJB-B, 97,24% на IJB-C и 75,97% на TinyFace Rank-1, что является лидером среди сравниваемых систем на базе ViT. Стоимость вывода не изменилась, поскольку штраф связан только с обучением, хотя авторы сообщают, что обучение на WebFace4M длится примерно на 30 % дольше.
Аннотация
Внимание нескольких голов в Vision Transformers (ViTs) обеспечивает независимые модели внимания для разных голов, но без явной регуляризации головы могут усвоить избыточные модели, а не дополнительные роли. Штрафы, основанные на корреляции, способствуют распутыванию головы, но при этом применяют единую регуляризацию для всех обучающих выборок. При распознавании лиц (FR) жесткие образцы, вложения которых близки к конкурирующим личностям, имеют решающее значение для оптимизации и обобщения. Руководствуясь этим, мы предлагаем ViT-HarDis, который обусловливает распутывание головы внимания в зависимости от сложности выборки: образцы с высоким косинусным сходством с центрами отрицательных классов получают более сильную декорреляцию головы, обеспечивая специализацию там, где неоднозначность идентичности самая высокая. Эксперименты показывают улучшение как по сравнению с базовым уровнем, так и равномерное распутывание по большинству показателей. Наш анализ показывает, что ViT-HarDis уменьшает сходство жестких выборок с конкурирующими центрами классов, одновременно уменьшая сходство внимания между головами, и что применение распутывания только к конечным слоям преобразователя превосходит регуляризацию всей сети. Обученный на WebFace4M, ViT-HarDis достигает результатов SOTA среди методов на основе ViT на IJB-B, IJB-C и TinyFace Rank-1, одновременно достигая лучших результатов IJB-B и TinyFace при обучении на MS1MV3, улучшая FR без архитектурных модификаций или дополнительных затрат на логические выводы. Код: https://github.com/TaharChettaoui/Hard-Sample-Conditioned-Attention-for-FR.
Отправная точка исследования
Трансформаторы зрения могут назначать разные области лица разным головам внимания, но эти головы часто сходятся в повторяющихся шаблонах. Равномерные штрафы за декорреляцию одинаково относятся как к простому фронтальному портрету, так и к сложному образцу с неоднозначной идентичностью, даже несмотря на то, что сложные образцы вблизи конкурирующих центров классов с наибольшей вероятностью определяют ошибки проверки. В документе задается вопрос, можно ли сосредоточить возможности обучения на этих сложных идентичностях без изменения развернутой архитектуры.
Метод
Этот метод измеряет твердость образца от косинусного подобия до ближайшего центра отрицательного класса. Для каждого выбранного блока преобразователя он вычисляет штраф за корреляцию внимания между головами, взвешивает этот штраф сильнее для более правильно классифицированных образцов и добавляет его к обычным потерям при распознавании лиц на основе маржи. Эксперименты сравнивают базовую линию, равномерное распутывание и распутывание, обусловленное твердостью; абляция слоев показывает, что регуляризация только последней четверти блоков трансформатора более эффективна, чем применение ограничения повсюду.
Вывод по статье
Для команд, уже использующих лицевой энкодер ViT, это улучшение процедуры обучения, а не переделка системы инференса. Наибольший эффект наблюдается в сложных тестах с большим числом личностей и низким разрешением, но обучение занимает больше времени и требует проверки на целевой популяции.