Weave Mamba Fusion: глобальное взаимодействие между масштабами для легковесного обнаружения лиц
Авторы и организации
Dohun Kim
School of Data Science, The University of Suwon
Jinmyung Jung
School of Data Science, The University of Suwon
Какую задачу решает
WeaveFace стремится добавить глобальное межмасштабное взаимодействие к детектору лиц с субмиллионом параметров без затрат на память и вычислительные затраты на объединение полных карт объектов или применение квадратичного самоконтроля.
Ключевой результат
На WIDER FACE WeaveFace сообщает о средней точке доступа 91,41% с 0,34 миллионами параметров и 1,16 GFLOP. Его жесткое подмножество AP составляет 87,14%, область, где маленькие и закрытые лица больше всего подчеркивают межмасштабный дизайн. В документе сообщается о более высокой точности, чем у предыдущих детекторов с параметрами менее 0,5 миллиона.
Аннотация
Методы пирамиды признаков, от FPN до BiFPN, достигли высокой эффективности в обнаружении лиц за счет объединения многомасштабных функций. Однако обнаружение лиц в неограниченных условиях, таких как мелкий масштаб, окклюзия и экстремальная поза, остается трудным, поскольку требует глобальных межмасштабных зависимостей, которые локальное слияние не может смоделировать. Модели пространства состояний, такие как Mamba, обеспечивают глобальный контекст с линейной сложностью путем сканирования объектов как последовательности и, следовательно, предлагают многообещающее направление для решения этой проблемы. Тем не менее, такое сканирование требует объединения двух масштабов пирамиды в одну карту объектов, и способ их объединения определяет, сохранится ли межмасштабная структура. При суммировании две шкалы сжимаются перед сканированием, поэтому сканирование не имеет межмасштабной структуры, которую можно было бы использовать, тогда как конкатенация сохраняет обе шкалы, но с гораздо более высокими затратами. Чтобы решить эту проблему, мы предлагаем Weave Mamba Fusion (WMF), который чередует две соседние пирамидальные шкалы столбец за столбцом, так что каждый шаг горизонтального двунаправленного сканирования SS2D перемещается от одного масштаба к другому. Благодаря частично-канальной обработке и расплетению без параметров WMF обеспечивает эффективное межмасштабное взаимодействие, сохраняя при этом структуру объектов. Интеграция WMF в каждый узел слияния дает WeaveBiFPN, шейку нашего детектора WeaveFace. На WIDER FACE WeaveFace достигает средней точки доступа 91,41% всего при 0,34 млн параметров и 1,16 GFLOP, превосходя предыдущие детекторы при 0,5 млн параметров. Наибольший прирост наблюдается на сложном подмножестве, где он достигает 87,14% AP. Код общедоступен по адресу https://github.com/dohun-mat/WeaveMambaFusion.
Отправная точка исследования
Маленькие, закрытые и сильно повернутые лица нуждаются в мелких пространственных деталях на уровнях пирамид с высоким разрешением и семантическом контексте на уровнях с низким разрешением. Стандартное объединение FPN и BiFPN является локальным, в то время как полное внимание может быть слишком дорогим при разрешении, используемом легким детектором.
Метод
Weave Mamba Fusion чередует столбцы соседних уровней пирамиды, поэтому двунаправленное горизонтальное сканирование SS2D чередует масштабы на каждом этапе. Обрабатывается только часть каналов, а операция расплетения без параметров восстанавливает исходные масштабы. Замена каждого узла слияния BiFPN этим оператором создает WeaveBiFPN, который используется в качестве шейки детектора WeaveFace.
Вывод по статье
Детектор перспективен для периферийных устройств с ограниченным числом параметров и вычислительным бюджетом, особенно при большом числе мелких лиц. Поскольку эффективность показана главным образом через сложность модели, задержку и потребление памяти нужно измерять на целевом ускорителе.