Weave Mamba Fusion: interação global em escala cruzada para detecção facial leve
Autores e instituições
Dohun Kim
School of Data Science, The University of Suwon
Jinmyung Jung
School of Data Science, The University of Suwon
Que problema resolve
WeaveFace visa adicionar interação global em escala cruzada a um detector facial com menos de um milhão de parâmetros sem pagar o custo de memória e computação de concatenar mapas de recursos completos ou aplicar autoatenção quadrática.
Resultado-chave
No WIDER FACE, o WeaveFace relata 91,41% de AP médio com 0,34 milhão de parâmetros e 1,16 GFLOPs. Seu AP do subconjunto rígido é de 87,14%, a área onde faces pequenas e ocluídas mais enfatizam o design de escala cruzada. O artigo relata uma precisão mais forte do que os detectores anteriores abaixo de 0,5 milhão de parâmetros.
Resumo
Os métodos de pirâmide de recursos, de FPN a BiFPN, alcançaram forte desempenho na detecção de rostos ao fundir recursos em várias escalas. No entanto, a detecção de rostos sob condições irrestritas, como pequena escala, oclusão e pose extrema, continua difícil, pois requer dependências globais entre escalas que a fusão local não pode modelar. Modelos de espaço de estados como o Mamba fornecem contexto global com complexidade linear ao digitalizar características como uma sequência e, portanto, oferecem uma direção promissora para este problema. No entanto, tal varredura precisa das duas escalas da pirâmide combinadas em um único mapa de características, e a maneira como elas são combinadas determina se a estrutura da escala cruzada será preservada. A soma colapsa as duas escalas antes da varredura, de modo que a varredura não tem nenhuma estrutura de escala cruzada para explorar, enquanto a concatenação mantém ambas as escalas, mas a um custo muito mais elevado. Para resolver isso, propomos Weave Mamba Fusion (WMF), que intercala duas escalas de pirâmide adjacentes coluna por coluna para que cada passo de uma varredura SS2D bidirecional horizontal se mova de uma escala para outra. Com processamento de canal parcial e desentrelaçamento sem parâmetros, o WMF permite interação eficiente em escala cruzada, preservando a estrutura de recursos. A integração do WMF em cada nó de fusão produz WeaveBiFPN, o pescoço do nosso detector WeaveFace. No WIDER FACE, o WeaveFace atinge 91,41% de AP médio com apenas parâmetros de 0,34M e 1,16 GFLOPs, superando os detectores anteriores em parâmetros de 0,5M. Seus maiores ganhos estão no subconjunto Hard, onde atinge 87,14% AP. O código está disponível publicamente em https://github.com/dohun-mat/WeaveMambaFusion.
Ponto de partida da pesquisa
Faces pequenas, ocluídas e fortemente giradas precisam de detalhes espaciais finos de níveis de pirâmide de alta resolução e contexto semântico de níveis de baixa resolução. A fusão FPN e BiFPN padrão é local, enquanto a atenção total pode ser muito cara nas resoluções usadas por um detector leve.
Método
O Weave Mamba Fusion intercala colunas de níveis de pirâmide adjacentes para que uma varredura SS2D horizontal bidirecional alterne entre escalas em cada etapa. Apenas parte dos canais é processada e uma operação de desentrelaçamento sem parâmetros restaura as escalas originais. A substituição de cada nó de fusão BiFPN por este operador produz WeaveBiFPN, que é usado como pescoço do detector WeaveFace.
Síntese do artigo
O detector é promissor para dispositivos de borda com recursos limitados, sobretudo quando predominam rostos pequenos. Como a eficiência é demonstrada principalmente pelo tamanho do modelo e pelos FLOPs, é necessário medir a latência real e o uso de memória no acelerador de destino.