Weave Mamba Fusion: interacción global entre escalas para la detección facial con modelos ligeros
Autores e instituciones
Dohun Kim
School of Data Science, The University of Suwon
Jinmyung Jung
School of Data Science, The University of Suwon
Qué problema resuelve
WeaveFace tiene como objetivo agregar interacción global entre escalas a un detector de rostros de menos de un millón de parámetros sin pagar el costo de memoria y computación de concatenar mapas de características completos o aplicar autoatención cuadrática.
Resultado clave
En WIDER FACE, WeaveFace informa un AP medio del 91,41% con 0,34 millones de parámetros y 1,16 GFLOP. Su AP de subconjunto duro es del 87,14 %, el área donde las caras pequeñas y ocluidas hacen más hincapié en el diseño de escala cruzada. El artículo informa una mayor precisión que los detectores anteriores por debajo de 0,5 millones de parámetros.
Resumen
Los métodos de pirámide de funciones, desde FPN hasta BiFPN, han logrado un sólido rendimiento en la detección de rostros al fusionar funciones de múltiples escalas. Sin embargo, la detección de rostros en condiciones sin restricciones, como pequeña escala, oclusión y pose extrema, sigue siendo difícil, ya que requiere dependencias globales entre escalas que la fusión local no puede modelar. Los modelos de espacio de estados como Mamba proporcionan un contexto global con complejidad lineal al escanear características como una secuencia y, por lo tanto, ofrecen una dirección prometedora para este problema. Sin embargo, dicho escaneo necesita que las dos escalas piramidales se combinen en un único mapa de características, y la forma en que se combinan determina si se conserva la estructura entre escalas. La suma colapsa las dos escalas antes del escaneo, por lo que el escaneo no tiene una estructura entre escalas que explotar, mientras que la concatenación mantiene ambas escalas pero a un costo mucho mayor. Para abordar esto, proponemos Weave Mamba Fusion (WMF), que entrelaza dos escalas piramidales adyacentes columna por columna para que cada paso de un escaneo SS2D bidireccional horizontal se mueva de una escala a la otra. Con procesamiento de canales parciales y desvinculación sin parámetros, WMF permite una interacción eficiente entre escalas al tiempo que preserva la estructura de características. La integración de WMF en cada nodo de fusión produce WeaveBiFPN, el cuello de nuestro detector WeaveFace. En WIDER FACE, WeaveFace alcanza un AP medio del 91,41% con sólo 0,34 millones de parámetros y 1,16 GFLOP, superando a los detectores anteriores con parámetros de 0,5 millones. Sus mayores ganancias se dan en el subconjunto Duro, donde alcanza el 87,14% AP. El código está disponible públicamente en https://github.com/dohun-mat/WeaveMambaFusion.
Punto de partida
Las caras pequeñas, ocluidas y fuertemente rotadas necesitan detalles espaciales finos de niveles piramidales de alta resolución y contexto semántico de niveles de baja resolución. La fusión estándar de FPN y BiFPN es local, mientras que la atención total puede resultar demasiado costosa con las resoluciones utilizadas por un detector liviano.
Método
Weave Mamba Fusion entrelaza columnas de niveles piramidales adyacentes para que un escaneo SS2D horizontal bidireccional alterne entre escalas en cada paso. Sólo se procesan una parte de los canales y una operación de desvinculación sin parámetros restaura las escalas originales. Reemplazar cada nodo de fusión BiFPN con este operador produce WeaveBiFPN, que se utiliza como cuello del detector WeaveFace.
Conclusión del artículo
Es un detector prometedor para dispositivos con recursos limitados, especialmente cuando abundan los rostros pequeños. Como la evidencia de eficiencia se basa principalmente en el tamaño del modelo y los FLOP, conviene medir la latencia real y el consumo de memoria en el acelerador de destino.