Auf dem Weg zur einheitlichen dynamischen Erkennung von Gesichtsmarken
Autoren & Institutionen
Sebastian Regalado
University of Toronto, Canada
ModiFace, Canada
Varshanth R. Rao
ModiFace, Canada
Ruowei Jiang
ModiFace, Canada
Parham Aarabi
University of Toronto, Canada
Igor Gilitschenski
University of Toronto, Canada
Welches Problem es löst
Die Arbeit definiert ein gemeinsames semantisches Koordinatensystem für heterogene Landmark-Layouts und verwendet es, um einen Detektor über mehrere Datensätze hinweg zu trainieren. Zur Inferenzzeit kann dasselbe Netzwerk eine beliebige Sammlung von Landmarkenanfragen beantworten, einschließlich Punkte, die während des Trainings auf dem Ausgangsdatensatz nicht explizit angefordert wurden.
Zentrales Ergebnis
Das einheitliche ViT-B-Modell mit Adaptern erzielt 4,02 NME und eine Fehlerquote von 2,19% auf WFLW, 2,43/4,19 NME auf den normalen/Challenge 300W-Splits und 2,76 NME auf AFLW-19, während es verschmolzenes Training und dynamische Ausgabe unterstützt. Wenn es nur auf 300W trainiert wird, erreicht es 6,08 NME auf dem herausfordernden WFLW68-Transfer-Test, gegenüber 7,23 für DTLD und 8,09 für PIPNet. Bei nicht verwendeten nativen Landmarken verbessern gelernte Anfragen die Spline-Interpolation um 19,0% auf 300W und um 15,7–16,3% auf WFLW-Splits, was darauf hinweist, dass das Modell wiederverwendbare Kontursemantiken lernt, anstatt nur feste Indizes zu merken.
Abstract
Obwohl Fortschritte in der Face Landmark Detection (FLD)-Methoden weiterhin Leistungsgrenzen verschieben, übersehen sie zwei wesentliche funktionale Einschränkungen: (1) Verschiedene Netzwerkparameter müssen unabhängig für jeden "$N$-Punkt"-Datensatz unabhängig trainiert werden, und (2) ein Modell, das auf einem "$N$-Punkt"-Datensatz trainiert ist, liefert zuverlässig nur die $N$ Landmarks. In unserer Arbeit konzeptualisieren wir zunächst Face Part-Anchored Landmark Positions (FPALPs), bei denen jedes Landmark als Progressionswert zwischen null (Start) und eins (Ende) entlang der Kontur eines Flächenteils behandelt wird. Jedes Landmark kann unabhängig vom Quelldatensatz im FPALP-Format dargestellt werden, wodurch die Möglichkeit freigeschaltet wird, alle "$N$-Punkt"-Datensätze in einem einzigen Datensatz zu vereinen. Zweitens stellen wir jedes Landmark mit einer FPALP-basierten Abfrage dar, verfeinern es schrittweise mit einem Cross-Modality-Decoder und sagen seine Koordinaten anhand der endgültigen Darstellung vorher. Unser Ansatz, genannt Unified Dynamic FLD, vereint diese beiden Designentscheidungen und optimiert die Pipeline zur Orientierungserkennung, indem wir es (1) einem einzelnen Modell ermöglichen, auf beliebig vielen "$N$-Punkten"-Datensätzen zu lernen, und (2) beliebig viele spezifische Orientierungsvorhersagen zu liefern, indem die vorgesehenen Landmark-Abfragen zur Laufzeit geladen werden. Umfangreiche Experimente mit mehreren Benchmark-Datensätzen zeigen, dass unsere Methode diese Vorteile bietet und gleichzeitig mit bestehenden State-of-the-Art-Methoden wettbewerbsfähig bleibt und sie in mehreren Fällen sogar übertrifft.
Ausgangspunkt der Forschung
Datensätze für Gesichtspunkte sind sich uneinig darüber, ob ein Gesicht 19, 68, 98 oder eine andere Anzahl annotierter Punkte hat. Konventionelle Modelle binden ihren Regressionskopf an eine Vorlage, wodurch Teams gezwungen werden, separate Parameter für jeden Datensatz zu trainieren und zu pflegen, und ein bereitgestelltes Modell daran gehindert wird, auf Abruf ein neues Teilset oder ein dichteres Layout auszugeben. Diese Fragmentierung ist kostspielig für Pipelines zur Ausrichtung, Rekonstruktion, Schminkanwendung und Gesichtsausdruck, die unterschiedliche Landmarkenkonventionen nutzen.
Methode
Jede Landmarke wird zu einer Face Part-Anchored Landmark Position: ein normalisierter Verlauf von null bis eins entlang einer semantischen Kontur wie Augenbraue, Auge, Nase, Mund oder Gesichtsumrandung. Datensatzvorlagen werden in diesem Konturenraum ausgerichtet, und jeder angeforderte Punkt wird als FPALP-Anfrage codiert. Ein Cross-Modality-Decoder kombiniert progressiv Bild-Tokens und Anfragen, bevor er Koordinaten regressiert. Das ViT-B-Modell wird gemeinsam auf AFLW-19, 300W und WFLW trainiert; optionale leichte Datensatz-Adapter heben systematische Annotationsabweichungen auf, ohne den einheitlichen Backbone oder das zur Laufzeit konfigurierbare Ausgabe-Layout aufzugeben.
Einordnung
Ein einzelner anfragengetriebener Landmark-Service kann mehrere vorlagenspezifische Modelle ersetzen und dabei eine wettbewerbsfähige Genauigkeit bewahren. Der Ansatz ist besonders attraktiv, wenn Produkte mehrere Ausrichtungsformate benötigen oder das Hinzufügen neuer Landmark-Definitionen erwarten, obwohl Teams jeweils die Annotations-Offset-Adapter für jeden Produktionsdatensatz testen sollten.