Versteckt im Offensichtlichen: Ein effektiver physischer Adversarial Patch-Angriff auf die visuelle und infrarotbasierte Gesichtserkennung
Autoren & Institutionen
Qiucheng Yu
City University of Hong Kong, Hong Kong, China
Tao Ni
King Abdullah University of Science and Technology, Saudi Arabia
Yihe Zhou
City University of Hong Kong, Hong Kong, China
Jiayimei Wang
City University of Hong Kong, Hong Kong, China
Qingchuan Zhao
City University of Hong Kong, Hong Kong, China
Welches Problem es löst
Bisherige Patches lassen sich schlecht auf fusionierte Detektoren übertragen, da die Optimierung für das sichtbare Bild mit der Infrarotempfindlichkeit kollidieren kann und auffällige Muster leichter von Personen oder Sekundärsystemen erkannt werden. VIPatch zielt auf einen physikalisch realisierbaren, gemeinsamen und visuell unauffälligen Angriff ab.
Zentrales Ergebnis
Der digitale Black-Box-Angriff erreicht im Durchschnitt eine Erkennungsrate (ASR) von 94,59 % bei sichtbaren Detektoren und 97,40 % bei Infrarotdetektoren. Im physikalischen Fusionsmodus erzielt VIPatch eine ASR von 97,27 % bei YOLOv8-Face und MTCNN sowie 100 % bei TFW und OpenCV. Die physikalische ASR im sichtbaren Bereich liegt bei 80,29 % bei einer Beleuchtungsstärke von 12.000 Lux und variiert zwischen 92,51 % und 100 % über die getesteten Entfernungen von ein bis drei Metern.
Abstract
Deep-Learning-basierte Modelle zur visuell-infraroten Gesichtserkennung finden zunehmend Anwendung in verschiedensten Bereichen, sind aber weiterhin anfällig für Adversarial Patch Attacks. Die meisten bisherigen Angriffe zielen entweder nur auf das visuelle oder nur auf das Infrarotbild im digitalen Bereich ab, wodurch sie gegen fusionierte Modelle in der realen Welt wirkungslos sind. Zudem sind viele dieser Methoden leicht erkennbar, da ihre Patch-Muster deutlich von denen in der Realität abweichen. In diesem Beitrag stellen wir VIPatch (Visual-Infrared Patch) vor, einen neuartigen physikalischen Adversarial Patch Attack, der unauffällige, realistische und natürlich wirkende Patches für Gesichtsbilder erzeugt. Konkret erstellt VIPatch eine Gradientenmaske zusammen mit einem Pflaster-ähnlichen Element über dem visuellen und dem Infrarotbild und optimiert diese beiden Elemente gemeinsam. Die resultierenden digitalen Patches dienen als Grundlage für die Herstellung ihrer physischen Gegenstücke. Experimentelle Ergebnisse zeigen, dass VIPatch sowohl im digitalen als auch im physischen Bereich wettbewerbsfähige Erfolgsraten (über 90 %) erzielt und die Patches dabei für menschliche Betrachter unauffällig bleiben.
Ausgangspunkt der Forschung
Visuelle Infrarotfusion wird eingesetzt, um die Gesichtserkennung auch bei schwachem Licht und in Umgebungen mit Temperaturmessung zu gewährleisten. Die meisten Angriffe auf die Gesichtserkennung beschränken sich jedoch auf eine Modalität oder bleiben digital. Ein Produktionssystem muss wissen, ob ein gewöhnlich aussehendes Objekt nach dem Drucken, der Positionierung, Lichtveränderungen und Kamerabewegungen beide Kanäle unterdrücken kann.
Methode
VIPatch optimiert gemeinsam eine farbverlaufende Gesichtsmaske für den sichtbaren Bereich und einen pflasterartigen Wärmeaufkleber für den Infrarotbereich und fertigt anschließend physische Prototypen an. Die Evaluierung kombiniert mehrere Detektoren für sichtbares und Infrarotlicht, White-Box- und Black-Box-Transfertests sowie physikalische Prüfungen hinsichtlich Betrachtungswinkel, Beleuchtungsstärke (200 bis 12.000 Lux) und Entfernungen (ein bis drei Meter).
Einordnung
Multispektrale Sensorik sollte als gekoppeltes System und nicht als zwei unabhängige Verteidigungssysteme modelliert werden. Der Angriff ist ein Ergebnis von Red-Team-Übungen und keine Abwehrmaßnahme, liefert Detektorherstellern aber konkrete physikalische Bedingungen, Übertragungsmodelle und Angriffsziele zur Bewertung von Patch-Erkennung, Konsistenzprüfungen der Sensoren und Ausweichstrategien.