LaP-Forensics : Raisonnement multimodal guidé par la cohérence des pixels latents pour la détection des deepfakes
Auteurs & institutions
Can Wang
The Hong Kong Polytechnic University, Hong Kong, China
Yuhao Wang
University College London, United Kingdom
Yushe Cao
Tsinghua University, China
Canran Xiao
Sun Yat-sen University, China
Fei Shen
National University of Singapore, Singapore
Problème traité
LaP-Forensics aborde la détection d'images issues de générateurs différents et la localisation d'artefacts au niveau du pixel grâce à une référence de compatibilité explicite. Son objectif est de permettre un raisonnement structuré (où-quoi-pourquoi) s'appuyant sur cette référence, tout en reconnaissant que son utilisation ne suffit pas à elle seule à prouver chaque affirmation d'une explication libre.
Résultat clé
Sur UniversalFakeDetect, la tête d'image atteint une précision de 97,23 % sur les GAN, 71,30 % sur les Deepfakes, 92,18 % sur Diffusion et 98,98 % sur CRN. Selon le protocole officiel SynthScars, la localisation humaine-artefact atteint un mIoU de 61,40 et un score F1 de 66,00. Dans la division contrôlée, la suppression du résidu réduit le mIoU de 72,19 à 61,83 et le score F1 de 63,62 à 41,71 ; le remplacement du résidu par zéro ou une carte donneuse modifie également sensiblement le résultat.
Résumé
Les modèles génératifs récents peuvent produire des images présentant peu d'artefacts visuels évidents, ce qui fragilise les détecteurs et les explications qui se basent uniquement sur l'apparence. Nous présentons LaP-Forensics, un cadre multimodal qui enrichit la sémantique RGB avec des preuves forensiques issues de la reconstruction. Un modèle d'inversion-reconstruction DDIM (Diffusion Stable DDIM) figé fournit une référence de reconstruction fixe, et sa carte résiduelle mesure la compatibilité locale avec cette référence. Des projecteurs indépendants encodent l'image RGB et la carte résiduelle avant qu'un modèle structuré « Où-Quoi-Pourquoi » ne prédise une analyse textuelle et un masque d'artefact. Un ajustement supervisé est suivi d'une optimisation de politique relative de groupe (GRPO), dont la récompense combine le chevauchement du masque avec la structure de sortie et les termes de référence aux preuves. Ces termes textuels incitent le modèle à se référer à la carte de cohérence, mais ne constituent pas un vérificateur de la vérité textuelle libre. Une tête d'analyse distincte au niveau de l'image fusionne les caractéristiques de classe RGB et résiduelles DDIM. Les expériences démontrent une détection inter-générateurs sur UniversalFakeDetect et une localisation d'artefacts compétitive sur le benchmark officiel SynthScars. Les analyses contrôlées de construction d'indices, d'horizon d'inversion, de composantes, de termes de récompense et contrefactuelles confirment l'utilité du flux résiduel dans les paramètres évalués, tandis que la fidélité et la fiabilité textuelles libres après post-traitement restent des limitations ouvertes.
Point de départ de la recherche
Lorsque les images générées perdent leurs défauts de surface évidents, un détecteur basé uniquement sur le RGB ou une explication textuelle peuvent sembler convaincants sans pour autant constituer une preuve médico-légale solide. Pour une analyse en entreprise, un système efficace doit dissocier le score de détection, la localisation spatiale et le compte rendu textuel, tout en indiquant quel signal supplémentaire modifie réellement le résultat.
Méthode
Un processus d'inversion-reconstruction DDIM (Diffusion Stable Impulse) figé produit une carte résiduelle entre l'entrée et la reconstruction. Des projecteurs distincts encodent la sémantique RGB et les données résiduelles ; une branche multimodale génère du texte structuré et un masque, tandis qu'une tête d'image distincte fusionne les caractéristiques de classe pour la détection. Un ajustement supervisé est suivi de récompenses GRPO pour le chevauchement du masque, le format de sortie et les références de données, les tests de référence officiels étant effectués séparément d'un sous-ensemble d'ablation contrôlée plus restreint.
À retenir
Le résidu de reconstruction constitue un second canal d'analyse forensique utile et améliore sensiblement la localisation, mais il ne s'agit ni d'une carte de manipulation calibrée ni d'un signal d'attribution de source. Les équipes doivent privilégier la distinction nette entre détection, localisation et explication, puis tester indépendamment la robustesse du post-traitement et la fidélité textuelle avant d'utiliser la justification générée dans les processus d'examen.