Pangram : sa technologie de détection de l’IA s’étend aux images et aux vidéos

le

La société Pangram, spécialisée dans la détection de contenus générés par intelligence artificielle, a annoncé à ses abonnés par e-mail l’ajout de deux nouvelles fonctionnalités à son outil. Jusqu’ici capable d’analyser des textes, celui-ci peut désormais examiner des images et des vidéos générées à l’aide de l’IA.

Pangram : sa technologie de détection de l’IA s’étend aux images et aux vidéos

Ce que détecte l’outil

Le fonctionnement reste simple : l’utilisateur importe ses vidéos ou ses photos, puis l’outil recherche des traces d’intelligence artificielle. Selon l’annonce de Pangram, les contenus partiellement générés par l’IA peuvent aussi être repérés. L’outil propose même une sorte de carte thermique, qui permet de visualiser les zones d’une image produites par l’IA.

Deux modèles sont proposés. Pangram Image 1.0 détecte l’IA dans les images, tandis que Pangram Image Flash 1.0, plus rapide, analyse les vidéos image par image. Il est également possible d’utiliser l’outil directement depuis une extension pour Chrome, ou via une API, une interface de programmation qui permet à d’autres logiciels de se connecter au service.

Des résultats annoncés par l’entreprise

Pangram affirme détecter 99,2 % des images générées par IA, avec un taux de faux positifs de 0,27 % sur les images authentiques. Un faux positif désigne une image authentique signalée à tort comme générée par l’IA. Ces chiffres proviennent toutefois des tests présentés par l’entreprise elle-même.

Avant le déploiement, Pangram a mené plusieurs évaluations. À partir de 100 photographies authentiques, 1 200 images ont été générées avec 12 outils différents, et l’entreprise annonce une précision de 99,96 % sur cet ensemble de test. Elle précise que ce résultat ne concerne que cette évaluation et ne peut donc pas être considéré comme universel.

Pour les vidéos, 129 contenus authentiques publiés sur les réseaux sociaux ont servi de base à la création de 1 400 nouvelles vidéos, réalisées à l’aide de 14 générateurs. L’échantillon comptait ainsi 1 529 vidéos au total. Sur un autre test, le benchmark DF26, Pangram annonce une précision de 98,7 %.

L’outil accepte désormais les images à partir de 256 × 256 pixels. Les résultats obtenus pour des images inférieures à 512 pixels s’accompagnent toutefois d’un avertissement, car leur fiabilité est réduite.

Le défi des retouches photo

Le PDG de Pangram, Max Spero, reconnaît que la tâche est délicate. La plupart des téléphones, iPhone compris, utilisent l’IA pour effectuer de légères retouches sur les photos. Ces modifications peuvent conduire à ce que des images authentiques soient détectées à tort comme générées par l’IA. Pour y remédier, il fallait, selon ses mots, « concevoir un modèle robuste face à ce post-traitement tout en faisant la distinction entre les retouches de l’IA et les images entièrement générées par IA ».

C’est pour cette raison que le lancement a été retardé. D’après Pirate Wires, Pangram avait constaté que des photographies authentiques prises avec l’iPhone 18 Pro étaient détectées comme générées par l’IA. L’entreprise a donc poursuivi ses tests sur ce smartphone avant de déployer son modèle. Les deux modèles sont désormais disponibles sur la plateforme.

Product offers are temporarily unavailable.