Nous devons tous vivre avec une abondance d’images d’IA de nos jours – des affiches d’école aux menus de restaurants – et même s’il existe encore certains indices indiquant que quelque chose a été créé avec l’IA, ils ne sont pas toujours présents. Dans de nombreux cas, il peut être presque impossible de distinguer une image artificielle d’une image réelle.
Il s’agit d’un problème pour toutes sortes de raisons et, à ce titre, les sociétés d’IA tentent d’y remédier. Les images produites par Gemini et ChatGPT sont accompagnées d’un filigrane invisible appelé SynthID. De cette façon, les images générées par l’IA n’ont pas besoin d’une marque visible pour identifier leurs origines. Bien entendu, il faut avoir accès à un détecteur pour savoir si ce filigrane est présent. Il se trouve que Google vient de lancer un outil de vérification SynthID autonome sur le Web, gratuit pour tous. J’ai essayé « SynthID Detector », et même s’il fonctionne en grande partie comme prévu, il n’est pas parfait.
Comment fonctionne le détecteur SynthID de Google
Crédit : Vie Associative
Depuis un certain temps maintenant, Gemini vous permet de télécharger une image et de demander si elle est générée par l’IA. Avec le nouveau portail en ligne, il est encore plus facile de vérifier, même si vous devez toujours vous connecter avec votre compte Google. Une fois connecté, vous pouvez vérifier une grande variété de fichiers. Ce vérificateur prend en charge les formats d’image JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF et GIF ; MP4, MOV et WEBM pour les vidéos et WAV, MP3, OGG, FLAC, AAC et M4A pour l’audio. Tant qu’un fichier a été créé par une IA prenant en charge SynthID, il doit avoir un filigrane. (Le filigrane SynthID est une norme prise en charge par Nvidia, OpenAI, Kakao et Google, bien qu’OpenAI dispose de son propre outil de détection.)
Google ne dit pas exactement comment fonctionne SynthID, probablement pour rendre la navigation plus difficile, mais confirme que le filigrane est « résistant aux transformations courantes ». Il indique également que le filigrane est « tissé dans le contenu lui-même », ce qui signifie des pixels pour les images et la vidéo, et des composantes de fréquence pour l’audio. L’entreprise admet également que son outil de détection n’est pas infaillible. Ce qu’il appelle des « modifications lourdes » peuvent dégrader le signe du filigrane, tout comme plusieurs « transformations » appliquées à la même image. La recommandation est d’utiliser des fichiers de la plus haute qualité possible, il me semble donc que plus de données rendent la détection plus fiable (similaire aux détecteurs de texte AI).
Google affirme également que les filigranes SynthID sont « imperceptibles » pour les humains, vous n’avez donc pas besoin de les regarder ou de les écouter : ils ne sont révélés que par un outil de détection d’IA comme celui-ci. Si vous générez des images, des vidéos ou de l’audio avec l’IA, le filigrane ne devrait en aucun cas avoir un impact sur la qualité du résultat final.
Mettre le détecteur SynthID à l’épreuve
J’ai commencé par quelques tests faciles. Le détecteur a correctement repéré que les images créées dans Gemini et ChatGPT, et téléchargées directement sur le disque, étaient effectivement fausses. Cela n’a pris que quelques secondes pour confirmer, et cela a également permis d’identifier l’outil d’IA qui avait été utilisé pour les fabriquer.
Il a également correctement marqué l’une de mes propres photos comme étant sans IA, bien qu’il ait un peu caché sa réponse, affirmant qu’il était « peu probable » que le média ait été réalisé avec l’IA. Tout ce que le détecteur pouvait dire avec certitude, c’était qu’il n’y avait pas de filigrane SynthID, ce qui montre que c’est ce filigrane en particulier qu’il recherche. Il ne recherche aucun autre signe d’IA.
Crédit : Vie Associative
J’ai ensuite essayé des captures d’écran des mêmes images d’IA, et le détecteur a correctement signalé qu’elles provenaient des outils d’IA de Google et d’Anthropic. Cela montre qu’il y a quelque chose enfoui profondément dans les pixels, plutôt que dans les métadonnées du fichier lui-même, révélant le filigrane SynthID. Vous ne pouvez pas simplement copier et coller pour contourner ce problème. L’application d’un filtre de peinture à l’huile dans Photoshop à une image IA n’a pas déclenché le détecteur, ni ajouté un léger flou. Le réglage de la couleur, du contraste et du ton n’a fait aucune différence, et le détecteur a toujours repéré SynthID lorsque j’ai recadré et combiné deux images IA différentes : une de Gemini, une de ChatGPT.
Finalement, j’ai battu le détecteur. Une fois, lorsque j’ai fortement pixelisé une image d’IA (à ce stade, je soupçonne plutôt que ma campagne de désinformation serait de toute façon assez inefficace), et une fois lorsque j’ai créé une image composite, qui était à 75 % réelle et à 25 % générée par l’IA. Avec moins d’IA avec laquelle travailler, le détecteur peut faiblir.
Crédit : Vie Associative
Grâce à ce résultat, j’ai utilisé ChatGPT pour ajouter une personne supplémentaire dans une photo de groupe par ailleurs authentique, bien que cette fois l’outil ait détecté SynthID, même si une moins grande partie de l’image globale était constituée d’IA. Il pourrait y avoir du travail à faire sur les images qui ne sont que partiellement IA, ce qui est compréhensible car le détecteur a moins de données avec lesquelles travailler.
Il existe ici une limite de quota, qui semble être d’environ 10 fichiers par jour, mais 10 pour les images, les vidéos et les fichiers audio. Une fois que vous avez atteint votre limite, vous devez attendre 24 heures pour réessayer. Pour autant que je sache, le SynthID Detector est exactement ce que Google prétend être : un contrôle utile, mais loin d’être une garantie dans un sens ou dans l’autre.
