« Imaginons [que] les policiers protègent ce[ux] qui font leurs prières ». Sur Facebook, le propriétaire d’une page à plus de 3,6 millions d’abonnés publie ce texte, accompagné d’émojis émus et d’une vidéo bien curieuse. Le clip montre un policier racisé en uniforme, agenouillé sur un tapis de prière… au beau milieu d’un quai de métro parisien. Deux de ses collègues l’observent en discutant tandis que l’homme semble réciter une prière.

Vue plus de 3 millions de fois rien que sur cette publication, la vidéo a, depuis, fait le tour du web. Elle a été récupérée par plusieurs internautes qui s’offusquent qu’un fonctionnaire de police musulman puisse ainsi afficher sa religion en public, en contradiction avec son devoir de neutralité.

Seulement, comme s’en sont aperçus de nombreux commentateurs, le clip est un faux évident généré avec l’intelligence artificielle. Le premier élément qui saute aux yeux est la présence d’une bande de pixels flous qui se balade de haut en bas de l’image. Elle correspond vraisemblablement à l’endroit où se trouve normalement le logo de Sora, l’outil de génération de vidéos d’Open AI.

Cette « watermark » est supposée indiquer que la vidéo a été générée avec l’intelligence artificielle. Elle peut toutefois être effacée ou floutée grâce à de nombreux outils de traitement de vidéo, ou bien par des plateformes en ligne qui proposent ce service.

D’autres détails flagrants

Si cela ne suffisait pas, d’autres détails permettent de déceler la supercherie. Par exemple, l’écriteau censé afficher le nom de la station contient des caractères qui ne ressemblent en rien à l’alphabet latin. L’auriculaire droit du policier qui se tient debout ne cesse d’apparaître et de disparaître, tout comme le visage d’un badaud à droite de l’image.

Plus généralement, les contours des formes oscillent en permanence, ce qui rend les visages des passants méconnaissables, et certainement pas humains. Cet aspect « laiteux », comme si la vidéo était vue à travers la vitre d’un aquarium, est l’un des principaux attributs des vidéos générées avec l’IA.

On parle dans ce cas d’« hallucination » : l’algorithme génère des formes à partir des modèles sur lesquels il s’est entrainé, mais il ne comprend pas la signification de ce qu’il affiche. D’où ces petites approximations constantes qui sont suffisantes pour repérer la patte de l’IA.

Une erreur dans ce contenu ? Vous souhaitez soumettre une information à vérifier ? Faites-le nous savoir en utilisant notre formulaire en ligne. Retrouvez notre politique de correction et de soumission d'informations sur la page Notre méthode.