● Le développement des techniques de manipulation d'images met à mal à la fois la confiance et la prise de décision éclairée.

● Bien qu'il soit impossible d'identifier et de prouver les fakes en temps réel, nous pouvons déterminer quelles images sont vraies.

● Il existe déjà des logiciels qui permettent de vérifier la provenance des images - la prochaine étape sera basée sur les solutions matérielles.

Aujourd'hui, le monde prend plus de 1,2 billion d'images numériques et de vidéos par an, un chiffre qui augmente d'environ 10 % chaque année. Près de 85 % de ces images sont prises à l'aide d'un smartphone, un appareil porté par plus de 2,7 milliards de personnes dans le monde entier.

Mais cette augmentation des taux de capture d'images va de pair avec celle des taux de manipulation. Ces dernières années, le niveau et la rapidité de la manipulation audiovisuelle (AV) ont surpris même les experts les plus chevronnés. L'avènement des réseaux antagonistes génératifs (GAN) - ou « deepfakes » - a fait la une des journaux en raison de leur capacité à saper toute confiance dans la vérité visuelle.

Et même si les deepfakes ne prolifèrent jamais dans le domaine public, le monde a néanmoins été bouleversé par les « cheapfakes », un terme qui fait référence à des méthodes de manipulation d'images plus rudimentaires comme la retouche d'image, la rediffusion, l'accélération et le ralentissement vidéo, et d'autres techniques relativement peu sophistiquées. Les cheapfakes ont déjà été le principal outil de prolifération de la désinformation et de la fraude en ligne, et ont eu des répercussions importantes sur les entreprises et la société.

Le développement de la manipulation d'images a rendu plus difficile la prise de décisions judicieuses basées sur des images et des vidéos - un procédé de plus en plus utilisé par les entreprises et les particuliers. On y trouve des décisions personnelles, comme les achats sur les places de marché entre particuliers, des rendez-vous dans le cadre de sites de rencontres ou le vote, et des décisions commerciales, comme le règlement d'une demande d'assurance ou l'exécution d'un prêt. Même des décisions importantes sur le plan mondial sont affectées, comme la réponse internationale aux images et aux vidéos montrant des atrocités ou des violences flagrantes dans des zones de conflit ou des zones non autorisées, et bien plus encore.

Chacun de ces cas d'utilisation très différents met en évidence deux tendances contradictoires : nous nous appuyons plus que jamais sur les images et les vidéos, mais nous ne leur avons jamais fait aussi peu confiance. Il s'agit d'un écart important qui se creuse de jour en jour et a obligé le gouvernement et les technologues à investir dans la technologie de détection d'images.

Malheureusement, il n'existe aucun moyen durable de détecter les fausses images en temps réel et à grande échelle. Cette triste réalité ne changera probablement pas de sitôt, et ce pour plusieurs raisons. Premièrement, presque toutes les métadonnées sont perdues, dépouillées ou altérées lorsqu'une image circule sur Internet. Au moment où l'image atteint un système de détection, il est impossible de reproduire les métadonnées perdues - et donc des détails comme la date, l'heure et l'emplacement d'origine de cette image resteront probablement inconnus.

Deuxièmement, presque toutes les images numériques sont instantanément compressées et redimensionnées une fois qu'elles sont partagées sur Internet ; si certaines manipulations sont bénignes (comme la recompression), d'autres peuvent être importantes et destinées à duper le consommateur de contenu. Dans les deux cas, la recompression et le redimensionnement des images lors de leur téléchargement et de leur transmission rendent difficile, voire impossible, la détection des manipulations au niveau des pixels en raison de la perte de fidélité de la photo réelle.

Troisièmement, lorsqu'une technique de détection automatisée ou basée sur l'apprentissage machine est identifiée et démocratisée, les pirates identifieront rapidement une solution de contournement afin de rester indétectables.

Ce qui rend la détection encore plus difficile, ce sont les médias sociaux, qui diffusent des contenus - faux ou réels - en quelques secondes. Les personnes qui veulent tromper le public peuvent injecter du faux contenu sur les plateformes de médias sociaux instantanément. Même lorsque l’on parvient à discréditer une image, il est souvent trop tard pour empêcher la diffusion du faux contenu, et la dissonance cognitive et les préjugés influencent davantage les décisions des consommateurs.

Donc, si la détection ne fonctionne pas, comment doter les personnes, les entreprises et la communauté internationale des outils nécessaires pour prendre de meilleures décisions ? Grâce à la provenance des images. Si le monde ne peut pas prouver ce qui est faux, alors il doit prouver ce qui est réel.

Aujourd'hui, il existe des technologies - telles que Controlled Capture, un logiciel développé par ma société, Truepic - qui sont capables à la fois d'établir la provenance des images et de vérifier les métadonnées critiques au moment où a été prise la photo. Ce sont les progrès propres aux smartphones, aux réseaux mobiles, à la vision par ordinateur et à la blockchain qui ont rendu ces technologies possibles. Toutefois, pour rétablir une vraie confiance dans les images au niveau mondial, l'utilisation d'images vérifiées devra s'étendre au-delà du logiciel pour atteindre le matériel.

Pour réaliser cet objectif ambitieux, la technologie de vérification des images devra être intégrée dans les puces qui alimentent les smartphones. Truepic travaille avec Qualcomm Technologies, le plus grand fabricant de puces pour smartphones, sur la façon de démontrer la viabilité de cette approche. Une fois terminée, cette intégration permettrait aux fabricants de smartphones d'inclure un mode « vérifié » à l'application caméra d’origine de chaque téléphone - mettant ainsi la technologie des images vérifiées entre les mains de centaines de millions d'utilisateurs. Cela aura pour résultat final des images signées cryptographiquement dont la provenance sera vérifiée, permettant ainsi aux décideurs de faire des choix intelligents à l'échelle personnelle, professionnelle ou mondiale. C'est l'avenir de la prise de décision à l'ère de la désinformation et des deepfakes.