FaceApp(et autres) l'IA qu'il faut interdire ? #Deepfake

Deepfake 

Je vais vous parler d'IA de fabrication de faux de démocratie de blockchain mais aussi de raisons d'avoir peur, réellement peur, alors même que jusqu'ici je pensais qu'on n'avait aucune raison d'avoir peur.

Je ne parlerais pas des aspects de vie privée relayés par la presse, alors même que les conditions d'utilisation de Whatsapp Facebook Apple etc sont similaires. Il suffit de lire russe pour qu'on ait peur, semble-t-il ....

Introduction

C'est le Buzz IA, FaceApp, une application impressionnante basée aussi sur de l'intelligence artificielle, et qui rejoint une catégorie bien particulière d'application qui font du faux avec du vrai .... Au delà du coté "waouh", je pense que cela soulève des questions. Mon propos est de revenir justement sur celles ci mais aussi d'envisager des solutions (BLOCKCHAIN). Car il y'a matière à s'inquièter énormément selon moi.

Qu'est ce que FaceApp

FaceApp est une application basée sur de l'intelligence artificielle qui a été entrainée pour vieillir les personnes sur des photos, et pas que.

Le vieillissement

Un exemple : les deux photos suivantes, l'une l'originale, la seconde après "traitement".


Puis on la tranforme avec FaceApp
OK ... cela le fait, mais le pire est que si on reprend des photos d'acteurs connus et vieux cela marche à un tel niveau que cela en est troublant.

Un petit coup de jeune

Ci dessous deux photographies, l'une a été traitée l'autre original.


Le sourire ....

L'application permet aussi de changer les expressions du visage... Par exemple en ajoutant un sourire plus prononcé...


On peut aussi ajouter une barbe et vieillir le visage 

Les questions qu'on pourrait se poser

J'ai fait de nombreux essais avec des personnes connues, des personnes de ma famille, en ayant des références et des éléments de comparaison. Ce genre d'algorithme fonctionne vraiment bien, et ils vont continuer à progresser, mais ce sont d'abord des outils qui fabriquent du faux. Et les meilleurs mensonges se construisent avec des morceaux de vérité.

En fait les deux facteurs qui jouent le plus sur l'erreur de ce genre de solution sont le poids et la couleur des cheveux.

Quelques questions de base :

  • Le droit à l'image : Une personne peut elle réclamer son droit à l'image devant la justice pour une photo d'elle-même vieillie ?
  • Transformer un visage neutre avec un sourire ne peut il pas changer l'interprétation d'une photo, par exemple un homme politique souriant devant un néonazi alors que sur l'original, il ne souriait pas du tout.
  • Si un couple peut se vieillir pour voir à quoi ils ressembleront plus tard, n'y a t-il pas un risque supplémentaire ?
  • etc....

Le faux a toujours existé MAIS...

En matière de retouche photographique, on n'a pas attendu l'informatique et l'intelligence artificielle. Ci dessous une célèbre photo, ou Léon Trosky disparait...


Sauf qu'aujourd'hui c'est devenu de plus en plus simple, presque tout le monde peut faire cela sans un énorme apprentissage ; et c'est devenu rapide donc les vidéo aussi sont altérées par cela....


Les risques

Si une petite part de la population pensera toujours que la terre est plâte et que les martiens sont parmi nous (on ne peut plus rien faire pour eux), il y'a une autre partie de la population qui elle n'aura pas forcément les moyens de faire de tri et de vérifier. Si on ajoute à cela une hyper-individualisation des personnes, un replis sur soi, une baisse du QI, etc... et une pression de plus en plus forte vers la pulsion, cela crée une population à risque... Risque pour la démocratie, risque pour le contrat social, ....

Mais aussi des risques dans la vie privée, et de la mémoire familiale. On pourrait facilement se créer un parent, perturber une succession....

Le faux va exploser, et nous exploser à la figure.

Les solutions

L'IA de détection

On peut faire de l'intelligence artificielle pour détecter mieux ce genre de photographie. Mais on rentrerait alors dans uncercle vicieux entre création et détection, avec aussi de faux positifs... Quand on voit sur certains sites comme les sites de rencontre, des faux profils avec des photographies que google identifie en quelques secondes, il n'y a pas de raisons que les entreprises qui laissent faire cela, fassent les investissement pour protéger leurs clients de faux produit par des outils avançés... (Y'a gens qui vont se rajeunir en ligne)

La pénalisation

Dans une société ou on produit autant de photographies, publiées sur tant de réseau, la première chose qu'on pourrait faire serait de cadrer légalement la retouche photographique, et la criminaliser. C'est le travail des législateurs...

La création d'un tabou

De part l'éducation, on devrait peut etre se poser la question du comment faire pour que la photo d'une personne soit aussi tabou qu'une signature, que cela soit tabou dans notre culture de retoucher des photographies de visage.

La block-chain

Enfin, une des solutions serait un registre photographique, basée sur de la block-chain. Un citoyen disposant d'une carte d'identité électronique avec signature, pourrait déposer ses photographies de lui même après authentification dans un registre national ou européen. La block-chain dans ce cas là serait la solution la plus sure, et permettrait la mise en place d'une solution distribuée.



Conclusion

L'IA créatrice de faux devient de plus en plus efficace. Cela va devenir un vrai risque pour nos sociétés. Mon avis est que ce sujet devrait être pris en considération par les politiques et de manière urgente.

Cette forme d'intelligence artificielle devrait être fortement cadrée et pénalisée, et on devrait tout faire pour limiter son développement (y'a tant à faire dans des domaines plus utiles).

Comme toujours, faites la promotion de ceux qui prennent le risque de faire des contenus originaux : Partagez, Likez, et surtout commentez :-)



Commentaires