AI - L'AI de Google hackée par le MIT

Le Fameux Computer Science and Artificial Intelligence Laboratory du MIT a réussi à hacker le module IA de Vision de Google. Le plus étonnant est que leur méthode a permis de hacké cet IA 1000 fois plus rapidement qu'une méthode normale (pour corrompre du deeplearning on doit lui mentir).

L'un des points clés a été le changement pixel par pixel de l'image, par exemple une image montrant un chien, qui pixel par pixel est devenu une photo de deux skieurs



Pour ceux qui ont déjà travaillé dans le domaine de la vision, cela peut faire penser à une corrélation ou à chaque étape, on changerait son référentiel faisant qu'à chaque cycle on s'éloigne de plus en plus de la cible en dérivant

Au final le CSAIL a démontré que non seulement l'IA comme tout informatique était hackable, mais qu'il était extrêmement plus facile et rapide que ce qu'on pourrait penser.

Nous voila donc face à un véritable défi, comment garantir, autant en Machine Learning qu'en Deep Learning qu'on perserve la connaissance acquise de ce genre d'attaque ....

On pourrait plusieurs voies d'ailleurs : par exemple réentrainer depuis un corpus plusieurs IA avec des sous set de donnée dans l'ordre chronologique, et puis croiser les jeux de test entre chaque IA.

Par exemple : on duplique son serveur de machine learning en 10 machines learning indépendants. Puis on divise en dix sous-lots l'ensemble des données. On entraine chaque machine learning... On croise les données massivement pour voir si on a une dérive ou de nonresistance

Amusant ?

J

Commentaires

Articles les plus consultés