Une IA capable de développer son propre système de cryptage

Une équipe de chercheurs de Google a démontré qu’une intelligence artificielle était capable de créer son propre système de chiffrement de messages. Une prouesse aussi étonnante qu’inquiétante.

Où s’arrêtera le développement de l’intelligence artificielle (IA) ? Après avoir battu le meilleur joueur de Go au monde, l’IA démontre qu’elle peut créer un système de chiffrement de toute pièce, que seule une autre IA est capable de déchiffrer. Des machines qui communiquent entre elles sans que l’humain n’ait à intervenir ni ne soit capable de comprendre leur conversation. Un constat établi par une équipe de chercheurs de Google.

Une IA crée un système de chiffrement pour contrer des tentatives d’espionnage

Des chercheurs de Google Brain, qui travaillent dans le domaine du « deep learning », autrement dit l’apprentissage des machines, ont démontré dans une étude qu’une IA était capable d’imaginer un système de chiffrement pour échapper à des tentatives d’espionnage.

Pour ce faire, les chercheurs ont mis au point trois IA. La première, baptisée Alice, devait envoyer un message à une deuxième, nommée Bob, sans qu’une troisième, Eve, soit capable de comprendre ce message qu’elle intercepte. Concrètement, il aura fallu 15.000 essais pour que Bob puisse comprendre parfaitement le message sans erreur, sans que de son côté Eve ne puisse le déchiffrer. Les deux IA Alice et Bob ont finalement pu créer un chiffrement assez complexe pour qu’il ne soit pas déchiffré par Eve. Au fur et à mesure des essais, les machines amélioraient la technique de cryptage.

Une mise en place de contre-mesures efficaces

Les deux IA ont donc su créer un système de chiffrement qui leur est propre, sans qu’il ne leur soit fourni d’algorithme spécifique. Jusqu’à 7.500 essais, Eve arrivait à se rapprocher du résultat ce qui a poussé les deux autres IA à changer leur technique de chiffrement. Des contre-mesures qui se sont révélées efficaces contre l’espionne puisqu’à partir de 15.000 essais, Eve se retrouve complétement perdue. Une expérience qui démontre que des IA peuvent « découvrir des formes de chiffrement et déchiffrement, sans qu’on leur ait enseigné des algorithmes spécifiques pour ce faire » indiquent les chercheurs.