Comment Gmail se débarrasse de 100 millions de spams par jour

Dans un post sur le blog Produits de Google, Neil Kumaran, chef de produit de la technologie de lutte contre les abus chez Google a indiqué que Google utilise désormais une intelligence artificielle pour améliorer la précision des filtres à indésirables sur la fameuse messagerie Gmail. Ce service est utilisé tous les mois par un milliard et demi de personnes de par le monde.

Selon lui, les modèles d’apprentissage automatique (machine learning) sont déjà très efficaces, et bloquent plus de 99,9 % des messages indésirables, du hameçonnage et des logiciels malveillants. Le problème est le petit pourcentage restant, qui représente tout de même des dizaines, voire des centaines de millions de messages pour une messagerie de la taille de Gmail.

TensorFlow, une intelligence artificielle sous licence libre

La firme a donc décidé de s’appuyer sur TensorFlow, son outil d’apprentissage automatique publié sous licence libre. Cette intelligence artificielle vient s’ajouter aux outils déjà en place, et a permis à Google de bloquer 100 millions de messages indésirables supplémentaires quotidiennement. « À l’échelle où nous fonctionnons, trouver 100 millions supplémentaires n’est pas chose aisée », a déclaré Neil Kumaran. « Détecter la dernière partie du spam incrémentiel est de plus en plus difficile, mais TensorFlow nous a beaucoup aidés dans ce combat. »

Concrètement, ce nouveau filtre basé sur l’intelligence artificielle parvient à bloquer de nombreux messages impossibles à détecter avec des méthodes classiques. Il parvient à décoder les e-mails basés sur des images, des courriels avec un contenu intégré caché, ainsi que des messages de nouveaux noms de domaines, qui tentent de masquer un faible volume de messages indésirables au sein d’échanges plus légitimes.

Des filtres réactifs et personnalisés

S’attaquer à la dernière fraction de pourcentage sans créer de faux-positif est un exercice extrêmement périlleux, d’où le recours encore à l’intelligence artificielle. Selon Neil Kumaran, « TensorFlow nous aide à attraper les spammeurs qui constituent moins de 0,1 %, sans bloquer accidentellement des messages qui sont importants pour les utilisateurs ». Selon lui, l’outil permet d’expérimenter plusieurs modèles simultanément, réduisant le nombre d’ingénieurs nécessaires. De plus, en tant que logiciel libre, de nombreux chercheurs contribuent à TensorFlow partout dans le monde, lui permettant d’intégrer constamment de nouvelles idées.

Contrairement aux règles créées par les humains, qui se basent en général sur quelques caractéristiques communes des messages, l’intelligence artificielle peut analyser les messages dans leur globalité, qui contiennent souvent des milliers de traits caractéristiques, et repérer des points communs. Elle peut ainsi laisser passer des messages légitimes qui auraient quelques similitudes avec les messages indésirables, et s’adapter très rapidement aux spams qui évoluent sans cesse. De plus, elle permet de créer des règles personnalisées pour chaque utilisateur. Ce que certains considéreront comme indésirable sera important pour d’autres, comme des newsletters ou notifications envoyées par des applications.

Ce qu’il faut retenir

• Pour chasser le spam, Google utilise l’intelligence artificielle.
• TensorFlow, un outil open source amélioré par les développeurs, permet de réduire le nombre d’ingénieurs dédiés aux filtres anti-spam.