Abonnez-vous Identifiez-vous

Identifiez-vous

Vos codes d'accès sont erronés, Veuillez les saisir à nouveau. Mot de passe oublié ?

Cyber entreprise

Comment la Cyber-sécurité transforme l'Entreprise

Le blog de Guy-Philippe Goldstein

Qui veut des millions (de données) ?

Publié le

Qui veut des millions (de données) ?

Le 10 et 11 avril dernier se tenaient au CNAM à Paris la Conférence "Intelligence Artificielle : Nouvelles Puissances", co-organisé par le Hub France IA. Deux jours de talks et d’échanges autour des transformations actuelles de l’Intelligence artificielle – ce que le programme a appelé, avec beaucoup de pertinence, "l’apprentissage statistique", où ce que certains intervenants ont identifié de manière prudente comme la forme avancée de la transformation numérique. Des appellations loin des fantasmes véhiculés par le terme d’ "IA" et c’est heureux. Comme l’écrivait Mat Velloso, l’un des conseillers techniques de Satya Nadella, le PDG de Microsoft, "si c’est du Machine Learning, c’est écrit en python. Si c’est de l’Intelligence artificielle, c’est écrit en powerpoint".

L’intelligence artificielle peut se révéler autant une aide qu’un nouveau problème pour la cybersécurité, comme j’en discutais dans un récent podcast. Au-delà de la pollution du training set, les données qui permettent à l’apprentissage statistique de s’améliorer, on peut également injecter des effets de parasitages qui ne donnent rien à l’œil nu, mais qui peuvent confondre l’IA et lui faire croire qu’un signal d’arrêt de la circulation a disparu, ou qu’un bus scolaire est en fait une autruche.

D’autres approches de l’IA peuvent permettre de cacher certains des comportements anormaux qui permettent de détecter une intrusion. Mais les systèmes d’Intelligence Artificielle peuvent aussi être une source d’interception de la donnée. Des chercheurs de Berkeley, National University of Singapore et Google Brain ont montré que si des informations de nature confidentielles (email, numéro de sécurité sociale, etc..) avaient été utilisées dans l’apprentissage d’un système d’IA, ces informations pouvaient être extraites après coup pour peu que l’on connaissent les modèles de deep learning utilisés.

Et désormais, l’Intelligence Artificielle peut être la raison pour laquelle des opérations de cyber-criminalité sont montées.  

Dans son talk lors de la deuxième journée de la conférence IANP, Guillaume Poupard, le directeur de l’ANSSI, a ainsi évoqué deux fuites de données qui ont eu lieu au cours des 18 derniers mois en Asie et en Europe. Le motif ? Peut-être la constitution de bases de données larges afin d’améliorer la qualité de système d’intelligence artificielle dans le cadre d’une compétition internationale toujours plus dure. Il est vrai que les fuites de données ont atteint des dimensions de plus en plus larges. Au cours des trois dernières années, il y a eu la fuite de 770 millions d’emails et de mots de passe dans le cadre de « Collection#1 » posté sur un forum de hacker en décembre 2018 – et peut-être une fuite encore plus large. Et il y a eu bien sur une fuite de données de plus de 3,000 millions de dossiers venant de Yahoo.    

Le directeur de l’ANSSI n’en a pas dit plus. Peut-être s’agit-il de la cyber-attaque de juillet de l’année dernière à Singapour contre SingHealth, ou plus de 1,5 million de données médicales ont été volées, ce qui représente un quart de la population de Singapour. Parmi les victimes : le premier ministre Lee Hsien Loong, qui a été atteint du cancer dans le passé. En Norvège, il s’agit peut-être de l’attaque du début d’année  c’est plus de la moitié des données patients du pays qui ont été dérobées au début de l’année dernière. Aucune détermination de l’origine de ces attaques n’a été faite publiquement – seuls ont été évoqués des acteurs sophistiqués et professionnels (en Norvège), d’une cyber-attaque délibérée, ciblée et bien planifiée (à Singapour). Ce qui est vrai, c’est que les informations médicales, mêlées à des informations d’identification personnelles, ont souvent plus de valeur même que certaines informations financières. 

Créez votre compte L’Usine Connect

Fermer
L'Usine Connect

Votre entreprise dispose d’un contrat
L’Usine Connect qui vous permet d’accéder librement à tous les contenus de L’Usine Nouvelle depuis ce poste et depuis l’extérieur.

Pour activer votre abonnement vous devez créer un compte

Créer votre Compte
Suivez-nous Suivre Usine Nouvelle sur Facebook Suivre Usine Nouvelle sur Twitter RSS Usine Nouvelle