Conférencier :

Objectifs : Présenter les enjeux autour de la donnée et le rôle du CNNum

Résumé de la conférence :

Rôle du CCNum

Le CCNum est une commission consultative indépendante, composée de 30 bénévoles experts du numérique. Leur mission est d’être l’interface entre l’écosystème numérique et le gouvernement, et de rendre des avis sur les questions du numérique. Par exemple, afin de préparer la loi République numérique (qui a notamment mis en place l’open data et la portabilité des données), Jean-Marc Ayrault a missionné le CNNum pour mener une étude auprès de l’ensemble de la population, et en dégager des propositions de mesures.

Enjeux autour de la donnée

La complémentarité humain – machine questionne l’évolution du travail. Selon une étude de l’université d’Oxford, entre 40 et 50% des emplois sont automatisables d’ici 15 à 20 ans. L’enjeu pour les Etats est de préparer la transition du monde du travail en adaptant le système éducatif et en identifiant les activités où l’homme et l’intelligence artificielle sont le plus complémentaires.
L’accès aux données pose des questions de souveraineté et de dépendance. Par exemple, dans la production d’une voiture, la part de l’OS représente aujourd’hui 40% de la valeur. Demain, elle en représentera 60% : la dépendance des constructeurs automobiles vis-à-vis des fournisseurs d’OS sera d’autant plus grande.
La reproduction de biais humains. La représentation de la réalité que se fait l’algorithme, et qu’il va projeter dans ses analyses, dépend de ce qu’on lui aura donné à apprendre. Une IA peut donc ainsi reproduire des stéréotypes dans ses analyses. Cela pose des questions d’éthique d’autant plus fortes lorsqu’on parle de justice et de police prédictives, avec par exemple aux Etats-Unis l’objectif de prédire des vols.
L’explicabilité des algorithmes. Plus un algorithme a de couches de neurones, plus il sera en mesure de donner une réponse précise que l’on aura plus de mal à expliquer. Or, il faudra réussir à comprendre pourquoi un algorithme a pris telle ou telle décision, afin de répondre à des questions de responsabilité, comme en cas d’accident avec des voitures autonomes par exemple.
La loyauté des plateformes. Les citoyens souhaitent savoir ce que font les plateformes de leurs données et pouvoir avoir un contrôle sur leur utilisation. Depuis octobre 2017, une plateforme de débat est ouverte pour définir le rôle que devrait avoir une Agence européenne pour la confiance numérique.
L’espionnage industriel et la sécurité des SI des entreprises. En 2013, l’espionnage industriel a couté 46 Mrd € aux entreprises françaises. Il est essentiel que les entreprises sécurisent leur SI, notamment via le chiffrement des données.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.