Les enjeux de 2018 (2) : accompagner l’innovation

10 avril 2018

En 2018, la CNIL entend poursuivre ses efforts d’accompagnement de l’innovation initié depuis plusieurs années. Elle prolongera les travaux entrepris sur le cadre éthique et juridique de l’intelligence artificielle et entend porter la discussion sur la gouvernance éthique de l’IA à l’échelle internationale. Elle mènera également des réflexions sur la blockchain ou le design de la protection des données.

L’intelligence artificielle : passer à l’échelle sur le plan éthique et juridique et porter la réflexion au niveau international

Le rapport du député Cédric Villani publié en mars 2018, avant l’annonce par le Président de la République d’une stratégie nationale sur l’IA, confère une importance cruciale à la gouvernance éthique de l’intelligence artificielle. Les recommandations qu’il contient vont largement dans le sens de celles ayant émergé du débat public animé par la CNIL.

La CNIL s’en félicite et entend approfondir à l’échelle internationale le débat sur les principes de gouvernance éthique de l’intelligence artificielle. La Conférence Internationale des Commissaires à la Protection de la Vie Privée et des Données Personnelles, qui se réunira à Bruxelles en octobre 2018, a choisi l’intelligence artificielle comme sujet de travail. Sa réunion pourrait donner lieu à l’adoption par ses membres d’un texte précisant les grands principes sur lesquels devrait reposer le développement de l’intelligence artificielle.

La CNIL entend par ailleurs prolonger en 2018 les travaux qu’elle a déjà réalisés, notamment dans le cadre de son cahier IP consacré en 2017 à la « smart city », sur le cadre juridique du partage et de la mutualisation de données (portabilité citoyenne, plateformes de réutilisation des données, etc.) afin d’en faciliter la bonne appropriation par tous et le développement de projets de recherche en matière d’IA.

La blockchain

Il s’agit d’une technologie, au potentiel de développement fort, progressivement reconnu par le droit français (ordonnance relative aux bons de caisse, réforme en cours sur les titres financiers dans la blockchain, etc.) et pour laquelle une mission parlementaire d’information a été ouverte.

Certaines idées reçues circulent, notamment sur une présumée « incompatibilité » avec le RGPD et la CNIL a reçu des demandes concrètes d’acteurs privés comme publics, en particulier du  secteur santé et des institutions financières

Les caractéristiques de cette technologie posent des questions réelles, et la CNIL souhaite proposer des solutions et des lignes directrices concrètes et lisibles pour les acteurs qui souhaiteraient l’utiliser dans le contexte d’un traitement de données personnelles.

Du privacy by design au design de la privacy

Le design sera au cœur des prochaines réflexions, avec l’idée d’explorer les enjeux informatique et libertés  en mobilisant des champs disciplinaires peu utilisés jusqu’à présent. L’arrivée de services numériques reposant sur des modalités d’interaction « naturelles » (voix, geste) attire l’attention sur leur conception tout comme sur l’influence que les designers peuvent avoir sur les choix des personnes.

Les autorités de protection des données s’intéressent depuis longtemps à  l’encadrement juridico-technique de l’utilisation des informations relatives à des personnes. A l’heure où les plateformes numériques investissent massivement dans les nouvelles interfaces hommes machines et l’interprétation des émotions,  il devient tout aussi  important de comprendre comment ces interfaces sont conçues et avec quelles intentions s’agissant de la manière dont elles influencent les utilisateurs.

La CNIL a entamé depuis plusieurs mois des travaux en lien avec des communautés actives sur les enjeux éthiques du design qu’elle poursuivra en 2018. L’objet de cette exploration est de comprendre comment il est possible d’innover par le design. Il s’agira de s’interroger sur le rôle du design pour aider les utilisateurs à garder le contrôle et sur le rôle du designer pour accompagner l’utilisateur dans cette démarche.

Pour ces raisons, les intersections des différents champs disciplinaires design, sciences cognitives et comportementales sont des espaces que la CNIL va investiguer dans le cadre de ses activités d’innovation et de prospective pour mieux comprendre comment se forment les décisions au plus proche des individus.

Document reference

Les mots clés associés à cet article