« Internet, données utilisateurs et intelligence artificielle : le rôle central de l’humain pour une science éthique » par Julie Khoum

Public ciblé : Tout public 

Dernière mise à jour : 06/07/2021

Julie KhoumRédactrice spécialisée dans la Tech, décrypte pour nous le débat autour de l'Identité Numérique et de la Protection des données. Elle aborde notamment le sujet de la Philosophie d'Internet ainsi que les enjeux éthiques qui gravitent autour des nouvelles technologies. Merci à elle pour son partage d'avis et cet article riche !

De l’utilisateur au personae, positions et libertés de l’utilisateur dans l'écosystème d’Internet 

Né de la convergence technologique de la communication et de l’ordinateur, Internet ouvre désormais la communication à des horizons inimaginables, lui donnant un pouvoir jamais atteint auparavant.

La naissance de l’identité numérique

L’utilisateur, auparavant spectateur et apprenti, puisant l’information trouvée sur Internet à des fins informatives, ou éducatives, est aujourd’hui créateur et fournisseur de contenus pour ce même Internet. Ses actions nourrissent le web, en produisant une immensité de données sociétales, comportementales et commerciales, qui forment son identité numérique. Ces traces, laissées volontairement ou involontairement sur le web, reflètent l’image que nous renvoyons sur Internet. 

Cette identité numérique est très précieuse, car elle peut se monnayer cher, en fonction des données recueillies et de la personne concernée. En 2020, le marché controversé du “data brokerage” vaudrait presque 200 milliards de dollars. Parmi les 4 000 entreprises existantes dans le monde, on retrouve la société française Criteo, d’ailleurs en cours d’investigation par la CNIL pour le non-respect des RGPD.

Ainsi, la collecte de ces informations permet un profilage des utilisateurs et représente une véritable mine d’or pour des utilisations marketing et commerciales. Grâce à ses données, des portraits d'utilisateurs ou “personae” (concept inventé par Alan Cooper en 1999) sont dressés, censés refléter aussi bien le comportement et les échanges sociaux qui se produisent en ligne, et de plus en plus ceux qui ont aussi lieu hors ligne. 

Ces profils, basés uniquement sur un comportement en ligne, ont maintenant tendance à être critiqués pour le fait qu’une grande partie du contexte réel n’est pas prise en compte, et, car il rend obsolètes des aspects tels que la philosophie et la psychologie. L’étude du comportement a depuis toujours une place centrale en psychologie, car il est le vecteur des émotions (Darwin 1872). La définition même du comportement s’avère extrêmement complexe car l’homme évolue dans une relation permanente avec un environnement, et celui-ci est une expérience intuitive.

Par conséquent, cette identité numérique reflète-t-elle réellement la personne que nous sommes ? Influence-t-elle nos émotions et notre comportement ? La e-réputation numérique, qui sublime l’ego et qui comble le besoin de reconnaissance, donne-t-elle seulement une vision figée et biaisée de la réalité ?

Alors que l'écosystème d’Internet, tributaire de l’influence des GAFA (Google, Apple, Facebook et Amazon),  tend vers une uniformisation des comportements en ligne, un modèle des comportements humains peut-il être réellement dressé?

L’évolution de la notion de vie privée selon les générations

Ces dernières années, les usages que nous faisons d’Internet ont radicalement changé, et cette tendance s’est d’autant plus accélérée avec la période actuelle, liée à la pandémie du Covid-19. 

L’ère des réseaux sociaux, désormais au cœur de notre activité numérique, a fait apparaître des notions de partage, de collaboration et d’interactivité. Le Web 2.0 transforme petit à petit la notion de vie privée, ainsi sa valeur. 

Le livre du journaliste d’investigation Jean-Marc Manach “La vie privée, un problème de vieux cons ? “, publié en 2010, révèle une certaine fracture générationnelle quant à la définition même de la notion de vie privée.

La génération Z, ou les natifs du numérique, ne perçoivent par exemple pas la géolocalisation comme une atteinte à leur vie privée, mais se focalisent sur l’utilité sociale et les bénéfices qu’ils peuvent en tirer. Pour cette génération, partager son quotidien à travers des publications sur Twitter ou Facebook est naturel, et surtout socialement bénéfique. L’abandon d’une vie privée est devenu une normalité chez ces jeunes, tandis que la vision des aînés est, elle, bien différente, et l’acceptation de cette normalité et la surveillance de masse qui lui est liée, est délicate.  

La véritable question de ce débat est celle des libertés, et le fait que celles-ci se voient réduites à mesure que notre société devient celle de la surveillance de nos données personnelles.

Protéger sa vie privée et garantir ses libertés sur Internet est essentiel et cela passe d’abord par une sensibilisation aux outils pour se protéger d'un vol de données ou d'une usurpation d’identité. Parmi ces outils, le VPN ou réseau privé virtuel, permet le chiffrement de vos informations et empêche la lecture de vos fichiers par une tierce personne. 

Les enjeux éthiques des nouvelles technologies dans le traitement des données utilisateurs

Internet progresse conjointement avec l’évolution des nouvelles technologies, imbriquées naturellement dans l’univers du web. De la même manière, le traitement des données massives évolue main dans la main avec l’Intelligence artificielle, le premier nourrissant le deuxième, l’un permettant à l'autre de produire un résultat. Une décision intelligente promettant des processus plus intelligents, et in fine, une meilleure productivité.

L’intelligence artificielle, clé de l’exploitation des données personnelles

Tim Berners-Lee , créateur du Web a déclaré « Les données personnelles ne sont pas le nouveau pétrole. Si je vous donne mes données, ce n’est pas comme du pétrole, ce n’est pas comme de l’eau, je les ai encore. Ce sont les miennes. »

S’il est vrai qu’en théorie, nos données personnelles nous appartiennent, à nous, utilisateurs, il n’en est pas moins vrai qu’en pratique, leur utilisation pose de réelles questions éthiques.

Afin de les exploiter et de les traiter au mieux, les outils se doivent d’être de plus en plus puissants. La quantité même des données à analyser fait que l’humain n’est pas en mesure de les traiter seul. L’intelligence artificielle aide donc l’humain à réaliser ces études, et à obtenir des résultats, qui seront ensuite appliqués à des fins sociales, sociétales, comportementales, psychologiques et commerciales.

De manière générale, les chercheurs considèrent que l’analyse des big data par l’intelligence artificielle est la source de meilleures connaissances scientifiques, grâce à plus d'objectivité et une meilleure analyse. Les résultats apportés par les données massives seraient plus fiables, car ceux-ci sont libres de tout jugement humain, qui lui est souvent inextricablement lié à l'erreur humaine. 

Selon David Brooks, journaliste du New York Time, l’analyse des Big data par l’intelligence artificielle est simplement le fait de “ rassembler d'énormes quantités d'informations, d'observer les modèles et d'estimer les probabilités sur la façon dont les gens agiront à l'avenir », il ne s’agit pas de construire une théorie sur la nature humaine.

Cependant, beaucoup de ces données, ainsi que la façon dont l’intelligence artificielle travaille ces données reste opaque pour l’utilisateur. En effet, celui-ci ayant uniquement la possibilité d’observer le résultat de ces traitements, et non pas de savoir qui l'a conçu, pourquoi et comment. 

Vers une intelligence artificielle éthique

Une certaine inquiétude grandit donc envers ce que sont exactement les utilisations «appropriées» des données. Les avantages dont bénéficient les utilisateurs justifient-ils les risques liés au partage de leurs données et à l'expérimentation? Et certaines personnes obtiennent-elles plus d'avantages et moins de risques que d'autres?

Dans son ouvrage “Algorithmes, la bombe à retardement”, Cathy O’Neil, ex-analyste à Wall Street, affirme que les algorithmes exacerbent les inégalités. Le risque étant que ces systèmes de calculs mathématiques peuvent aggraver les inégalités existantes, en profilant et en désavantageant systématiquement les personnes déjà défavorisées. 

Si ces exploitations de données s'avèrent efficaces, il n’en demeure pas moins que l’on observe de plus en plus de dérives quant à leur exploitation. Les risques lorsqu’un logiciel et une intelligence artificielle fonctionnent sans supervision humaine sont élevés, et les conséquences inestimables.

Vinton Cerf, ingénieur chez Google, appelle dans ce sens à une innovation contrôlée de l’intérieur : « La vraie réponse, c’est qu’on doit avoir des développeurs avec un vrai sens de l’éthique.” L’éthique se doit donc d’être “inculquée” par l’humain à la machine, et les données massives ne peuvent pas remplacer la décision humaine qui définit les paramètres de fond pour ces programmes.

Le 4 mars 2020, Audrey Azoulay, directrice générale de l’Unesco, a ouvert la première conférence mondiale pour la promotion d’une approche humaniste sur l’intelligence artificielle et inclut une feuille de route sur le thème de la gestion éthique des données. Si certains experts pensent que le ver est déjà dans la pomme, d’autres préfèrent garder l’espoir que les critères humains soient la clé d’une utilisation éthique de ces nouvelles technologies.

 

Pour citer cet article : 

Khoum J, "Internet, données utilisateurs et intelligence artificielle : le rôle central de l’humain pour une science éthique". Publication sur le blog de https://scilogs.fr/intelligence-mecanique, Juillet 2021

Référence

  • Guillaume Desgens et Eric Freyssinet (2009), “L’identité à l’ère numérique”
  • Christopher Steiner (2012), "Automate This: How algorithms took over our markets, our jobs, and the world", Penguin
  • Anne-Marie Toniolo (2009), “Le comportement : entre perception et action, un concept à réhabiliter”, dans L’ Année psychologique 2009/1 (Vol. 109)
  • Julien Rossi et Jean-Édouard Bigot, “Traces numériques et recherche scientifique au prisme du droit des données personnelles”, dans Dans Les Enjeux de l'information et de la communication 2018/2 (N° 19/2), pages 161 à 177 
  • Entreprise Deloitte (2020), “Thriving in the era of pervasive AI Deloitte’s State of AI in the Enterprise, 3rd Edition”, https://www2.deloitte.com/insights/stateofai
  • V.Favel-Kapoian & D.Dussurgey (2010),  “Identité numérique et réseaux sociaux”, https://www.reseau-canope.fr/savoirscdi/societe-de-linformation/reflexion/identite-numerique-quels-enjeux-pour-lecole/une-definition.html
  • Henrik Skaug Sætra (2018), “Science as a Vocation in the Era of Big Data: the Philosophy of Science behind Big Data and humanity’s Continued Part in Science”, https://www.ncbi.nlm.nih.gov/pmc/articles/PMC6208852/

Un commentaire pour “« Internet, données utilisateurs et intelligence artificielle : le rôle central de l’humain pour une science éthique » par Julie Khoum”

Publier un commentaire