Real Humans revu par les chercheurs : le point de vue de Raja Chatila

Dans cet article du journal du CNRS notre grand collègue chercheur en robotique Raja Chatila replace dans son vrai contexte la très attrayante série real humans que propose arte.fr : c'est une série qui «ne parle pas de robotique» mais utilise la robotique comme une fable pour nous aider à regarder notre humanité en miroir de ces êtres imaginaires.

Raja Chatila

Raja nous explique bien que  « ces machines sont extrêmement loin de la réalité ou même d’un futur éventuel »;
- que la notion de droit pour les robots est une absurdité, car ce sont bien des humains qui les ont conçus, développés et utilisés, donc qu'ils sont humainement, donc juridiquement responsables de leurs agissements;
- que la notion de consience pour une machine est un oxymore, alors qu'on «ne sait même pas [complètement] définir la conscience chez les êtres humains»;
- que choisir de laisser un robot décider seul est un non-sens, car il y a bien une décision humaine : celle d'utiliser le résultat de l'algorithme de calcul sans chercher à l'analyser;
et il rappelle que les risques «risques de confusion entre le vivant et le non-vivant » est un sujet d'étude en soi. Une vraie question est posée.

Nous sommes bien loin de ceux qui, personnifiant les objets numériques (machines, algorithmes, …), se perdent dans des débats illusoires, ou confondent un résultat scientifique avec un coup de bluf médiatique (comme le dernier «on a réussit le test de Turing» que démystifie Jean-Paul Delahaye dans ce joli billet).

Jean-Paul Delahaye

Et pourtant Raja ou Jean-Paul sont bien des chercheurs à la pointe de la robotique et de l'intelligence mécaniste (dit souvent intelligence artificielle) ou de l'informatique théorique. Ce sont des scientifiques comme eux dont les travaux extrêmement sophistiqués permettront aux industriels de faire les robots de demain qui changeront notre vie. Ces objets numériques et mécaniques seront probablement plus des objets connectés intégrés à notre environnement quotidien que des marionnettes animées, comme nous l'explique Gérard Berry.

Pourquoi revenons nous sans cesse à ces illusions ? 

L'effet nounours: l'humain est avant tout un être social. Il a survécu grâce à sa capacité à "personnifier" ses semblables, leur prêter des intentions. Il a conscience de soi et conscience que les autres ont une conscience, comme l'explique si bien Stanislas Dehaene dans sa conférence sur le sujet. Cette capacité cognitive se manifeste aussi dans le jeu du petit enfant qui va jouer à la marchande avec son nounours, sûrement bientôt robotisé (le nounours, pas l'enfant). Mais l'enfant sait que c'est un jeu. Et que son nounours est un avatar, pas une véritable entité. Quelle dérision que l'adulte se laisse parfois mystifier à ce sujet, sous prétexte que le nounours animé se nomme robot.

Le fantasme pinocchio: l'humain (le plus souvent de genre masculin) a ce fantasme récurrent que la vie pourrait émerger d'un pantin pourvu qu'une opération magique (par exemple l'intercession d'une fée (du coup du genre féminin)) lui prête vie. Et bien entendu ce pantin vivant devrait работа («rabota» - travailler en russe) exactement comme nous le voulons: enfant modèle, esclave moderne, nous allons le dominer et il va réaliser ce que nous ne pouvons pas ou plus faire. Dans le scénario récurrent des variantes de ce fantasme (du golem à frankenstein) son pouvoir va forcément nous échapper. Serait-ce une frustration masculine de ne pouvoir donner la vie ? Je n'ai pas d'explication objective, mais le constat de l'existence de fantasme est là. Et il resurgit avec la robotique.

À l'inverse, le premier pas en terme de médiation scientifique en sciences du numérique est d'apprendre à dépersonnifier les ordinateurs, robots, etc… comme le fait par exemple Sylvie Boldo, théoricienne de l'informatique et passionnée de médiation scientifique. Pour justement pouvoir appréhender ces robots comme des objets exécutant des algorithmes (créés par des humains), donc dépasser une représentation mythique qui génère de la confusion.

Sylvie Boldo

Mais qui a intérêt à entretenir une telle mystification ?

D'abord les marchands de scoops scientifiques. C'est tellement plus attirant, par exemple, de faire du sensationnel en titrant «un ordinateur lit dans vos pensées» que de partager le fait important à comprendre qu'on puisse «décoder certains signaux cérébraux», comme le décrypte Fabien Lotte ici. Facilité de mauvais journaliste. À l'inverse, le passeur de sciences de lemonde.fr, Pierre Barthélémy, expliquait à ce sujet il y a quelques mois aux chercheurs Inia dont la médiation scientifique est une facette de leur métier, qu'il faut certes réussir à trouver un titre accrocheur, mais jamais trompeur.

Cette mystification est aussi un parti pris idéologique. Une volonté de mettre en avant une pseudo-science sans limite (alors que la science a justement parmi ses objectifs d'étudier très méticuleusement quelles sont ses propres limites). Une pseudo-science pleine de certitudes à-priori et de pouquoi-pas (alors que la démarche scientifique est juste inverse : esprit critique, attitude de doute et remise en cause). Une pseudo-science qui fascine (c'est à dire qui trompe par la magie) et qui pourra alors être caution du pire.

Ainsi, pour ceux qui aujourd'hui tuent avec des armes plus ou moins robotisées, par exemple, il y a un enjeu énorme: pouvoir faire porter la responsabilité d'une erreur de décision sur le robot et pas l'humain responsable de sa mise en service.

Mais au delà de ce cas extrême il y a surtout une manoeuvre de diversion : la mutation numérique est aujourd'hui orchestrée par des grands intérêts privés internationaux et nous sommes collectivement cantonnés à être des consommateurs dociles des objets numériques qu'on veut bien nous proposer, avec l'argument qu'on s'approche sans cesse d'objets intelligents au fil de nous nouveaux achats, en plein dans le fantasme décrit ici. Et ceux qui vendent une "science-des-pourquoi-pas" servent ces intérêts là. Et pendant qu'on discutaille de fantasmes, les mutations profondes sont bien réelles, elles. Et elles ne sont pas conduites dans le sens de l'intérêt général, mais de quelque intérêt commercial.

Ou pas ! Si on en prend conscience de cette illusion et que, comme Wendy Mackay le fait, on remet bien la machine à sa place d'objet au service de l'humain.

Wendy Mackay