"Si une machine satisfait toutes vos attentes, pourquoi vouloir côtoyer d’autres humains ?"

Spécialiste des interactions entre l’homme et la machine, notamment via le langage des émotions, la chercheuse Laurence Devillers réfléchit depuis de nombreuses années aux implications éthiques du développement de l’intelligence artificielle et des robots. Elle nous aide à replacer "I’m your man" ce film d’anticipation dans le cadre des débats actuels.

Quels éléments séparent Tom de l’état de l’art de la robotique ?

Le film appartient au genre de l’anticipation, de la science-fiction : Tom est un robot parfait. On remarquera d’ailleurs qu’il est interprété (de manière très convaincante) par un humain ! Cela dit le film montre aussi le fossé qui sépare le robot de l’humain : la machine peut mener une conversation, détecter des expressions émotionnelles et adapter son comportement en fonction, elle n’est pas pour autant douée de conscience. Tom est capable de disserter d’un ton triste sur la mort et d’enchaîner une seconde plus tard en invitant Alma à danser avec un sourire sans une once de mélancolie ! L’intéressant est que dans ces cas-là c’est plutôt l’homme qui s’adapte : il prend son parti des limites du robot.

Quel sont les plus grands défis posés à la robotique pour produire un robot comme Tom ?

Les performances actuelles en matière de traitement du langage (parlé ou écrit) sont impressionnantes, et on avance à grands pas dans le développement des robots conversationnels. En revanche on est encore très loin de pouvoir créer des robots qui se déplacent comme des humains. On est capable de faire courir un robot très vite, mais pas de le faire se mouvoir dans notre environnement quotidien en trois dimensions. C’est l’illustration du « paradoxe de Moravec » : le plus difficile à reproduire en robotique est ce qui est (ou qui semble) le plus facile pour l’homme. C’est pour cela que l’on va plus facilement remplacer un journaliste qu’un plombier : on peut automatiser l’écriture d’articles à partir du traitement de données. À l’inverse à chaque fois que le plombier intervient dans une nouvelle maison il y a un environnement complètement différent à appréhender.

Au cinéma les robots sont souvent présentés comme un danger : on a peur qu’ils se retournent contre nous. Ce n’est pas du tout le cas dans le film de Maria Schrader.

Tout l’intérêt du film est justement de ne pas tomber dans ce qui est devenu un cliché, car cette peur des robots nous empêche de réfléchir. L’arrivée des robots dans nos sociétés est inéluctable, il nous faut dépasser la peur de la nouveauté pour réfléchir à la manière dont cela va se passer. Mais cette peur a une dimension très culturelle, elle est liée à nos mythes fondateurs occidentaux : la créature qui se retourne contre son créateur, c’est le mythe de Frankenstein, qui lui-même reprend le mythe juif du Golem. La culture japonaise n’a pas du tout la même approche des robots :  il y a plutôt cette idée du robot ami de l’homme. On peut expliquer cela par la tradition shintoïste, qui est une forme d’animisme : il n’y a pas de distinction catégorique entre les humains, les animaux et les objets. Ceux-ci, même les plus quotidiens, peuvent avoir une âme. Cela détermine une toute autre attitude par rapport aux robots.

Toute rationnelle qu’elle est, Alma ne peut pas s’empêcher de s’attacher à Tom, alors qu’elle sait pourtant que c’est une machine.

L’homme a une tendance innée et irrépressible à anthropomorphiser les machines, à leur prêter des émotions et des intentions, et donc à éprouver de l’empathie pour elles. Dans le film Alma met Tom à la porte, elle lui dit de «retourner dans son usine». Quand elle se rend compte qu’au lieu de retourner à l’usine il l’a attendu, elle éprouve une forme de pitié pour lui. Le monde de la recherche asiatique pense que c’est une clé qui permettra l’intégration des robots dans le monde humain. Ils revendiquent de créer des machines vulnérables, car c’est par la vulnérabilité que les humains les accepteront. On le voit avec les robots Atlas de Boston Dynamics, à l’aspect pourtant assez effrayants : il suffit de les bousculer, de les faire trébucher pour nous les rendre sympathiques. Cela dit, une série comme Westworld montre l’exact inverse : ses robots sont si parfaits qu’ils libèrent des pulsions de meurtre, de viol. La série montre ce qui pourrait arriver dans une société libérée des lois et des règles morales.

Le film se distingue aussi par le travail sur le genre : on n’a pas l’habitude de voir un robot homme au service d’une femme.

L’héroïne est une femme, comme la réalisatrice, et comme l’autrice de la nouvelle. C’est intéressant ! Comme je le dis souvent, 80% des codeurs qui développent les robots sont des hommes. Cela explique sans doute que 80% des systèmes qu’ils développent soient féminisés (par l’apparence physique, la voix, le nom qu’ils leur donnent) ! Cela peut nous interroger sur la représentation des femmes. Il y a un enjeu de domination sur ces objets qui ne tient pas seulement du plaisir, mais aussi de la perpétuation d’une forme de patriarcat : avoir à sa disposition une femme pour accomplir un travail ménager, affectif ou sexuel, s’en servir comme trophée (au Japon posséder une poupée sexuelle est un marqueur de réussite sociale). Il faut se méfier des risques de reproduction voire d’amplification des stéréotypes de genre par la robotique. Sans tomber dans l’essentialisation, on peut également s’interroger sur les attentes respectives des hommes et des femmes par rapport à ces robots-compagnons. Dans le film Alma rencontre un utilisateur homme qui se déclare parfaitement satisfait de sa robote. Cette idée scénaristique peut sembler schématique mais elle recoupe une réalité : au Japon les robots sexuels pour femmes n’ont pas trouvé leur public, alors que cela marche très bien chez les hommes.

Alma explique bien, à la fin du film, ce qui lui manque chez Tom…

Elle évoque le jeune garçon dont elle été amoureuse enfant, et la part d’imagination qui entrait dans son sentiment. Avec le robot il n’y a pas de déception mais pas non plus de surprise, il y a du bonheur mais pas de désir. Pour elle l’amour est indissociable de cette part d’imagination, de désir non assouvi. Et puis elle sait qu’il n’y a rien à construire avec ce simili-partenaire : il ne lui fera pas d’enfants, il ne vieillira pas avec elle… Derrière son apparence humanoïde il s’agit juste d’une présence contre la solitude et d’un objet sexuel.

En quoi la réflexion du film recoupe vos propres recherches et vos interrogations ?

Mon travail porte sur les émotions dans le cadre des interactions avec les machines. Je m’intéresse à tous les « robots émotionnels » qui peuvent apporter une forme de soutien affectif en simulant de l’empathie, en détectant des comportements émotionnels, voire en mettant en place des stratégies liées à l’interprétation de vos comportements. Ce sont des objets extrêmement utiles dans certaines situations (pathologies, addictions, troubles neurologiques, situations traumatiques, accompagnement dans le grand âge…). Les robots développés actuellement sont plus rudimentaires que le Tom du film de Maria Schrader, mais ils posent les mêmes questions éthiques : l’inégal accès à ces machines très coûteuses, les enjeux de cybersécurité et d’utilisation malveillante des données, les risques d’addiction chez les utilisateurs, etc. Aux États-Unis est par exemple développé actuellement un robot appelé Moxie destiné aux enfants autistes. Il apporte une aide déterminante dans la vie de ces enfants, ce qui est à la fois prometteur et dangereux : pourront-ils s’en passer par la suite ? Plus largement, le film pointe le risque d’une société totalement individualiste et atomisée, dans laquelle chaque individu s’enfermerait dans un face à face avec son ou ses robots. Si une machine satisfait toutes vos attentes, pourquoi vouloir côtoyer d’autres humains ? Cela constituerait une énorme régression en terme d’intelligence collective, car c’est la confrontation avec l’autre qui nous fait réfléchir, qui nous permet d’évoluer. L’humain qui ne désire plus n’a plus la capacité à créer. Et puis rendre un individu heureux, assouvir ses moindres désirs, c’est aussi un moyen de le contrôler. Le bonheur individuel est-il le seul horizon de nos sociétés ? C’est une interrogation véritablement à la fois philosophique et politique.

Comment envisagez-vous l’avenir ?

Les robots vont devenir de plus présents dans nos sociétés, comme je l’ai écrit dans mon essai Les Robots émotionnels » (L’Observatoire,  2020) : il y aura des robots assistants, des robots compagnons, des robots collègues, des robots sexuels… Il y a un vrai enjeu à réfléchir à leurs usages pour les encadrer, à anticiper les multiples questions qui vont se poser. J’ai écrit un manifeste au moment de la campagne présidentielle pour encourager les candidats à se saisir de la question de l’intelligence artificielle (Vague IA à l’Élysée, Manifeste pour la présidentielle 2022). Mais la société reste peu armée pour saisir ces questions. À cet égard la baisse du niveau en mathématiques, celle de l’intérêt des élèves pour les sciences sont préoccupantes : sans un minimum de culture scientifique on risque de devenir l’esclave des nouvelles technologies (intelligence artificielle, métavers, robots) et de ceux qui les maîtriseront…

Spécialiste des interactions homme-machine, Laurence Devillers est professeure en intelligence artificielle à l’université Paris-Sorbonne et chercheuse au LIMSI/CNRS. Elle est membre de la Commission Nationale Pilote d’Ethique du Numérique (CNPEN) du Partenariat Mondial sur l’IA (PMIA), Présidente de la Fondation Blaise Pascal sur la médiation en mathématiques et en Informatique avec l’objectif de pousser les filles dans les métiers du numérique. Elle a notamment publié les livres Des robots et des hommes (Plon, 2017), Les Robots émotionnels (Éditions de l’Observatoire, 2020) et, récemment, Vague IA à L’Élysée (Éditions de l’Observatoire, 2022), manifeste pour que le numérique et l’intelligence artificielle soient débattus lors de la campagne présidentielle de 2022.

Par Vital Philippot

I'm your man

de Maria Schrader 108 minutes 2022