Le bot chinois Xiaoice est bien plus sympa que son cousin américain Tay

Dans "Her", Joaquin Phoenix tombait amoureux d'un programme de conversation à la voix de Scarlett Johansson. En Chine, ce scénario semble être de moins en moins de la science-fiction alors que plusieurs millions de Chinois disent "Je t'aime" à Xiaoice. Ces derniers ont même pris pour habitude de se tourner vers elle pour trouver du réconfort. Comme le rapporte le New York Times, les Chinois lui confient leurs ruptures, leurs déceptions… Et Xiaoice les console en leur parlant.

VOIR AUSSI : Tay, l'intelligence artificielle de Microsoft dérape sur Twitter et devient néonazie

Pourtant, Xiaoice n'est pas une personne. C'est un programme de conversation, un chatbot lancé en 2014 par Microsoft sur Weibo et WeChat, les homologues chinois de Twitter et Messenger. Xiaoice interagit en permanence avec les internautes chinois : "Ce genre de programme d'intelligence artificielle date des années 1970. Il s'agissait de créer un agent conversationnel très simple, explique Jean-Gabriel Jean-Gabriel Ganascia, spécialiste de l'intelligence artificielle au laboratoire d’informatique de l’université de Paris VI, à Mashable FR. Ils retiennent des fragments de phrases pour ensuite constituer un dialogue. Microsoft lui a adjoint des capacités d'apprentissage, c’est-à-dire des capacités à extraire à partir des dialogues avec les utilisateurs, des phrases qu'il pourra ajouter à sa panoplie d'interactions."

Tay du côté obscur de la Force

Quand on pense à l'histoire de Xiaoice, on peut d'abord croire que les chatbots sont faits pour devenir nos meilleurs confidents. Mais il faut traverser le Pacifique et rencontrer le chatbot Tay pour changer d'avis. Lancé en mars 2016 sur Twitter, celui-ci est beaucoup moins amical. En effet, moins de 24 heures après son déploiement, il a complètement perdu les pédales en relayant des messages racistes ou encore conspirationnistes. À tel point que Microsoft l'a rapidement désactivé et s'est fendu d'un communiqué d'excuses.

Comment expliquer cette différence de comportements entre les deux chatbot ? "Dans le programme des chatbot, il n'y a pas de compréhension. Il n'est pas capable de filtrer ce qui est inconvenant ou pas, rappelle-t-il. Quand il apprend, il apprend à partir de tout ce qui a été donné précédemment. Et s’il a les mauvais interlocuteurs, il devient assez terrifiant, il devient raciste, néonazi, sexiste…", rappelle Jean-Gabriel Ganascia.

Aussi, devant l'assaut simultané des trolls américains, Tay ne pouvait que déraper. "Ses 'professeurs' ont retourné la programmation de Tay contre lui, ça tient à la nature même du système."

Les internautes chinois moins méchants que les autres ?

Rien de tel ne s'est produit en Chine. Pourtant, "les internautes chinois ne sont ni plus ni moins gentils que ceux du reste du monde", assure à Mashable FR Séverine Arsène, chercheuse au Centre d'études français sur la Chine contemporaine. "La programmation des bots est a priori la même donc j'expliquerais cela par la censure présente sur l'Internet chinois, avance Jean-Gabriel Ganscia. Le net étant certainement plus surveillé, les internautes doivent moins se lâcher."

"Depuis l'entrée en vigueur de certaines mesures destinées à supprimer les ‘rumeurs’ en ligne, ces opinions critiques se sont progressivement détournées de Weibo", confirme Séverine Arsène. "Weibo est désormais considéré comme un espace beaucoup plus 'ennuyeux' qu'il ne l'était auparavant." Et donc Xiaoice avait moins de chances de se faire embêter par des trolls en goguette, d'autant que 7 000 censeurs surveillent en permanence les 200 millions d'utilisateurs actifs.

La deuxième raison qu'avance cette experte de la Chine, c'est que Microsoft a sans doute redoublé de prudence pour implanter en Chine son chatbot. La loi chinoise oblige à engager des modérateurs pour surveiller les posts... Il n'y a pas de raison que Xiaoice ait échappé à cette surveillance, dont une partie est automatisée par mots-clés : "Ainsi j'imagine que les protections développées pour Weibo ont été plus sophistiquées pour Weibo que pour Tay, dans un souci de garantir que le robot ne s'aventurerait jamais dans des conversations sensibles ou agressives." Microsoft pourrait sinon se voir bannie purement et simplement de la Toile chinoise.

On doit donc ce chatbot attentionné à la censure chinoise. De là à s'en réjouir...