Pourquoi les assistants personnels ne sont pas sans conséquence sur notre esprit critique

Ils obéissent à la voix plutôt qu'au doigt. Alexa (Amazon), Google Home (Google), Homepod (Apple), Cortana (Microsoft)… En plein boom, les assistants vocaux dessinent un horizon futur fait de recherches vocales. Selon Comscore, ces dernières vont même représenter la moitié des requêtes d'ici 2020.

VOIR AUSSI : Google Home, Echo, HomePod: pourquoi l'arrivée des enceintes intelligentes marque le début d'une nouvelle ère technologique

Alors, comment faut-il accueillir ce phénomène ? Ces objets connectés à qui l'on peut donner des ordres vont-ils nous simplifier la vie ? Au-delà de leur fonction, qui est donc de nous "assister", leur démocratisation va-t-elle changer quelque chose à notre consommation d'Internet ? Sur la scène du Web2day, Guillaume Champeau, qui travaille pour le moteur de recherche respectueux de la vie privée Qwant, s'interroge sur la suppression des interfaces graphiques et ce que celle-ci induit. Sans parler de la question des données personnelles amassées par ces machines qui nous écoutent sans cesse (bien qu'elles ne réagissent que lorsqu'on les alpague directement) (mais pour cela, elles doivent bien nous écouter sans relâche), il y a beaucoup à dire sur ce que leur arrivée dans nos salons modifie dans notre rapport aux nouvelles technologies.

Il n'y a rarement qu'une seule vérité

À l'heure des casques sans fil (par exemple, les AirPods qui nous font parler à Siri, un peu comme Theodore et la voix de Samantha, dans "Her" de Spike Jonze) et des enceintes intelligentes sans écran, le consommateur d'aujourd'hui est de plus en plus invité à interagir avec des machines sans interface. Pour un certain nombre de raisons qui sont de l'ordre de la praticité, le fait de ne pas avoir à toucher un terminal est attrayant.

Pourtant, poser une question à un assistant personnel et se satisfaire de la réponse, est inquiétant. Car contrairement à une page de résultats dans un moteur de recherche, la fin des interfaces nous fait oublier que différents points de vue peuvent exister. Selon Guillaume Champeau, demander à un assistant vocal la météo du jour n'est certes pas une requête présentant un gros enjeu. En revanche, d'autres questions (par exemple, historiques, et donc soumises à diverses interprétations possibles, ou politiques, et qui dépendent donc d'opinions subjectives) pourraient appeler différentes réponses. Or, en délivrant une réponse assertive à une question donnée, un assistant personnel nous habitue à nous contenter d'une seule réponse.

Et l'ancien journaliste d'imaginer un scénario en exemple : si l'on demande à son assistant vocal ce qu'il se passe en Russie en ce moment et qu'il nous répond "la Coupe du monde", ce n'est finalement qu'une façon de voir les choses. "Alors que quand vous utilisez un moteur de recherches, soit une interface graphique comme on le fait depuis au moins 20 ans, vous voyez qu'il y a une multitude de résultats possibles. Et donc si vous consultez le premier résultat, vous pourrez éventuellement consulter le deuxième et le troisième aussi, ce qui va vous donner d'autres points de vue..."

Les partenariats biaisent l'information

Surtout, qui dit "unique réponse", dit également "hiérarchisation des réponses" et donc "sélection des réponses". En effet, que se passe-t-il si demain, un annonceur paye pour être cité avant un autre ? Guillaume Champeau parle d'"enchère" entre annonceurs. Si demain vous cherchez une activité à faire près de chez vous, comment savoir si la réponse offerte par votre assistant personnel est celle qu'il aura jugé la plus pertinente ou si celle-ci ne vous est pas proposée simplement parce qu'un partenariat entre a été noué entre ce site d'acrobranche et le fournisseur de l'intelligence artificielle que vous utilisez ? Et si vous demandez les actualités du jour, vers quels médias allez-vous être renvoyé ? Le Figaro ou l'Humanité, ce n'est pas la même chose et "en terme d'orientation des informations, ça peut avoir une incidence...", fait remarquer Guillaume Champeau.

Avoir conscience de ce biais technologique est primordial si l'on possède un Google Home ou autre Amazon Alexa chez soi : la vérité est souvent plurielle et cela, l'assistant vocal ne saurait le reproduire. D'autant plus que les contenus pushés peuvent aussi être le fruit d'une opération commerciale. En 2017, des utilisateurs ont fait remarquer que, tandis qu'ils souhaitaient simplement obtenir un résumé de leur la journée, leur Google Home ne s'est pas contenté de parler de météo et de transports... mais a également mentionné l'ouverture de la pièce "La Belle et la Bête", comme on peut le lire dans cet article de The Verge. Cette information était-elle une publicitée déguisée ?

N'oublions pas que l'on a face à soi une machine

Depuis quelques mois, des parents se sont émus de voir leurs enfants profiter de la disponibilité des assistants personnels pour leur donner des ordres et les insulter. "Eh oui, si vous avez six ans, comment résister à la possibilité de donner un ordre à une voix d’adulte, un adulte qui ne pourra jamais vous punir ?", s'interroge Titiou Lecoq sur Slate.fr. Pour répondre à cette problématique, Amazon a annoncé que les enfants qui disent "merci" et "s'il te plaît" seraient désormais récompensés afin de les habituer aux bonnes manières. Une nouvelle fonctionnalité très largement discutable puisqu'elle concourt à faire oublier que les assistants vocaux ne sont pas des humains mais bien des machines. 

"Les parents que cela dérange d’entendre leur enfant mal parler à Siri, Alexa ou Google, c’est parce qu’ils entendent un dialogue entre deux voix humaines, deux interlocuteurs. Alors qu’à l’inverse, ils n’apprécieraient sans doute pas d’entendre leur enfant dire 'merci' à la télé quand elle s’allume", fait remarquer Titiou Lecoq. Dé-chosifier les choses n'est pas sans risque : un enfant à qui l'on n'apprend pas bien à distinguer les machines des humains risque bien de ne jamais aiguiser son esprit critique sur ce qu'est une intelligence artificielle. De ce point de vue, les constructeurs ont tout à gagner à nous faire oublier qu'une machine est une machine : en effet, on peut imaginer, comme le fait Guillaume Champeau, un modèle économique à venir : "des entreprises qui payent des assistants personnels pour nous appeler et essayer de nous vendre des choses".

Le système d’exploitation devient décisionnaire 

Aujourd'hui, les acteurs se battent pour imposer leurs produits, qui au-delà du simple device, est aussi une porte d'entrée vers des contenus à monétiser. En effet, un assistant personnel possède un haut pouvoir de prescription. Le fait d'en posséder un favorise des habitudes d'usages. Sans écran, il devient moins pratique de zapper entre différents services, si bien que l'on fait rarement l'effort d'installer des commandes qui ne seraient pas déjà implémentées dans un assistant. Si les utilisateurs sont nombreux à se contenter des services par défaut, le système d'exploitation devient fortement décisionnaire quant aux services que les propriétaires utilisent. 

Il devient évident qu'un éditeur privilégiera toujours ses services, par exemple Amazon pour Amazon Echo ou encore Google Express pour Google Home. Ou encore, que vous proposer Spotify plutôt que Deezer (ou l'inverse) sera une donnée monnayable en amont entre l'éditeur en question et l'un des deux plateformes musicales.

Pour toutes ces raisons, le fait d'acquérir un assistant personnel ne devrait jamais se faire sans avoir conscience qu'une intelligence artificielle ne tire pas son "intelligence" de l'absolu, mais bien de paramétrages orchestrés par un éditeur donné. L'anthropomorphisme des machines ne doit pas nous faire oublier qu'elles sont avant tout des produits créés par des géants de la tech à qui de plus en plus d'utilisateurs, sous couvert de vie pratique, acceptent de révéler toujours davantage leur vie privée.

Quelque chose à ajouter ? Dites-le en commentaire.