Michael Cunningham avait raison. Nous devenons les histoires que nous nous racontons. Et ce phénomène remonte à la nuit des temps. Racontées autour d’un feu au milieu de la savane africaine, ce sont des histoires qui ont nourri l’imagination des premiers Hommes. Elles ont donné un sens à l’énigmatique voûte étoilée des nuits, tout comme elles ont permis la transmission du savoir pratique, comme les techniques de chasse.
Contrairement à toutes les autres espèces animales, nous avons été la seule à pouvoir transmettre des histoires de génération en génération, afin que notre progéniture ait une longueur d’avance sur la précédente. Les histoires ont ainsi joué un rôle remarquable dans notre évolution.
Mais en 2022, quelles histoires nous racontons-nous ? Ou, question plus intéressante encore, qui détient les clés de la parole dans nos structures sociales ? Au nom de la démocratie et de la liberté, serions-nous en train d’abîmer le tissu social, déjà assez polarisé par les temps qui courent ? Ou encore pire, serions-nous en train de laisser notre esprit s’obscurcir par des algorithmes ayant comme seul but de servir des intérêts économiques ?
Tour d’horizon de ce monstre à plusieurs têtes.
L’économie de l’attention
J’admets, sans culpabilité aucune, que j’adore la technologie. C’est grâce à Internet que ma mère de 87 ans est capable de se connecter avec des amies du primaire à l’autre bout du monde, ou voir ses petits-enfants pendant une pandémie. C’est grâce à des technologies de pointe que nos meilleurs chercheurs sont en train de faire des percées exceptionnelles sur certaines des maladies graves. C’est grâce à des outils de visioconférence que nous sommes capables d’offrir l’éducation à distance à nos jeunes et de faire du télétravail. C’est donc sans grande surprise que j’ai fait mes études en technologie et qu’une bonne partie de mon travail y est consacrée.
Quel est le problème alors ? Un piège sournois dans lequel nous tombons tous. Sa formule se résume en un constat et trois stratégies: la plupart de nos modèles sont encore basés sur la publicité. Pour mieux cibler leur public, les plateformes doivent en connaître le plus possible sur vous. Pour cela, elles doivent capter énormément de données. Pour capter des données, elles doivent conserver votre attention le plus longtemps possible. C’est ce que l’on appelle l’économie de l’attention.
Alors que la télévision nous pousse des publicités presque à l’aveuglette, vu son état statique et relativement déconnecté, un téléphone intelligent est constamment porté sur nous, au point de nous suivre dans tous nos déplacements et d’entendre de nos conversations les plus intimes.
Vous coucheriez-vous à côté d’une caméra équipée d’un microphone et d’une panoplie de capteurs ? L’apporteriez-vous à la salle de bain ? Donneriez-vous des informations personnelles sur tous vos comportements en ligne et votre identité à des inconnus dans la rue ? Bien sûr que non. Et pourtant, piégés dans cette économie de l’attention, nous le faisons tous les jours.
Première génération « hackable »
Derrière un design léché, à première vue inoffensif, ces appareils intelligents communiquent en continu nos informations à des serveurs où des algorithmes, codéveloppés par une armée de cracks de la neuroscience et de l’informatique, non seulement apprennent et comprennent de plus en plus d’informations sur nous, mais sont en plus capables de nous faire croire une histoire du monde à travers nos fils d’actualités. C’est dans les laboratoires des grandes Universités, comme le « Behaviour Design Lab » de l’Université de Stanford, que ces techniques de persuasion, comme le « dark design », sont étudiées et testées.
Prenez un peu de recul et posez-vous ces questions : qui « décide » de ce que je vais regarder ce soir sur Netflix ? Qui me présente une image de l’état du monde ? Qui décide qu’acheter sur Amazon ? Qui décide à qui je devrais faire des demandes d’amitié ? Vous ? Vraiment ? Ce sont chaque fois des algorithmes sophistiqués qui nous « proposent » un certain nombre de choix ou nous présentent des « faits ». Accepteriez-vous que Wikipédia vous présente une version biaisée des articles selon votre profil ? La caractéristique fondamentale d’une information est qu’elle doit rester immuable vis-à-vis de biais.
Cette « apparence de choix » est vertigineuse et n’est pas exempte de conséquences graves. Yuval Noah Harari, historien et écrivain notoire israélien, raconte que nous entrons tranquillement dans une nouvelle ère, celle où l’homo sapiens devient un animal « hackable ». Pour la première fois de l’histoire, une technologie que nous avions l’impression d’avoir maîtrisée, est en fait en train de « hacker » notre libre arbitre. Avec l’excès d’informations que nous partageons en ligne, ces algos commencent à prédire nos actions, à manipuler nos désirs et, in fine, pourraient prendre des décisions à notre place. Avec un bon niveau de confiance, ils pourraient nous dire quelle carrière entreprendre, nous dévoiler notre orientation sexuelle avant que nous l’apprenions nous-mêmes, pour qui voter, avec qui se marier, etc.
Or, un peu comme dans le film « Don’t look up », personne ne semble s’alarmer outre mesure. C’est comme si les rôles avaient été interchangés. Alors que nous avions l’impression que la technologie était là pour nous servir, elle endosse habilement le rôle de maître pour captiver notre attention six à neuf heures par jour en détournant notre regard du réel. Alors que nous sommes à la recherche de la dernière nouvelle choc ou d’une dose de dopamine supplémentaire, derrière les rideaux nous ne faisons qu’alimenter sans cesse un monstre insatiable qui se nourrit (et s’enrichit) en colligeant nos données comportementales et identitaires.
Les marionnettes de la Tech
Cette déconnexion de la réalité se traduit parfois par des phénomènes surréalistes. Dans la communauté des chirurgiens esthétiques, une nouvelle pathologie voit le jour : la dysmorphie Zoom.
Il y a toujours eu des personnes qui souhaitent améliorer leur apparence ou rassembler à une vedette. Mais pour la première fois, ces professionnels de la santé ont commencé à recevoir des demandes de chirurgie afin de corriger l’image renvoyée par les systèmes de visioconférence. Ces patients montrent des captures d’écran prises lors de rencontres virtuelles (sur Zoom, Teams, peu importe), expliquent qu’ils sont insatisfaits de leur apparence et souhaitent la transformer. En d’autres mots, l’image virtuelle est en train de supplanter l’image réelle, c’est-à-dire celle renvoyée par le miroir.
Un autre exemple où la Tech usurpe le rôle de marionnettiste est celui des débats sur les réseaux sociaux. À priori, le principe d’en débattre et que tout le monde ait une voix nous paraît juste et équitable. Alors, quel est le problème ? En fait, l’architecture sur laquelle nos plateformes sont bâties a pour mission, entre autres, de provoquer ces débats sans fin dans le but de stimuler nos pulsions à reprendre et regarder sans cesse son appareil. Plus je passe de temps à m’obstiner, à réagir vite et à démontrer à l’autre qu’il a tort en détruisant ses arguments publiquement, plus l’algorithme a du temps pour capter des données, et donc mieux cibler la pub qu’elle va nous pousser la prochaine fois.
En plus, soyons francs, les idées ne sont plus débattues; il s’agit purement et simplement de démolir la crédibilité de la personne en face. En offrant un micro libre à ceux qui crient le plus fort, on pourrait finir par croire que la plupart de gens sont complotistes ou conspirationnistes alors que, selon plusieurs études, c’est une minorité. Une fois de plus, cette manipulation habile peut instrumentaliser notre fil d’actualités au point qu’il devient une représentation du monde à nos yeux.
Cette polarisation de la place publique est d’ailleurs une machine bien calibrée. Le nombre d’échanges à fleur de peau dans les commentaires, la désinformation, les propos haineux, l’ignorance, etc., voilà bien de variables que les équipes de neuroscience étudient, testent et affinent. Certes, des progrès sur la propagation des propos haineux sont en cours, comme en témoigne la technologie d’apprentissage de Meta (Facebook) baptisée « Few-Shot Learner », mais la bataille est loin d’être remportée.
Et alors, que fait-on ?
La première étape de toute transformation est de s’accorder sur le constat. Si nous continuons à nous faire croire que le fait qu’un petit groupe d’entreprises, qui frôle les dix mille milliards de dollars américains en valeur boursière 😳, puisse continuer à dicter nos vies, eh bien, toutes nos actions seront réduites à des efforts stériles. Nous sommes pris dans un engrenage et il est grand temps de le reconnaître.
Ensuite, nous devons changer le récit collectif, selon lequel ce qui importe le plus au monde est la croissance économique. Depuis des décennies, l’insatiable homo economicus est embarqué dans une course folle à la croissance sans fin. Cet éloge de la croissance a fait son temps. Nous devons développer de nouveaux indicateurs de croissance adaptés au 21e siècle qui tiennent également compte des écosystèmes du vivant, de la santé physique et mentale de la population, du sens et du plaisir. Seul le PIB semble préoccuper nos politiciens, mais cet indicateur sclérosé n’est plus suffisant. Ne se fier qu’à lui serait aussi absurde que de partir en mer avec une boussole dont l’aiguille est fixée sur le sud, quelle que soit la direction désirée.
Finalement, nous devons avoir la lucidité de bien assumer notre rôle. Devant une vue du monde si fragmentée par la pléthore de fils d’actualités, il devient impératif d’exiger ce que l’on appelle la responsabilité algorithmique, c’est-à-dire que toute compagnie exerçant dans le domaine social devra jouer « kimono ouvert » et afficher une certaine transparence en ce qui concerne ses algorithmes. Ceci demandera du leadership de la part de nos gouvernements et probablement de nouvelles législations. L’impérialisme des données n’a pas sa place dans une société comme la nôtre.
C’est ainsi que, dans un avenir rapproché, nous pourrons nous raconter collectivement une nouvelle histoire, celle où nous aurons réconcilié le progrès et la bienveillance sans nous laisser pour autant ensorceler par les sirènes de la Tech. Il faut gouverner le monstre avant qu’il ne nous gouverne.
