Et si... Diffusé le

Et si... la technologie nous rendait immortels ?

Les premières applis permettant de « converser » avec un proche disparu font leur arrivée sur le marché. Une véritable économie de l’« immortalité numérique » commence à poindre. Tout cela repose sur les progrès en intelligence artificielle, couplés à l’accès sans cesse étendu à nos données personnelles... Doit-on craindre le potentiel addictogène d’un monde virtuel où les êtres chers ne meurent jamais ?... Les questions autour des enjeux éthiques de l’immortalité numérique sont posées à Laurence Devillers, professeure en intelligence artificielle à Sorbonne Université et chercheuse CNRS et Laurent Bibard, philosophe, diplômé de Sciences-Po Paris et directeur de la filière Management et philosophie à l’ESSEC.

Un épisode de la série « Et si... »

Réalisation : Anthony Barthélémy

Production : Universcience, en partenariat avec The Conversation France

Année de production : 2022

Durée : 9min21

Accessibilité : sous-titres français

Et si... la technologie nous rendait immortels ?

Une industrie entière est en train de se mettre en œuvre pour récupérer les données des gens, avoir leur accord pour réutiliser ces données. Ensuite, prétendre pouvoir les faire revivre à travers des agents conversationnels, donc des systèmes qui parlent. Il existe des brevets, Microsoft en avait notamment déposé un. D'autres grands systèmes de traitement du langage automatique permettent à partir d'un grand nombre de vos données, de faire parler une machine comme si c'était vous qui parliez, avec le timbre de sa voix. On peut aussi réaliser une image proche. On l'a vu avec les Deepfakes, on peut faire parler des gens vivants et morts. On peut aussi récupérer ces paroles et avoir un simulacre d'interactions dialogiques avec quelqu'un comme si c'était cette personne. Voulons-nous vraiment fabriquer des morts-vivants ? Les jeunes en rêvent. Beaucoup d'entre eux, y compris des étudiants, tiennent pour acquis qu'on pourra, je cite : "télécharger nos cerveaux sur un ordinateur "afin de les rendre éternels". Ça n'a aucun sens, ni technique ni philosophique. À mon sens, la vie éternelle n'est pas un but. Elle est une orientation. Elle est un guide. Elle est un pressentiment. Elle permet de pressentir qu'on est capable d'éternité, qu'on est capable d'infini. Mais le vouloir matériellement, c'est autre chose. Les jeunes peuvent se mettre à fantasmer un futur sans limites. Quel effet cela va-t-il provoquer ? On ne vit plus le présent. On se met constamment en porte à faux, en déséquilibre vers un avenir fantasmé dont parlent des adultes qui sont irresponsables. Il y a ce marché un peu charlatan qui fait croire que ces machines nous permettront de survivre. C'est faux. C'est une trace qui sera rejouée en boucle. Avec cette capacité à innover des systèmes, de créer des paroles inédites, on laisse penser que la machine fait quelque chose d'incroyable. Une espèce de pseudo-vie. Ça, c'est faux. C'est important de comprendre que dans un rituel de deuil, il y a l'acceptation de la perte de l'autre. Les systèmes qui vont perdurer nous entraîneront dans un champ d'addictions, d'isolement avec un monde virtuel. C'est une dérive éthique. Vous pouvez voir en ce moment sur Internet des vidéos en Corée. L'une d'entre elles est particulièrement émouvante et dramatique. On y voit une femme qui a perdu son enfant. Elle a un casque de réalité virtuelle. Son enfant est récréé en 3D devant elle. Elle peut le toucher et lui parler. Et dans cette vidéo, elle hurle sa douleur. Faire revivre les gens qui nous sont chers, c'est... Cette femme redécouvre mais plus tard, pourra-t-on s'en détacher ? Ça voudrait dire qu'on ne vit plus dans le monde réel. On vivrait dans ce monde... qui est un monde où notre imaginaire va aller pallier les défauts de la technologie parce que ce sera très addictif. Il y aura un jeu extraordinaire sur les émotions. On va le désirer, on va éprouver du plaisir. C'est une manipulation émotionnelle extrêmement forte. L'éthique, c'est le rapport entre la limite de nos moyens et l'infinité de nos rêves. C'est pas l'interdiction qui compte à notre époque, c'est l'éducation. Il ne faut pas se laisser fasciner par des gens qui repèrent peu l'ampleur de leur responsabilité quand ils clament haut et fort qu'on va devenir immortels. Ils ne mesurent pas les enjeux existentiels sur les jeunes, comme je l'ai déjà évoqué. Mais aussi sur les personnes âgées à qui on parle de vie éternelle alors que leur vie est catastrophique. Sans oublier les plus démunis qui chaque jour se demandent s'ils pourront manger et dont la vie est constamment menacée. Cette espèce d'insolence irresponsable, on doit tout faire pour l'empêcher de se répandre. On a étudié la réalité virtuelle mais jamais dans cette grandeur-là, jamais dans un réseau aussi énorme, jamais avec l'idée qu'on pourra avoir son père dans sa poche, et son grand-père dans le métavers où les deux pourront communiquer puisque ce sont des plateformes. On ne l'a pas du tout expérimenté. On n'a même pas demandé l'avis des gens. Le gouvernement n'a pas donné d'avis non plus. Le gouvernement devrait sécuriser les personnes les plus vulnérables. Il doit être à l'écoute des grands dangers et les éviter. Il doit éviter l'injustice, éviter que les gens s'enferment dans ces jeux. Les politiques devraient dire : "Attention, là, "on n'ira pas trop loin, on n'ira pas si vite." Les scientifiques vont monter au créneau en disant : "Nous travaillons sur tous ces sujets "de l'affective computing, détecter les émotions, "faire des systèmes pseudo-empathiques, "faire des chatbots, des agents conversationnels "qui nous parlent avec des technologies abouties "pour générer un langage très proche de celui de l'humain." Mais tout ça, c'est vide. C'est vide de sens et d'intention. Quelles sont les intentions réelles ? Ce sont celles des grands groupes qui veulent faire du profit en capturant notre attention et en nous... mettant devant des objets... addictifs, du marketing, de la publicité. Les sciences et les techniques, ne sont pas des problèmes en elles-mêmes. Le problème, c'est ce que nous en faisons et ce que nous en attendons. Ça vaut pour les technologies, pour ce qu'on appelle à tort : l'intelligence artificielle. Les machines ne posent aucun problème objectif en tant que tel. Les problèmes, ce sont nos attentes. Nous croyons que les machines vont nous dépasser, que nous deviendrons immortels grâce aux technologies. La question est celle de nos attentes. L'urgence est de s'éduquer toutes et tous sans cesse à rester pondérer. On fait des miracles. Ce que nous disons maintenant sera diffusé sur les réseaux sociaux. C'est un miracle, techniquement parlant. L'information traverse le temps et l'espace à la vitesse de la lumière. Ça tient techniquement du miracle. On fait faire à la nature des choses qu'elle ne fait pas spontanément. C'est ça, un miracle. C'est merveilleux. Il est temps de réaliser qu'on fait des miracles. Mais on ne peut pas tout attendre des miracles. Le vrai sens des choses, c'est notre responsabilité. Après tout, on peut se demander ce que nous sommes. Nous sommes notre imaginaire, ces objets nous aideront à imaginer. C'est peut-être le Graal de la vie, de partir dans l'imaginaire et rêver le plus possible. Je crois pas. Si on a réussi à être ensemble dans une vie paisible, et encore, elle ne l'est pas vraiment. Si on préserve notre environnement, si on augmente nos capacités à être moins mortels, à préserver la santé et l'environnement, c'est grâce à une intelligence collective d'humains capables de faire des outils de plus en plus sophistiqués mais pas des outils inhumains qui nous embarquent dans un monde où on ne réfléchit pas. On y serait totalement pris en charge, dépendants et en addiction. J'essaie de porter cette manipulation au regard des politiques, au regard de l'Europe qui veut réguler ces systèmes. J'ai monté un groupe à l'AFNOR avec des collègues, des industriels. On porte maintenant ce groupe sur l'Europe pour trouver des façons consensuelles de normer, d'auditer ces systèmes dans tous les environnements industriels. Les GAFA vont-ils venir jouer avec nous ? L'Europe va-t-elle dire : "Vous devez faire cela, vous devez faire attention, "vous devez expérimenter avant de déployer." Je ne sais pas.

Réalisation : Anthony Barthélémy

Production : Universcience, en partenariat avec The Conversation France

Année de production : 2022

Durée : 9min21

Accessibilité : sous-titres français