2101, sciences et fiction Publié le

L'intelligence artificielle : la conscience / J-G Ganascia

Jean-Gabriel Ganascia, informaticien et philosophe, spécialiste en intelligence artificielle nous décrit le rôle de l'intelligence artificielle. Quels sont réellement les enjeux et limites de cette science située aux frontières de la science fiction ? Quelles doivent être les interactions entre l'homme et la machine? Une interview tirée du webdoc "2101, sciences & fiction".

Réalisation : Patrick Chiuzzi

Production : Universcience, Centre de recherche astrophysique de Lyon, C Productions Chromatiques

Année de production : 2016

Durée : 10min22

Accessibilité : sous-titres français

L'intelligence artificielle : la conscience / J-G Ganascia

"2101, sciences et fiction"

"L'intelligence artificielle, La conscience ?"

"Extrait du film 'Eva', réalisé par Kike Maíllo"

L'androïde.
-Amusée ?
Alex Garel.
-"Rapide."
L'androïde.
-Affamée ?
Non !
Gourmande.
Alex Garel.
-Parfait.

"Perfectionniste."

L'androïde.
-Hum...
Démotivée.
Alex Garel.
-Hum, hum.
Tu es sûr ?
L'androïde.
-Oui.
Alex Garel.
-Regarde, cette femme est fatiguée.
On bâille quand on tombe de fatigue.
L'androïde.
-Elle est démotivée, c'est ça qui la fatigue.
Alex Garel.
-D'accord.
Tout comme sa fatigue la démotive.
Tu t'en sors bien.

"Créatif."

L'androïde.
-Arrête de rire.
Alex Garel.
-Pourquoi ?
L'androïde.
-Parce que.
Arrête de rire !
Alex Garel.
-Je ris parce que tu es drôle.
L'androïde.
-Je ne suis pas drôle !
Alex Garel.
-Assieds-toi.
L'androïde, puis Alex Garel.
-Non.
-Assieds-toi.
L'androïde.
-Je ne veux pas !
Alex Garel, puis l'androïde.
-Arrête ça.
Je t'ai dit de t'asseoir.
-Non.
Alex Garel.
-Assis.
L'androïde, puis Alex Garel.
-Je m'en vais.
-Tu vas où ?
Tu ne peux pas sortir.
L'androïde, puis Alex Garel.
-Pourquoi ?
-La porte est verrouillée.
L'androïde, puis Alex Garel.
-Ouvre-la.
-Non.
L'androïde.
-Ouvre-moi la porte !
Alex Garel.
-Je t'ordonne de t'asseoir.
L'androïde, puis Alex Garel.
-Je t'ai dit de m'ouvrir.
-Non.
L'androïde, puis Alex Garel.
-Je veux m'en aller !
-Non !
L'androïde.
-Si !
Alex Garel.
-Que vois-tu quand tu fermes les yeux ?
Jean-Gabriel Ganascia, informaticien et philosophe, spécialiste en intelligence artificielle.
-Est-on capables de fabriquer l'équivalent d'un cerveau ?
Aujourd'hui, on en est très loin.
C'est vraiment une vue de l'esprit.
100 millions de neurones plus les cellules gliales, dont on connaît mal la fonction dans notre cerveau, font que c'est un des dispositifs les plus complexes que l'on connaisse aujourd'hui.
On n'a pas de technologie qui permette de le reproduire.
Rien ne dit que dans 100 ans, dans 200 ans, on ne maîtrisera pas ce genre de choses.
Mais ce que je crois, c'est que l'avenir nous surprend.
Souvent, on imagine des choses avec nos yeux d'aujourd'hui, mais peut-être que d'autres transformations étonnantes, comme celles qui ont eu lieu en 2000, où tout à coup, Internet a surgi, avec ses possibilités de communication qui changeaient la topologie du monde...
Peut-être qu'il y aura des choses extraordinaires qui naîtront.
C'est une idée ancienne.
Reproduire l'homme, si on regarde dans l'histoire, il y a depuis très longtemps des gens qui l'ont imaginé.
Si on regarde "L'Odyssée", Héphaïstos, qui certes était un demi-dieu, avait des servantes en or qu'il avait fabriquées lui-même.
Donc, on en revient à cette question du rôle de l'intelligence artificielle.
Ce ne sera pas un double de nous-mêmes, ça ne va pas nous déposséder.
On vit déjà dans un monde où les machines prennent une part de plus en plus importante.
Et il faut quand même avoir un univers qui soit vivable, pas intolérable, où on ne soit pas écrasés par toutes ces règles, par tous ces automates qui nous rendent bien des services, mais qui pourraient devenir vite insupportables.
Il y a un débat là-dessus.
Les robots, qui sont de plus en plus autonomes, vont prendre des décisions.
Donc, on se demande comment faire en sorte que ces décisions se conforment à ce que les hommes souhaitent.
Il y a des situations où ce n'est pas très grave, juste un peu gênant, comme un aspirateur qui mange un fil électrique.
Mais si on a affaire à une voiture, ça semble déjà un peu plus dangereux, plus embêtant.
On a des situations encore plus dramatiques, comme celle des drones sur des théâtres d'opération.
Pour l'instant, ils ne décident pas de tirer, ils se contentent de se guider tout seuls.
Ensuite, ils sont télécommandés à distance par quelqu'un qui va utiliser cette machine pour tirer.
Mais même là, on peut imaginer que les automates, les agents intelligents, l'équivalent d'un robot mais virtuel, ces intelligences artificielles en ce sens-là, soient capables d'être des garde-fous, de prendre garde à ce que toutes les procédures aient été respectées.
Est-ce que les éléments d'information dont ils disposent autorisent une action ?
Donc, s'il y a une contradiction, ils doivent pouvoir la souligner, même si l'homme décide en dernière instance.
Et il y a des cas où aujourd'hui, on se pose la question : quel est le conflit d'autorité, qui doit décider ?
Ça paraît surprenant, parce qu'on se dit que c'est l'homme, puisqu'en dernière analyse, c'est lui qui a fabriqué la machine, mais dans le temps de l'action, on sait que, quelquefois, les hommes décident mal.
Par exemple, on sait que l'analyse rétrospective des accidents d'avion montre que la plupart du temps, la cause est une erreur humaine.
Donc, on se dit que dans certains cas, s'il y a une commande d'avion, l'automate peut dire : "Ce n'est pas à vous, mais à moi de décider."
Ce sont toutes ces questions sur lesquelles on travaille, dans quelles situations est-ce l'homme ou l'automate qui doit choisir, et quand est-ce qu'on doit avoir une interaction, une argumentation entre la machine et l'homme ?

"2101"

Ce qui a beaucoup changé dans le chercheur, c'est que, quand j'étais enfant, j'avais l'idée de quelqu'un qui portait une blouse blanche.
Aujourd'hui, la plupart du temps, ce n'est pas nécessaire parce qu'on travaille devant un écran d'ordinateur.
Auparavant, l'activité qui était celle du chercheur était de toucher le monde, de le provoquer, dans une expérimentation au sens étymologique.
Expérimenter, c'est mettre en péril quelque chose, mettre en péril sa théorie en la confrontant au réel.
C'est en train de changer parce qu'on va avoir de plus en plus un enregistrement de la réalité du monde et tout ça se fera de façon systématique, mais ensuite, on expérimentera directement sur des ordinateurs.
J'ai une petite équipe qui travaille beaucoup sur les humanités numériques.
De quoi s'agit-il ?
Ce sont les humanités non pas au sens classique, c'est-à-dire l'étude des lettres classiques, du grec et du latin, mais au sens de science de la culture.
C'est la discipline qui va étudier les œuvres humaines.
On numérise des textes, puis on essaie de faire des hypothèses, par exemple de se demander quel texte réutilise quel autre, comment les auteurs, progressivement, construisent leurs œuvres nouvelles, en comparant les différents états de textes ou en recherchant l'évolution des idées dans un corpus.
Telle idée naît à tel moment, puis elle se reformule, on la retrouve.
C'est ce que l'on fait.
On a un petit labex, un laboratoire d'excellence, avec les équipes de littérature de la Sorbonne et mon équipe d'informaticiens.
Je crois que c'est un défi extraordinaire lancé à l'intelligence, de trouver de nouvelles façons de penser la tradition.

2101, sciences et fiction

Conception et réalisation : Patrick Chiuzzi
Avec la voix de Johanna Rousset
Avec la participation de Jean-Gabriel Ganascia, informaticien et philosophe, spécialiste en intelligence artificielle
Images bande dessinée 2101 : Guillaume Chaudieu
Développeur : Thomas Goguelin
Image et son : Patrick Chiuzzi et Robin Chiuzzi
Enregistrement voix : Studio Ghümes
Musique : Ludovic Sagnier
Montage : Yann Brigant

Chromatiques
Producteur : Patrick Chiuzzi
Assistante réalisateur : Cécile Taillandier
Assistante de production : Élodie Henry
Images additionnelles : Shutterstock
The Earth in 4K – Nasa/M.Kornmesser/Music : Johan B. Monell (www.johanmonell.com)

Universcience
Rédaction en chef : Isabelle Bousquet
Production : Isabelle Péricard
Responsable des programmes : Alain Labouze

Avec la participation d’Amcsti

Remerciements : Eloïse Bertrand, Alice Chiuzzi, Agate Chiuzzi, Delphine Boju, la société Aldebaran Robotics, Aurore Chiquot, Romain Mascagni, Mathieu Gayon

Avec le soutien d’Investissements d’Avenir et la participation du Centre National de la Cinématographie et de l’image animée

© C Productions Chromatiques / Universcience / Centre de recherche astrophysique de Lyon / 2016

Réalisation : Patrick Chiuzzi

Production : Universcience, Centre de recherche astrophysique de Lyon, C Productions Chromatiques

Année de production : 2016

Durée : 10min22

Accessibilité : sous-titres français