En 1991, c'est-à-dire quasiment à la préhistoire de l'apprentissage automatique, la première compétition du Loebner Prize met en place un test de Turing grandeur nature : des participants humains doivent deviner s'ils communiquent avec un humain ou u(...)

Il faut vivre avec les vivants.

Ben on en a déjà élu un !

Pour la version 2.0, s'il vous plaît, rajouter un peu d'humanité ;-)

Merci pour l'article. J'avais lu celui du Monde sur la société Replika il y a quelques années et en effet c'était un peu effrayant.

Mais dans la série d'été du Monde cette année là, c'était surtout le 1er article sur un autre thème qui m'avait intriguée : l'implant d'une boussole, permettant de développer un nouveau sens.... 

Sujet sympa, mais qui est beaucoup plus intéressant si on l'aborde dans le sens inverse que celui qu'a choisi Thibault : c'est-à-dire partir des clones numériques et finir avec les histoires un peu SF de "résurrection des morts". Je m'explique.


La question centrale est: est-il possible à une IA d'imiter suffisamment un individu au point que qu'on ne puisse plus distinguer l'original (fait de cher et de sang) de la copie numérique ? Bien évidemment, nous n'avons pas actuellement la technologie pour ça, puisque cela exige plus que le test de Turing "simple" (c'est-à-dire de se faire passer pour un humain quelconque), et les IA sont encore très loin de ce niveau. On est toujours à essayer d'avoir des IA qui serait capable de comprendre le sens d'un texte, et non simplement de réagir à des mots-clefs.


Mais imaginons (puisque c'est le thème de cette série d'été) que l'on dispose d'une telle technologie, avec des IA au moins aussi intelligentes que les humains et capables de penser, de réfléchir, d’interagir avec nous. Un tel exercice d'imagination est difficile, vu qu'une telle technologie changerait totalement notre civilisation. Laissons de côté les aspects sociétaux et disons que chacun puisse disposer d'une IA dans un état "tabula rasa" (sans personnalité, sans souvenir) et capable de faire et d'apprendre tout ce qu'un humain est capable de faire(*).

Vous allez donc entraîner cette IA à parler comme vous, à prendre les même décisions que vous, à avoir les mêmes goûts, les mêmes opinions. Vous allez lui raconter vos souvenirs, toute votre vie, au point que l'IA réagira exactement comme vous face à n'importe quelle situation, répondra comme vous à n'importe quelle question et aura un comportement en tout point identique à vous. Ce sera plus qu'un "jumeau numérique", ce sera un réel double, que personne ne pourra distinguer de l'original. A un tel point que l'on touche au questionnement philosophique de ce qui est l'identité, cette IA qui aura les même souvenir, le même comportement, la même personnalité sera vous. Mettez cette IA dans un corps robotique (suffisamment semblable à un être humain) et vous vous retrouvez dans le monde de Ghost in the Shell avec des cyborgs qui questionnent leur propre humanité et où la distinction entre homme et machine s'efface.

Ce qui est fascinant, avec cette possibilité, c'est qu'on en revient toujours au fameux "jeu de l'imitation" tel qu'envisagé par Alan Turing en 1950, et à la question: qu'est-ce qui fait de nous des humains ? Comment sait-on que les autres pensent, ont des émotions ? A quel point on n'est pas en train de s'imiter les uns les autres, qu'est-ce qui fait de nous des individus, des êtres conscients ? Bref, avec cette histoire d'IA qui imite les humains, on voit qu'on arrive a des questions bien plus profondes et philosophiques que ce qui est décrit dans l'article de Thibault, qui reste très en surface de ces problèmes.

Bien sûr, on n'en est pas là, technologiquement parlant, et on a sans doute encore de nombreuses années avant d'arriver à une telle situation, et en attendant on peut ricaner en pensant à ces ersatz de doubles numériques qui ne font pas longtemps illusion. Mais quand même. Plus la technologie progressera, plus l'illusion sera parfaite. Dans les années 80, les images de synthèse était trop grossières pour tromper qui que ce soit. Quarante an plus tard, on arrive à créer numériquement des images "fausses" (deepfake) que l'oeil humain est incapable de distinguer des vrais. Combien de temps avons-nous encore avant que se produise la même chose pour les "IA imitatrices" ?

Rien que la possibilité que l'on ait un jour ce type de technologie est vertigineux et nous questionne sur notre propre humanité. Le transhumanisme, au final, est d'abord un humanisme.




(*) En 2021, il existe déjà des réseaux de neurones génériques capables de s'adapter à diverses tâches par apprentissage. On imagine que dans le futur, il existera des IA capable de s'adapter pour faire tout ce qu'un humain est capable de faire.

Sur ce thème je vous recommande la mini série Arel3 crée par Bruce Benamran (e-penser) 

Le premier épisode ici

Il n'y a pas que Black Mirror pour se poser des questions 

Reste plus qu'a se faire congeler a 30 ans pour espérer vivre éternellement , pendant que nos proches vivront avec un algorithme nous ressemblant . Je vous jure les milliardaires c'est le top du top , mieux qu'une Rolex , aller aller quiqu'en veut ?C'est ouvert a toute personne possédant 100 000 balles , aller faites la queue , y'aura un congèle pour tout le monde .

Toujours cette peur de la mort, cette inacceptation de la finitude, de la nôtre, de celle de nos proches, des sociétés , du monde... 

Le désir/délire prométhéen, démiurgique est total...itaire.

Vous écrivez, Thibault,  "les simulations de disparus peuvent sans aucun doute aider au processus de deuil".

Voilà une chose avec laquelle je suis en total désaccord. Le deuil est un processus intime, interne, couplé à des interactions entre vivant·tes. La présence ou l'absence de traces plus ou moins mimétiques n'est en rien une nécessité. Voire, dans le cas d'espèce, cela me semble être un frein au processus de deuil, à l'acceptation de la "mise à distance", de la disparition de·a disparu·e. 

Et puis, partons de votre point de vue, si ce simulacre aidait, d'un point de vue éthique cela voudrait dire q'un·e vivant·te devrait préparer non pas (seulement) ses obsèques, mais les traces qu'iel laissera sciemment en héritage à ceulles qui vont rester pour "aider au processus de deuil". Le deuil est l'affaire de chacun·ne, bien que pouvant être vécu parfois collectivement. Entre vivant·tes.

Brisons nos chaines numériques. Acceptons la vie. Acceptons la mort. Sans artifices... technologiques..

Nota:

"recréer des ersatz numériques de nos proches disparus, à condition qu'iels aient laissé suffisamment de traces numériques de leur existence".

Super le 'iel', mais pensez à l'accord!

Cool, du coup on va pouvoir parler avec les maures!!! Ça va pas faire plaisir à Zemmour et rien que pour ça c'est pas une mauvaise idée!

Je ne saisis pas bien le rapport avec la critique des medias :-)

bel article, quoiqu'un peu glaçant, juste un peu...

Ben on en a déjà élu un !

Pour la version 2.0, s'il vous plaît, rajouter un peu d'humanité ;-)

Complètement total !!!

Ils ne pourraient pas nous ramener Pierre Desproges et Raymond Devos ?

Pour commencer.

L'idée de faire parler les morts est probablement assez ancienne, on en retrouve des traces avec le mouvement spirite  au XIX° et après la première guerre mondiale .

https://gallica.bnf.fr/conseils/content/spiritisme

L'idée d'interagir avec  des personnages  fictifs ou historiques issus de programmes numériques  est assez bien exploitée dans la série américaine Star Trek : il s'agit du Holodeck , espace situé dans le vaisseau spatial  "Enterprise" consacré tant aux loisirs qu'à la formation professionnelle . 

https://theconversation.com/star-treks-holodeck-from-science-fiction-to-a-new-reality-74839

En 1991, c'est-à-dire quasiment à la préhistoire de l'apprentissage automatique, la première compétition du Loebner Prize met en place un test de Turing grandeur nature : des participants humains doivent deviner s'ils communiquent avec un humain ou une machine. Il s'avère que malgré les techniques rudimentaires de l'époque de nombreux participants humains sont bernés par les machines. Dans cet article l'auteur avance une explication simple : 

"une partie de la réponse repose sur le phénomène qui a permis à Barnum d'amasser une fortune : les gens sont facilement trompés, et peuvent très facilement être persuadés d'interpréter de la structure dans le chaos, de trouver du sens dans l'absurde".

Si des gens veulent croire que l'être cher disparu leur parle, que ce soit par spiritisme ou avec les dernières technologies, ils le croieront dur comme fer. Les vendeurs de vent auront toujours de clients.

Deux mots:  ça craint !

Il faut vivre avec les vivants.

C'est amusant, je suis entrain de lire un livre de SF "La cité des permutants" de Greg Egan, paru en 1994, qui est sur le même sujet.

"En 2045, les progrès de l'informatique sont tels qu'il est maintenant possible de sauvegarder entièrement la configuration neuronale du cerveau humain et de la faire évoluer dans un environnement virtuel.
Cette technologie est utilisée par les plus riches pour faire des copies numérisées d'eux-mêmes et devenir immortels."

Thibault, si vous ne connaissez pas cet auteur de SF, je vous le conseils (notamment les nouvelles qu'il a écrit). Ses récits reposent sur les connaissances et théories scientifiques qu'il maitrise, utilise et développe loin dans l'anticipation. 

On se demande toujours si c'est si loin que ça....