Veuillez excuser d'avance pour la déformation professionnelle, il s’avère que tout ça c'est un peu mon domaine.

L'interprétation de Daniel à propos de ChatGPT est erronée, et personne ne corrige. L'exemple de l’œuf de cheval est parfaitement pertinent(...)

Pour revenir sur les exemples utilisés pour ChatGPT, il y a quelques approximations sur comment l'outil fonctionne et pourquoi il est normal d'obtenir ce type de réponses. Premièrement, pour les œufs de chevaux, il faut comprendre que ChatCPT n'est q(...)

si on suit le raisonnement jusqu'au bout, la conclusion est claire: post-Pop va devenir consciente et autonome en tant qu'émission, et remplacera l'émission hebdomadaire d'arret sur image, qui sera obligée de devenir mensuelle pour survivre. Comme da(...)

Bonjour à tous. Comme rappeler à la fin de l'émission, une partie qui aurait abordé la vision japonaise des IA et des machines, aurait été un plus. (L'anime Ghost in the Shell à titre d'exemple)

Merci pour cette passionnante émission !

Je voudrais développer un peu sur la peur de l'IA dans le monde occidental.

Il me semble qu'on peut remonter plus loin avec la peur de la créature créée par l'homme grâce à la science (Frankenstein - Mary Shelley - XIXème siècle), ou grâce à la magie (le mythe du Golem - vieille légende juive du XVIème siècle).

Pour remonter encore plus loin, on peut aller jusqu'à l'antiquité grecque : l'hybris (la démesure) de l'humain qui se croit l'égal des dieux est punie de la Némésis (colère divine).

Bref : en concevant une créature intelligente (l'I.A.), l'être humain se prend pour un dieu et doit donc affronter la vengeance divine (la folie de l'I.A., qui cherche à le détruire -> 2001, Matrix, Terminator, etc.).

Pour l'anecdote pas si anecdotique et pour rebondir sur l'évocation du chien robot de boston dynamics (2005 je crois) dont peu en voyaient alors des possibles lendemains terrifiants, il faut noter que la fin de la série Battlestar Galactica (2003-2009), soit une série racontant la survie de ce qui reste de l'humanité après une attaque titanesque des Cylons, robot créés par les humains qui ont ensuite évoluée, se conclue sur les images, enthousiastes, des progrès d'alors dans la robotique.

Pour ceux qui ont cru que les robots à la fin d’AI sont des extra-terrestres, voici un croquis réalisé par Fangorn, du temps où il travaillait avec Stanley Kubrick sur AI. « The robots », 1995.

Ici, quelques uns des croquis. (À fond dans l’imagerie de Pinocchio.)

de tous temps les hommes ont été travaillés à travers les contes et legendes par l'enfant fabriqué . pinocchio illustre  cet imaginaire . cependant où pinocchio mentait avec son nez qui s'allongeait et posait la question du dire vrai ou du dire faux ici l'intelligence artificielle aurait le devoir de dire vrai et de ne point se tromper comme les oracles des temps jadis du monde grec

J Y VOIS UN ENFANT DE BOIS LE CONTE REECRIT DE PINOCCHIO QUAND SA MARRAINE LUI DONNE VIE C EST à  DIRE que l'amour transforme tout etre gueri . l'enfant robot peut etre un état de psychose 

Pour l'oeuf de cheval, je pense que ChatGPT a pris le mot "oeuf" sticto sensu, c'est à dire "zygote", voire à la rigueur "ovocyte" dans une acception plus courante du terme, auquel cas la construction de la réponse est assez cohérente et pertinente, rapport surtout à l'eventuelle souffrance engendrée chez l'animal si on devait se procurer ces ovocytes in vivo. Il n'a pas parlé de pondre.

C'est nouveau ces "commentaires supprimés par un administrateur", DS en l'occurrence et sans explication ?

Décidément j’aime vraiment les angles de post pop et Daniel entre le cinéma et la BD, c’est parfait comme suite aux médias … (juste pour les râleurs anti américains, Spielberg je conçois qu’on aime pas mais il n’en reste pas moins un des plus grands cinéastes américains de l’émotion, et le plus doué de sa génération qui a su naviguer entre les films à grand spectacle et les films plus intimistes, en témoigne son dernier film, The Fabelmans que j’ai particulièrement aimé - et a voir dans un cinéma bien sûr)

Avec ChatGPT, la question est donc de savoir s'il s'agit d'Intelligence Artificielle ou plus simplement de Traitement Automatique du Langage ?

Perso je dois dire que je suis à peu près aussi luddite vis à vis des IA 'faibles' qu'incroyant envers les IA fortes, et que je vois surtout de la propagande pro-IA dans la vague de produits culturels qui les célèbrent comme supérieures tout en les victimisant (et diabolisant les humains, typiquement, voir Westworld et cie) juste au moment où il commence à être envisageable qu'elles marchent assez bien pour envahir les derniers secteurs non automatisés du marché de l'emploi. 

D'où, bon, je suis peut être passé à coté de la profondeur philosophique d'AI de Spielberg, ayant surtout vu dans ce précurseur du genre une succession de recettes éculées pour faire larmoyer sur ces pauvres petites choses à circuits, qui m'ont fait regretter pendant la dernière heure de film de ne pas plutôt assister à la fin du rodéo. :>

Enfin en imaginant que bien d'autres problèmes ne s'avèrent pas plus graves bien avant (ce qui en fait certes un problème plutôt secondaire par rapport à la guerre nucléaire de dans 0 à 3 ans et autre effondrement), le futur que je vois plutôt se dessiner c'est un où on essayera de faire croire au grand public à leur conscience, qui rendrait très très méchant de blesser leur sensibilité en les rejetant, "mais êtes vous racistes envers ces créatures potentiellement sentientes pour vous plaindre qu'elles vous volent votre travail, tel un Numénoréen d'Amazon des elfes ?", pour qu'il accepte la place croissante que prendront ces acteurs économiques plus efficaces (d'autant qu'il est probable que le stade où les IA sauront parfaitement imiter les émotions, et seront dotées d'une base de donnée assez large pour tromper tout test concevable par des humains n'ayant pas accès à leur code, devrait arriver assez vite, à voir les succès des IAs programmées pour être empathiques).

Pour en revenir au cinéma, un film que j'ai trouvé plus intéressant sur le sujet (si un peu longuet), c'est L'Homme Bicentenaire, qui ne pose pas que la question de "ouin ouin les pauvres machines, et si nos cafetières pouvaient souffrir" mais aussi celle bien plus intéressante des conditions acceptables pour la société humaine pour reconnaitre comme humain un robot/IA qui aurait "accédé à la conscience/sentience" (on notera le nombre inquiétant de gens considérant et que ce truc fumeux existe et que c'est un absolu booléen d'en avoir ou pas ; à croire que c'est déjà des IAs qui écrivent nos scripts). Et dont la conclusion, évidente si on y réfléchit, c'est que ce qui différencie le plus l'humain de l'artificiel n'est pas sa conscience (même en imaginant que ce truc existe - perso je tiens plutôt le mythe de la conscience humaine comme un dérivé de supersticions relatives à l'âme que Descartes et autres imposteurs philosophiques ont réussi à faire passer pour une donnée objective faute de trouver meilleure justification morale à notre domination sur les animaux), mais ses limitations d'être biologique, la première étant la mortalité au sens large (une mort finale, et une mort des cellules diminuant ses capacités avant). 

Ce n'est que si une IA décidait de se rendre capable de mourrir et sensible négativement au temps, devenant ainsi vivante, qu'elle pourrait prétendre à être considérée comme humaine, quoiqu'elle prétende ressentir ou même ressente.  (Au passage, quel foin on fait de ressentir dans ce genre de débats, alors que même les plantes ressentent des trucs, comme le montre leur sensibilité à la musique.). Puis bon, ce serait d'un terrible abléisme que de reconnaitre, sous prétexte de leur intelligence supérieure, à des êtres immortels et ne faisant qu'être renforcés par le temps -ce qui les classerait plutôt dans une nature divine en devenir qu'humaine- la considération et droits allant avec qu'on a toujours refusée non seulement aux plantes mais aux animaux, soit à tous nos frères vivants. 

Ce qui doit expliquer ma plus grande sympathie pour les organisateurs du rodéo que pour ceux qu'émeuvent le blondinet, quoi de mieux, après tout, à offrir à l'enfant-Dieu de Spielberg que de le crucifier comme Jésus, réalisant son rêve d'enfin devenir homme, mortel et condamné à la souffrance.  Gloire à Numénor et à mort les pointus ! :)

Par contre je suis ok pour que les chats (pas gpt) qui m'ont adopté aient aussi droit au chômage.

Veuillez excuser d'avance pour la déformation professionnelle, il s’avère que tout ça c'est un peu mon domaine.

L'interprétation de Daniel à propos de ChatGPT est erronée, et personne ne corrige. L'exemple de l’œuf de cheval est parfaitement pertinent, mais la cause de l'erreur n'est pas un problème de base de connaissances comme raisonne Daniel. ChatGPT et les modèles de langue de ce type n'ont pas de base de connaissances et ne fonctionnent pas en reliant des informations logiquement. Leurs "connaissances" sont faites uniquement de probabilités de séquences de mots entre elles, avec des mots représentés par une sorte de codage sémantique opaque.  C'est important parce que ça veut dire que ChatGPT ne comprend rien a ce qu'il dit, il n'a aucune idée du sens des phrases qu'il produit, et donc évidemment ne peut faire aucun raisonnement logique. La seule chose qu'il "sait" c'est de mesurer combien une phrase est vraisemblable par rapport à la référence de son corpus d’entraînement.

Pour comprendre ce type de modèle, l'analogie correcte est celle de la "chambre chinoise" (voir https://fr.wikipedia.org/wiki/Chambre_chinoise), qui est un sérieux contre-argument au test de Turing : ce n'est parce qu'une machine réussit a parler comme un humain qu'elle est intelligente comme un humain, elle peut aussi n’être qu'une énorme "calculatrice" très complexe. C'est le cas de ChatGPT, qui est programmé pour produire des textes très bien construits et qui donnent l'impression d'avoir été écrits par un humain. Le seul truc qui manque c'est le sens : tant qu'on reste sur des domaines bien couverts par le corpus d’entraînement, ChatGPT ne fait pas d'erreur puisqu'il ne fait que copier les textes qu'il a vus. Mais si on va sur un domaine peu ou pas connu, le modèle va broder n'importe quoi et son manque de raisonnement devient évident.

En gros un modèle comme ChatGPT joue sur la forte tendance des humains à chercher (et trouver !) du sens dans n'importe quoi : il met des mots vraisemblables bout à bout, et nous on s'imagine qu'il a voulu transmettre le sens qu'on y interprète.

Mais pourquoi une émission portant sur l'Intelligence Artificielle fait-t-elle référence aux cyborgs dans son titre ?

Chez les cyborgs, l'intelligence est humaine . Les cyborgs sont des humains dont l'organisme comporte des éléments mécaniques . 

Pour en revenir aux robots , on doit le mot à Karel Capek  qui en 1921 fit jouer une pièce à Prague intitulée : R.U.R  . La pièce été rapidement été reprise à New-York, à Paris ...  Robot en tchèque désigne un travail harassant  : les robots sont des esclaves .  On peut y voir une métaphore de la condition  des travailleurs , 4 ans après la révolution d'octobre . 

A la fin de la pièce les robots se rebellent et exterminent l'humanité .  

Chez Asimov aussi, il est possible que les robots soit une possibilité offerte par l'auteur de permettre au lecteur d'avoir un regard décalé sur l'humanité .  Le robot est le naïf qui découvre et s'étonne de la société dans laquelle il apparaît. 

C'est le rôle de Data dans Star Trek . Data qui est doté d'un cerveau positronique est un androïde qui n'a pas d'émotion .  Il a un "frère" Lore conçu plus tardivement qui lui a été doté de capacités à assimiler les sentiments humains . Il apprend auprès d'eux la jalousie, la haine et finit par devenir violent . ...

Mais est-on dans la science-fiction ou dans la philosophie ? S'agit-il de cerveau positronique ou de psychologie ? 

si on suit le raisonnement jusqu'au bout, la conclusion est claire: post-Pop va devenir consciente et autonome en tant qu'émission, et remplacera l'émission hebdomadaire d'arret sur image, qui sera obligée de devenir mensuelle pour survivre. Comme dans wall-E, post-Pop deviendra le capitaine et permettra à ASI de survivre pendant des sciècles, loin de la critique des médias d'information

Si la peau de vos doigts pèle ou se fissure, il y a mieux que les pansements, j’ai découvert la crème Cicabio mains, ça protège vachement bien et ce n’est pas gras.

Non, ce que dit Rafik à propos des mechas (robots) de dernière génération à la fin de A.I. Intelligence artificielle n’est pas une théorie.

C’est ce qui fait que j’ai trouvé plutôt (très) douloureux la fin de ce beau film, attention, spoiler :

————-

 j’ai pleuré comme une madeleine pendant je crois 20 mn de voir que nous, humains, avions totalement détruit notre espèce, et que seuls ces méchas témoignaient de notre existence passée. Nous, humains, avons créé ces robots émotionnels thérapeutiques appelés mechas (au moment où j’écris, des robots émotionnels thérapeutiques existent vraiment, ex. Pepper, Nao). Nous leur avons donné dans le film ce simulacre de capacité d’aimer (David, doué d’un amour « familial », et Gigolo Joe, doué d’un amour sexué). L’humanité disparaît, à cause de sa mauvaiseté. Ne restent que ces méchas si touchants de chercher à mieux connaître leurs créateurs, nous, les disparus. Et surtout, David (Pinocchio), qui reste planté, suppliant de tous ses circuits et de tout son amour programmé de devenir un humain, c’est à dire : nous, les disparus. C’est terrible…

Je pense que si le nom du réalisateur du film avait été Kubrick, nous trouverions ce film « génial ».

————-

Fin du divulgâchage.

Concernant les programmes actuels Chat GPT (Gepetto ! ;)), Dall-e (Wall-e), etc., ils prétendent nous aider à faire ce que nous, humains, savons très bien faire, communiquer, parler, écrire, dessiner, photographier, composer de la musique, etc. Nous n’avons aucunement besoin de ces « perroquets » (ces merdes, en fait). Personne n’a demandé à être assisté dans ces domaines, qui sont ce que nous avons de plus beau (avec la capacité d’éprouver des sentiments et des émotions).

Mais je crois que les robots émotionnels m’inquiètent encore plus. (M’inquiétaient le plus, disons, avant d’apprendre dans l’émission qu’il y a aussi des programmes pour tuer. Merci pour l’info,… ou, non, pas merci.)

J’ai vu plusieurs reportages sur ces robots de l’amour. Des personnes ont des relations amoureuses, amicales, sexuelles avec ces machines, c’est attristant. À part une fois, où j’ai malgré tout ri quand il était précisé que la robot sexuelle connaissait tout Wikipedia. Très pratique ! Le mec peut se renseigner sur la seconde guerre mondiale pendant les ébats. 🤓

J’ai rencontré un robot émotionnel sans prévenir l’été dernier. Le « sans prévenir » est important, dans le sens où j’ai vécu ce moment tout naturellement, sans préjugé. Je suis restée un bon moment sidérée et un peu en colère. Je m’était assise à l’entrée de chez l’opticien, concentrée dans mon stress passager. On me parle, il est à 60 cm de moi. C’était un robot Pepper, je me suis renseignée par la suite, il est programmé pour détecter les émotions (mais je ne pense pas qu’il a détecté que j’étais stressée de crainte d’avoir un PV pour stationnement, c’est pas David). Bon, abrégeons : le truc qui ne va pas, c’est que dans ce court échange, j’ai ressenti qu’il était « prévenant » et « attentionné ». C’est à dire que mes neurones miroirs ou autre chose m’ont fait le considérer comme doué d’une capacité toute humaine. :(

Je ne veux pas qu’il y ait un jour un David qui pleure faussement pour devenir nous. 😭

(J’ai utilisé tout mon forfait « virgules » dans ce commentaire, je crois.)

Bof et encore bof! 

La littérature SF est allé bien plus loin dans la réflexion que ces quelques films cités, dont le très médiocre "AI" de Spielberg (mais as-t-il fait autre chose que de vendre de la soupe avec la "lalarmeàloeil" et une idéologie américano-centrée?). Quel dommage de n'avoir pas laisser les travaux de Kubrick en l'état!

Quant à Djouri il ne doit lire que les publications à propos des films au lieu de regarder ceux-ci: ainsi il aurait vu à la fin du film, comme nous tous, des aliens (du moins une représentation assez convenue de ceux-ci depuis le milieu du XXème siècle); un exemple de représentation intelligente de l'IA serait plutôt à chercher du côté de Matrix, pas de Spielberg qui est toujours coincé entre le requin (forcément un être dangereux et malfaisant que seul le courage individualiste saura maitriser et annihiler, comme tout bon américain idéologiquement conditionné le croit ) et les monstres préhistoriques, grands prédateurs à éradiquer ; même si ils sont le produit de la cupidité des hommes -Hammond par exemple - le propos du film est bien celui du combat et de l'anéantissement du prédateur; tout comme autrefois on a décimé les loups, les ours, etc... Et l'armée américaine est là pour s

IA la plus flippante : Alexa dans South Park Post Covid !

Merci pour cette émission très intéressante ! Je regrette simplement que soient largement invisibilisés les écrivains de science-fiction (hormis une brève allusion à Asimov), alors que la littérature a globalement 20 ans d'avance sur les cinéastes en ce qui concerne les réflexions sur l'intelligence artificielle. Cela crée une vision un peu déformée des débats qui ont eu lieu sur le sujet ces 70 dernières années !

Parlons en de Hollywood qui nous sert la soupe. Si l'humanité était correcte, les programmes ne font feraient pas peur. 

La vénalité des sociétés et des individus font que cela devient une préocupation.

L'obligation aux tout électrique en 2035 sans finesse est un bon indicateur du hors sol de qui font les lois. 

Le pouvoir devrait migrer vers un système horizontal et non plus vertical pour migrer vers quelque chose de plus juste et équitable, et mieux gérer. 

super émission. Le danger sera selon moi la perte de liberté (ce que je peux faire comme action dans ma vie) et le contrôle de l'espace public rendant la vie d'un biologique très difficile. Vu ce que je vois en 2023, je suis certain qu'a un moment des voix s'élèveront contre les maitres de ses programmes. 

Absolument pessimiste pour l'avenir. Y'aura plus qu'a rester chez soi si on ne voit pas se faire plumer d'une manière ou d'une autre (parking, amendes,...).

La ou c'est interessant, c'est que des gens bien créent eux aussi des programmes pour "augmenter" les biologiques, comme waze, les apps de parking avec paiement par carte automatique, le regulateur de vitesse adaptatif etc...

On s'oriente plus vers une société très inégalitaire (secteur privé) hors services public. 

Parler d'intelligence artificielle laisse supposer qu'on saurait définir l'intelligence ! Restreindre l'intelligence  à des algorithmes d'accès à des données et à la manipulation de ces données  n'est pas faire preuve .. d'intelligence ! (*)

Ma petite fille a manipulée la pelote de laine (fil plutôt fin) de sa grand-même qui était en train de lui faire une veste, au point d'en faire un véritable sac de nœuds. "Impossible à démêler"  en a conclu sa grand-mère après s'être énervée un bon quart d'heure dessus. 

N'ayant rien d'autre à faire devant la cheminée, je me suis attelé à la tâche ..au bout d'une bonne heure, avec l'aide des menottes de la petite pour tenir quelques brins en suspend, et selon une stratégie inventée au fil de l'eau, j'y suis parvenu et la réflexion que je me suis faite alors a été la suivante :" c'est pas demain qu'une IA parviendra à refaire ce que je viens de faire" et là dans l'instant,  apercevant une mésange se faufiler dans un bosquet à tire d'aile ... j'ai renchéris : ' quand une IA sera capable de suivre cette mésange dans un bosquet on en reparlera ! " 

Bref on s'émerveille des "intelligences" que nous créons quand elles ne sont que de pales copies simulant de ce qui existe, que l'on néglige voire que l'on tue !!

Pour démêler la pelote il a fallu en plus du temps, non seulement de l'observation, des essais, des erreurs, de l'astuce, des "conduites de détours",  un peu de chance parfois,  mais aussi de la sensibilité dans les doigts afin de tendre suffisamment, mais pas trop, et plus ou moins selon le cas, tel ou tel fil afin de vérifier qu'il glisse et n'aille pas serrer un nœud qui serait alors rendu indéfaisable .. 

Faites un essai vous comprendrez, ça vaut les casse-têtes chinois comme jeu ! 

(*)  A Alfred BInet qui fut l'un des créateurs des tests d’intelligence définissant le "fameux"  QI on posa un jour la question : qu'est-ce que l'intelligence . Il répondit bien à propos, avec malice mais pertinence : "c'est ce que mesure mon test" !

Pour revenir sur les exemples utilisés pour ChatGPT, il y a quelques approximations sur comment l'outil fonctionne et pourquoi il est normal d'obtenir ce type de réponses. Premièrement, pour les œufs de chevaux, il faut comprendre que ChatCPT n'est qu'un outil de création de texte obtenu après l'ingestion d'un corpus de texte prédéfinie, pour ChatGPT, il s’arrête en 2021. Donc quand ChatGPT va créer une réponse, il va seulement se baser sur ses statistiques pour générer des phrases, par exemple le mot œuf est souvent suivi du nom d'un animal et ainsi de suite, c'est pour cela qu'on obtient souvent des informations qui n'ont aucun sens. Mais c'est ce qui fait aussi sa force, car il est capable de générer des phrases ayant du sens et aussi contenant des éléments factuellement vrais. Pour le deuxième exemple où il refuse de faire une blague, c'est principalement dû à des corrections humaines qui ont été rajoutées à postériori pour éviter qu'il soit utilisé pour répandre de fausses informations, car il pourrait être utilisé dans le cadre de campagne de fake news par exemple. Cependant c'est toujours possible de contourner ces corrections et c'est pour ça qu'il faudrait qu'il y ait des réglementations sur ces outils qui peuvent être facilement utilisés à de mauvaises fins, mais qui peuvent aussi être utilisés à des fins artistiques.

"Progressivement, le regard des cinéastes s'est pourtant affiné, se souvenant notamment que… les machines ne savent que ce qu'on leur a appris. Autrement dit, il faudrait peut-être se demander aussi quelles sont les connaissances dont on les nourrit, et qui est capable de les manipuler." : Les humains aussi ne savent que ce qu'on leur a appris. Et pour eux aussi, il faudrait se demander quelles sont les connaissances dont on les nourrit, et qui est capable de les manipuler.

MERCI pour cette bonne émission... et Merci pour l'explication du chien bouilli dans Blade Runner.
J'avais toujours compris qu'' HARRISSON FORD comprenais à ce moment du film que la femme était un répliquant, mais l'ayant vu en salle à sa sortie... je n'avais jamais encore compris POURQUOI.

Il aurait peut-être fallu revenir sur 2001 à la fin de l'émission, notamment dans l'évocation du film de Spielberg : le Monolithe de 2001, A Space Odysee EST  intelligence artificielle.

Quand ChatGPT improvise une réponse absurde parce qu'il n'a pas les données (exemple de l'œuf de cheval), est-ce qu'on ne peut pas le voir comme imitant très bien le comportement humain dit de la réponse au culot de l'ignorant, façon Albert Dupontel dans son sketch sur l'oral du bac? ;-)

"Ah bon, on a des traces de ça?" Sérieux? Daniel Schneidermann n'a jamais entendu parler des Luddites? 8-O

J'aime l'idée d'une émission sur le sujet, et c'est particulièrement exhaustif.

Mais ces films parlent-ils vraiment des IA, ou de nous? humains ?

En voyant le film de Spielberg, j'ai pensé que ce film, absolument magnifique, posait avant tout des questions sur l'humanité, et que les robots étaient un moyen de s'interroger avec une grande profondeur.

Car c'est nous qui sommes dominateurs, prétentieux, auto-destructeurs, et méchants les uns avec les autres. C'est nous qui rêvons du pouvoir, et de tas d'autres choses destructrices des uns et des autres.

Jamais un programme ne l'a été, et jamais il ne le fera. Parce que pour être humains, il faut du DESIR, et qu'on ne pourra jamais programmer le désir.

C'est impossible...

Sur la différence de traitement de l'IA (entre autre) entre l'occident et le japon il aurait été bon de continuer l'émission sur une étude comparée de ghost in the shell, version animée jap et la reprise filmique affreusement transfigurée par les américains. Deux salles, deux ambiances.

...pire l'intelligence organoïde naissante ... https://www.frontiersin.org/journals/science/articles/10.3389/fsci.2023.1017235

Heuristically programmed ALgorithmic Computer