Je me demande à la base comment on peut imaginer bourrer un logiciel de data, de données, et d'images, qu'il recrachera à la demande en en changeant quelques mots et appeler ça une intelligence.

C'est quand même une vision du monde très étrange, très (...)

Passionnante émission, et on en revient a cette question: Pourquoi développer tout ça? On comprend les nombreux investisseurs , qui y voient un très juteux marché, et les chercheurs passionnés qui en voient les applications utiles, mais la balance bé(...)

Je pense qu’il faut commencer par le début : de quels droits une société peut-elle piller les images existantes, c’est à dire les créateurs d’images existants ou ayant existé ?

Getty Images, l’entreprise de banque d’images, porte plainte contre Stable(...)

La prétention du journaliste du Monde sur le caractère unique et recherché de leur travail est tout à l'image du déni général du problème et particulièrement en France. Je suis bien placé pour savoir que la sélection des étudiants se fait sur leur capacité à disserter dans le vide, et à synthétiser les travaux et les idées des autres. Or c'est justement ce qu'on demande ensuite à faire à la plupart des gens dans leur travail, tout spécialement dans le traitement de dépêches dans le journalisme. La France est tout particulièrement biaisée par ce mécanisme formel de sélection des élites et de conformation à des modèles de rédaction, et par l'éviction de tout échange de savoir accumulé et articulation de ces informations. Toute sa sélection scolaire et universitaire est ainsi à l'épreuve de ce bouleversement : il n'y a aucune différence entre chatGPT et une copie d'étudiant, parce que les deux ont été valorisé et sélectionné sur leur seule capacité à disserter, synthétiser, accumuler des jolis mots et des phrases bien faites et bien concises, des plans bien construits et des introductions bien composées : mais jamais sur l'accumulation de connaissance et de faitrs précis, et sur leur articulation pour créer de la science et du savoir. Leurs copies sont identiques : bien rédigées mais ne disant généralement rien de précis, ne citant aucun fait. L'IA va balayer tout ce vieu monde très rapidement... et peut-être que ce sera pour le mieux. Les gens qui ne savent pas disserter selon les codes de l'élite intellectuelle pourront enfin présenter des faits à égalité, et proposer de les articuler à leur manière, et ainsi contribuer à faire avancer la science et la société !

Je ne comprends pas pourquoi reprocher à l'IA d'utiliser un corpus biaisé : c'est le corpus disponible. Il est au contraire très bon que l'on puisse avoir une manifestation franche de nos biais, car le pire dans les biais ce sont leur présences implicite et inconsciente, qui permet de les ignorer et ainsi de les reproduire. Ce qu'on reproche à l'IA est de ne pas savoir simuler une volonté de diversité ou se sentir scandalisé par les biais du monde.... lorsqu'elle ne fait que répondre aux biais des requérants. En d'autres termes, si elle devait se déguiser pour venir sur le plateau d'ASI, elle se ferait blanche, et télégénique... elle ne saura pas faire semblant de vouloir que ce soit autrement alors que le plateau est peuplé de blancs télégéniques...

Pour mieux connaitre de quoi on parle: 

https://scienceetonnante.com/2023/01/13/stable-diffusion

Une vulgarisation hors pair, comme on en trouve toujours sur ce site magistral.

Et bien sur ne pas oublier l'arrière boutique de tout cela, pas très glorieuse...

https://www.courrierinternational.com/article/intelligence-artificielle-au-kenya-l-enfer-des-petites-mains-precaires-de-chatgpt

Une petite réflexion concernant les IA :

La machine évolue TOUJOURS dans un système fermé, sans externe.

Le système à TOUJOURS des limites, peu importe sa taille.

La machine connait TOUJOURS la totalité du système, dans l’espace et dans le temps (déterminisme oblige)

En conséquence, la machine produit TOUJOURS des résultats exacts au sens du système.

Elle ne peut tout simplement pas faire autrement.

Pour nous, c’est l’inverse, nous sommes en système ouvert.

Nous vivons en interaction permanente avec un externe sans limite.

Ne serait-ce tout simplement, parce que nous ne connaissons pas l’avenir, même immédiat.  

En conséquence, nos savoirs même les plus stables, sont TOUJOURS des hypothèses.

Concernant l’avenir, nous sommes TOUJOURS en écart avec ce qu’il advient.

En synthèse :

Là où la machine est TOUJOURS dans la certitude, nous sommes TOUJOURS dans l’erreur approximative.

Ce que nous nommons intelligence est la capacité adaptive à faire avec ces approximations.

Ceci sans jamais pouvoir espérer les réduire en totalité (surtout concernant l’avenir…)

De son côté, les certitudes absolues de la machine excluent toutes possibilités adaptatives.

S’adapter à quoi ?

En fait, les intelligences artificielles n’ont qu’une seule fonction.

Alimenter nos fantasmes de croire possible la réduction définitive de nos angoissantes incertitudes.

C’est un très vieux fantasme ; Devenir Dieu lui-même en résolution de la mort.

Fantasmer n’est pas interdit, c’est même nécessaire pour affronter l’angoisse.

Mais y croire, c’est dangereux, aujourd’hui, comme depuis toujours.

Rien de bien neuf dans tout ceci…

Concernant la création d'images via les IA, c'est dommage que l'énorme problématique du pillage des créations et des droits d'auteurs ne soient pas soulevée.

Le professeur compare cela à l'arrivée de la photographique qui n'a pas tué la peinture (de mémoire), mais cette comparaison est erronée : la photographie n'a pas utilisé toutes les peintures existantes, pour se baser là-dessus et créer des nouvelles choses en mixant différentes peintures.
C'est une nouvelle forme de création qui peut exister de façon parfaitement indépendante par rapport à la peinture.

Pour les IA de création d'images, elles utilisent toutes les images créés par des artiste et disponibles sur internet, les copient et les mélangent pour obtenir des nouvelles images. Il n'y a donc pas de création au sens pur du thème, mais uniquement une repompe pas assez large.

Si il n'y avait pas de création artistique sur Internet disponible, ces "IA" à ne pourraient absolument rien créer. Elles se basent uniquement sur les illustrations réalisées par différents artistes.
Et il ne s'agit  pas "d'inspiration", mais plutôt d'une large contrefaçon utilisée astucieusement.
A mon sens, si l'on veut respecter le droit d'auteur, ces outils ne devraient pas exister.

Pour approfondir le sujet : un des articles francophones traitant du sujet :
https://www.francetvinfo.fr/culture/bd/enquete-franceinfo-l-intelligence-artificielle-va-t-elle-tuer-les-artistes_5610134.html?s=09

Je ne comprends pas l’initiative du Monde. Quel est l'intérêt de produire un faux ? Juste parce qu’il est possible de le faire ? D'autant plus que le résultat n'est pas très convaincant... Fallait-il faire tourner des super-calculateurs pendant des jours et consommer toute cette énergie (électricité, mais aussi journalistique et technique) pour produire cette ... chose ? 

Me semble qu'on utilise ici l'histoire comme cache-sexe juste pour se démarquer de son voisin médiatique - ça fait plus sérieux que chez la concurrence.  Les médias s'embourbent encore une fois dans une vision techno-gaga, totalement fascinés par ce qui leur semble relever de la magie. 

L'exemple de Brut est révélateur (et vraiment déplorable). Comment quelqu'un comme Busine peut-il se prêter à un exercice aussi grotesque ? Venant de quelqu'un qui est devenu journaliste par le biais de son travail sur le mouvement des gilets jaunes, c'est tout de même un peu surprenant. Les gilets jaunes ne montraient-ils pas assez leur défiance envers les médias mainstream ? Brut apporte encore une énième belle pierre à l’édifice.

Merci emission L'IA comme pour le big data repose sur la qualité des données sources. 

Pas du tout convaincu par la reconstitution de l'appel du 18 juin lue par une voix issue de l'intelligence artificielle. Celle de François Morel perce trop. J'ai suffisamment entendu la voix de De Gaulle pour vous dire qu'il aurait été bien plus pertinent de faire lire le texte par un bon imitateur. Dommage qu'Henri Tisot ne soit plus de ce monde. Lui qui a fait toute sa carrière en imitant De Gaulle aurait parfaitement fait l'affaire.

Sujet très intéressant, pour ma part je commence tous juste à l'utilisé en tat qu'amateur de jeux de rôles. J'ai commencer a l'utilisé pour générer des animaux, des description de lieux. Les IA me serve aussi à trouver les illustration pour certain objet qui ne trouve aucune représentation dans les livre, ni même sur les internet. Je suis consens que les créatif qui voudrais en vivre vont devoir réfléchir à leurs modèle économique, mais pour le commun des gens qui non pas le temps ni les compétence artistique cela est vraiment génial. Dans mon utilisation il n'y à aucune volonté commercial, il doit y avoir une réflexion sur le coté commerce de la chose. 

Émission d’intérêt public.

VOTEZ

J'ai entendu une vidéo où macron disait dans un discours officiel non reproduit par les médias, certainement de crainte d'une nouvelle révolution, les phrases suivantes :

“Les prolétaires n’ont rien à perdre que leurs chaînes. Ils ont un monde à gagner. Prolétaires de tous les pays, unissez-vous !” “La propriété privée nous a rendus si stupides et si bornés qu’un objet n’est nôtre que lorsque nous le possédons.”

et bien d'autres encore qui m'ont étonné.

Je dois avouer que mon opinion sur lui commence à changer en l'entendant parler dans cette vidéo

Je n'ai pas été convaincue du tout. La voix de de Gaulle on la connaît, donc on peut comparer. Ma mère, elle, a entendu l'appel du 18 juin (ses parents écoutaient radio Londres) et elle m'a raconté se stupéfaction. A quoi bon faire ça? Evidemment si on "reconstitue" un discours de Napoléon, personne n'ira dire que ce n'est pas la vraie voix. 

C'est rigolo d'inventer un truc pour tromper son monde : on croirait entendre le vrai De Gaulle, tout en disant que ça ne doit jamais au grand jamais servir à tromper son monde!

C'est rigolo si je demande à l'IA une souris avec des oreilles rondes noires et une culotte rouge, il y a des chance que l'IA "crée" direct Mickey? Non c'est fait pour que non.

C'est rigolo l'IA qui m'aide à retrouver une photo dans ma tablette, a classé un champignon photographié dans la forêt dans nourriture. Est-ce que ça veut dire qu'il est comestible? Je ne crois pas. Aussi j'ai fait un dessin, l'IA l'a mis dans art, et un autre dessin dans oiseau, donc l'oiseau est le plus réussi des deux dessins?

Au fait on attend quoi de ce que produit l'IA? De nous épater? De réduire les coûts? On la vend en nous épatant, mais l'arrière pensée est de réduire les coûts, et c'est même pas pour réduire la pénibilité du travail.

Passionnante émission, et on en revient a cette question: Pourquoi développer tout ça? On comprend les nombreux investisseurs , qui y voient un très juteux marché, et les chercheurs passionnés qui en voient les applications utiles, mais la balance bénéfices/risques pour le reste semble vertigineuse, dans bien des domaines.

Du point de vu des illustrateurs, dont j'ai la chance de faire parti depuis suffisamment longtemps pour ne pas me sentir menacé à courte échéance, le plus gros problème est en effet la question de la collecte (ou plutôt la non-curation et la non-restriction) des corpus qui sont exploités pour développer ces IA, dont la qualité (et donc la rentabilité) dépend directement des images utilisées, sans qu'il n'y ai aucun consentement ni compensation de ceux dont on exploite les images. (Ni même, d'ailleurs, de simple crédit).
Actuellement les cas de harcèlements, de faux, et d'escroqueries fleurissent, spécialement (malheureusement) avec les modèles open source, et on peut craindre, au delà de ça, un basculement du rapport de force entre les grosses entreprises et les travailleurs assez démentiel si la technologie n'est pas rapidement encadrée.

Contrairement a l'arrivée de la peinture a l'huile, a la photographie ou a la peinture numériques auxquelles on les compare souvent, ces IA ne sont pas que de nouveaux "outils" auxquels il faudra s'adapter, en ce sens que, pour la première fois, elles permettent a l'utilisateur (contre abonnement) de s’affranchir de la quasi intégralité du processus artistique, pour n'obtenir qu'un produit, le plaçant non pas dans le rôle de l'artiste, mais bien de celui du client, ou de curateur. Elles sont, par essence, hyper-dérivatives, puisqu'elles ne dépendent QUE de leur corpus de données. Comme souligné par l'invité, les algorithmes les plus performants et "originaux" sont ceux à qui on demande de copier le plus directement le travail d'une personne, elle bien vivante, ce qui, faute d'encadrement, se fera nécessairement a son détriment, avec pour seule faute d'avoir produit un travail utile a la machine.

Le résultat actuel est déjà l'extraction, a très grande échelle, de la valeur du travail de milliers de professionnels (et d'amateurs) et des données personnelles de millions d'autres, au profit de quelques entreprises et investisseurs de la tech, dont on lit, pour la plupart, les envolées libertariennes sur l'accès a l'art qui côtoient les derniers rapports de recettes mirobolantes, avec bien souvent un mépris total envers les artistes (rappelons le pour la plupart précaires) dont ils exploitent le travail, qu'on traite de "luddites" ou de "gatekeepers".  (Ca nous rappel quelqu'un qui comparait toute personne osant interroger les nouvelles technologies a des mormons, souhaitant revenir a la lampe a huile.) On leur enjoint poliment de s'adapter ou mourir. Au besoin, on passe librement du cliché de l'artiste crève-la-dalle à celui du bourgeois élitiste s'accrochant à ses privilèges. Une rhétorique populiste aujourd'hui bien rodée par les milliardaires de la tech.

Ces outils, tels que présentés aujourd'hui, ne sont pas pensés pour "démocratiser" la pratique artistique, élément de langage sans cesse répété par les start ups, mais bien en faire un produit vendu clef en main à des consommateurs ou des entreprises désireuses de rogner encore un peu plus les dépenses. L'implicite étant d'ailleurs que ce que dessine la plupart des gens ne serait pas en soit digne d’intérêt, on peut alors leur vendre une IA pour corriger tout ça, comme on nous propose un filtre Instagram pour un selfie trop imparfait.

En monopolisant les petits contrats servant habituellement de porte d'entrée à une carrière, on ne ferait même qu'aggraver les problèmes de gentrification dont souffrent déjà ces métiers, les réservant a ceux qui ont le temps et les moyens d'encaisser les années nécessaires à franchir le seuil. Beaucoup de jeunes (et moins jeunes) artistes moins fortunés avec lesquels je discute sont déjà désespérés de voir la barre s’élever encore plus haut, et beaucoup pensent déjà a jeter l'éponge et se réorienter. Pourquoi persévérer s'il suffira désormais aux entreprises d'entrainer librement des modèles sur les artistes les plus performants ou les plus a la mode pour effectuer une large part du travail, et, lorsqu'on sera enfin arrivé a maturité, gagner a son tour le droit de voir son travail (et même, actuellement, son nom) exploité et re-packagé par d'autres? Comment ne pas y voir, déjà, une perte?

Tous les outils sont déjà là pour la pratique de l'art, et a vrai dire, souvent pas très chères (on commence généralement avec une feuille et un stylo, qui ne permettent certes pas de dégager des marges aussi folles pour les fabricants mais permettent à l'individu d'aller très, très loin).
Pour démocratiser réellement la pratique, on aurait bien quelques propositions comme plus de temps libre (et de retraite ;) ), moins de stigmatisation ou un enseignement plus accessible (ce qui est d'ailleurs déjà le cas ces dernières années grâce a internet et ses ressources toujours plus nombreuses et de qualité).

Trouver une façon "éthique" d'encadrer ces outils sera probablement difficile, mais on l'espère possible, notamment pour, comme souligné dans l’émission, ne pas priver les générations suivantes de métiers et de pratiques auxquels les gens aspirent depuis toujours, pour les transformer en simple curateurs de contenus générés par des algorithmes de plus en plus raffinés, a qui on ne demandera que leur avis ou quelques retouches, a des cadences de plus en plus rapides, en attendant que d'autres algorithmes ne prennent leur place et décident, a leur tour, de ce que les gens ont envie qu'on leur génère.

En bref, on en revient a cette question du pourquoi, qu'il faudra bien se poser et, finalement, au vu du fond idéologique qui commence a apparaitre lorsqu'on gratte un peu la surface de ces outils, les convergences évidentes avec le monde de la crypto, des NFTs, des gourous libertariens de la Silicone valley et de l'alt right, de la promesse de l'augmentation encore accrue de la productivité et de la vitesse de consommation, au prix de l'augmentation des cadences, d'un coût énergétique toujours en augmentation, d'encore un peu plus d'aliénation des travailleurs contre qui on retourne leur propre travail:

Quel genre de société désire-t-on pour les années a venir?

Excellente émission après le départ de Daniel qui augure bien pour la suite, choix des invités, questions posées et réponses. ChatGpt introduit une vraie rupture dans l'évolution de l'IA et nous fait entrer dans un nouveau champ de l'ère numérique. Personne ne sait réellement jusqu'où l'IA peut nous entraîner. Une seule certitude, face a une IA qui deviendra de plus plus performante, son contrôle par l'humain sera impératif. Il ne faudra pas que des responsables renvoient les hommes vers l'IA en cas d'erreur, de décisions injustes, inéquitables ou pire.

"Arrêt sur Image" est une émission de télévision française qui a pour objectif de décrypter et d'analyser l'actualité médiatique. Elle est diffusée sur France 2 depuis 1988 et est présentée par Bernard Pivot.

L'émission est divisée en plusieurs segments, dont un débat sur l'actualité médiatique de la semaine, des entretiens avec des invités et des reportages sur les coulisses de l'information.

Les invités de l'émission sont des journalistes, des animateurs, des réalisateurs, des écrivains et des personnalités du monde politique et culturel.

"Arrêt sur Image" est reconnue pour son analyse fine de l'actualité médiatique, sa qualité d'invités prestigieux et pour la présentation de Bernard Pivot, qui est considéré comme l'un des animateurs les plus respectés de la télévision française.

En résumé, "Arrêt sur Image" est une émission de débat et d'analyse de l'actualité médiatique, diffusée sur France 2 depuis 1988, présentée par Bernard Pivot, qui est reconnue pour son analyse fine de l'actualité médiatique, sa qualité d'invités prestigieux et pour la présentation de Bernard Pivot.

Voilà, voilà...

Je me demande à la base comment on peut imaginer bourrer un logiciel de data, de données, et d'images, qu'il recrachera à la demande en en changeant quelques mots et appeler ça une intelligence.

C'est quand même une vision du monde très étrange, très étriquée,  et surtout pas du tout analytique. 

 Bon, je sais, je me doute bien que c'est une imposture de plus imaginée par des GAFAM et informaticiens incapables de gérer leur exponentielle croissance qui dans leur esprit ne devrait jamais s'arrêter. Et qui leur donnent un ballon pas possible... Attention, ça va exploser, il va y avoir de la viande et du sans partout....

Mais le nombre de gogos qui y croient, je n'en reviens pas...

Je ne peux pas m'empêcher de faire le rapprochement avec ce que narre Emmanuel Todd à propos des gens qui font des études, qui s'imaginent que leur intelligence est supérieure à la moyenne, alors que faire des études ne prouve qu'une seule chose : un aptitude très forte à se conformer. Donc, auréolés de cette intelligence qui leur a fait bouffer des informations pendant des années, sans aucun esprit critique, ils sont persuadés qu'ils savent penser, donc qu'ils pensent forcément bien, et qu'ils peuvent imposer n'importe quoi aux autres. Et ils votent Macron ....

Que le pendant de cette vision imbécile du monde soit l'IA n'est en soi pas si étonnante.

Tout va ensemble. Et tout va tourner en quenouille rapidement...

Je caricature, évidemment, mais je ne suis pas sûre d'être loin de la vérité.

Je pense qu’il faut commencer par le début : de quels droits une société peut-elle piller les images existantes, c’est à dire les créateurs d’images existants ou ayant existé ?

Getty Images, l’entreprise de banque d’images, porte plainte contre Stable Diffusion, voir ici.

Dans un communiqué de presse, Getty Images explique que Stablity AI, l’entreprise derrière l’intelligence artificielle de création d’images, a « copié et analysé illégalement des millions de photos protégées par copyright » afin de s’entrainer.

La banque d’images affirme ne pas avoir donné son accord pour que Stable Diffusion s’entraîne sur ses photos. « Nous avons pris la décision d’agir pour protéger nos intérêts et la propriété intellectuelle de nos collaborateurs », a déclaré Craig Peters, le CEO de Getty Images, dans l’interview accordée à The Verge.

Par ailleurs, une class-action a été lancée contre Stable diffusion et Mid Journey.

J’espère que ça va calmer les « oui, c’est super, faut s’adapter ». Ni la photographie, ni le cinéma n’ont procédé par pillage généralisé, à dimension industrielle.

C’est de la robotisation, la même qui est advenue dans les domaines industriels, le travail à la chaîne et les ouvriers aux cadences folles, les licenciements, les fermetures d’usines.

À propos des biais, Claire Mathieu n'a pas été bien comprise, il me semble. Ce qu'elle veut dire c'est que ne pas être biaisé ça ne veut rien dire quand il s'agit de choix non-factuels. Quelque soit l'image ou les images de femmes que l'IA représente, ce sera toujours un choix contestable. Et ce pour toutes les questions esthétiques, politiques, éthiques… C'est pas seulement une question des biais des humains qui l'ont construite, c'est qu'il n'existe pas de réponse objective, et donc pas de neutralité.

Passionnante émission, l'intervention sur les biais est particulièrement pertinente, parce que le concept de biais, très en vogue depuis les travaux de l'économie comportementale et de la psychologie sociale qui ont mis les nudges à la mode, est souvent interprété comme une sorte de "distorsion" par rapport à ce qui serait une réalité objective qui existerait dans l'absolu. Un telle chose n'existe évidemment pas et Claire Mathieu l'a très bien exprimé.

Je viens de tester avec Stable Diffusion. En entrant simplement le mot "woman", on n'obtient pas de décolleté plongeant, ni d'autre dessin sexualisé. J'ai répété l'expérience plusieurs fois, et clairement, c'est faux.

Chacun peut tester ici.

Après, je n'ai pas testé avec d'autres IA comme DALL-E ou Midjourney.

La Tech (Google, Amazon, Meta, Sailforce, ...) licencie en ce moment à tour de bras, plusieurs dizaines de milliers de personnes.