Deepfakes : apocalypse du faux ou fausse apocalypse?
Alerte générale, les logiciels de génération d'images comme Midjourney vont ensevelir le réel sous une avalanche de faux ! L'écosystème médiatique répète cette eschatologie depuis plusieurs années. Mais jusqu'à présent, rien. Et si l'explication était ailleurs ?
Abonnez-vous pour pouvoir commenter !
si vous êtes déjà abonné Connectez-vous Connectez-vous
Commentaires préférés des abonnés
J'ai pas encore lu mais "il est revenu !!! il est revenu !!!" (*danse de la joie*)
Excellent article.
Je crois qu'il faut surtout rappeler qu'une image n'est pas une preuve. Certes, les technologies évoluent mais rappelons nous des dignitaires soviétiques effacés des photos officielles, des faux charniers deTimisoara, des faus(...)
Ca faisait quelques jours que je pensais à Thibault (en tout bien tout honneur) en me disant qu'on aurait bien besoin de lui et voilà qu'il nous fait une Gandalf le Blanc !
Derniers commentaires
Tout d'abord, bon retour à Thibault Prévost sur ASI.
Comme je l'ai déjà dit, je ne suis pas son plus grand fan: je trouve que Thibaut manque de rigueur et commet certaines erreurs qu'il pourrait facilement éviter. J'en ai d'ailleurs repéré une belle dans cet article:
" Sans surprise, l'approche fleure bon le techno-solutionnisme, mais (également sans surprise) se révèle à peu près inutile. Pour une fois, humains et machine sont égaux : ils sont aussi nuls les uns que les autres à détecter de fausses images, conclut Scientific American le 31 mars. "
Ce n'est pas du tout la conclusion de l'article mis en lien. L'article ne dit pas que les humains et les machines " sont aussi nuls les uns que les autres à détecter de fausses images", mais rapporte au contraire: "Experts say that as AI image generation progresses, algorithms are better equipped than humans to detect some of the tiny, pixel-scale fingerprints of robotic creation."
Quant à la vraie conclusion, c'est :
1) qu'il serait intéressant que les plateforme de réseaux sociaux mettent en oeuvre ces algorithmes de détections de fake
2) que les utilisateurs (humains) doivent apprendre à être plus sceptiques.
Si je comprends tout (?) "deepfake", c'est un mensonge fabriqué par un robot numérique.
Déjà,du temps du camarade Staline et sans doute avant lui et ailleurs, on avait maîtrisé l'art (??) de fabriquer des images et des films qui montraient des évidences qui n'existaient pas.
Et votre titre pose LA question : quel est le but recherché par cette fausse apocalypse ?
Ce message a été supprimé suite à la suppression du compte de son auteur
Je suis globalement d'accord avec vous. Une remarque toutefois : l'économie de marché n'est pas la seule à se nourrir de fausses informations ; il me semble, par exemple, que l'URSS n'était pas là dernière dans le domaine.
En adoptant la même posture « terre-à-terre non-sensionaliste de gauche », j’arrive à une conclusion nettement moins optimiste.
En effet, je connais déjà plusieurs personnes qui utilisent chatGPT de manière sérieuse dans leur travail, et par extension, même modérée, on peut rapidement lister des métiers ou des emplois précaires qui seront impactés :
* rédacteurs de contenu web/pub en tout genre (ex. script writer)
* journalistes et assimilés
* les métiers de la formation
* scripts, scénaristes, et métiers associes
* dessinateurs, illustrateurs, artistes, designers, photographes, qui travaillent pour la pub et non pour l’Art (il y en a beaucoup !)
On risque donc d’avoir l’effet classique de destructions d’emplois par la technologie.
Certes, comme toujours, ce sont des emplois peu qualifiés qui sont touchés, et ils seront théoriquement amenés à être remplacés par des emplois plus qualifiés (concepteurs d’AI). Quoique, dans ce cas précis, on en doute.
De plus, ces emplois sont parfois remplacés par des emplois pas tellement plus qualifiés, dans un autre secteur.
Ex précédents dans l’IT : call centers, support informatique, pisseurs de code…
Ex dans l’IA : les Kenyan qui ont dû filtrer des images pedophiles pour chatGPT…
En plus de la qualité des emplois, pas sûr que leur nombre soit au rendez-vous.
Bref, après la bulle techno-solutionniste, le savon techno-capitaliste.
Quel plaisir de retrouver cette chronique !!!!!!!
Merci pour cet article de fond, les mensonges et fakes n'ont pas attendu un outil (alors que de multiples outils à fabriquer des fakenews existaient déjà, comme les cordes vocales de Darmanin ou Totoshop)
ce qui change c'est que ce sera plus facile à monsieur lambda d'en faire aussi
(biensur j'ai oublié les armes de destruction massive en Iraq, le rainbow warrior & cie)
Très bonne observation.
Les images devraient réveiller le doute.
Ce n'est pas tant la technologie qui est inquiétante que l'absence d'esprit critique.
Très bien d'avoir rappelé que les images bidons ont une vieille histoire, en illustrant l'en-tête de l'article avec de la propagande versaillaise.
Allez savoir si cela n'a pas été inventé en même temps que les hiéroglyphes égyptiens ? Ou les peintures dans les cavernes pour se faire mousser auprès des femmes ?
- Alors là tu vois, c'est quand, à mains nues, j'ai dompté l'ours des cavernes, tué le mammouth à poils laineux et assommé l'auroch. Viens on continue un peu plus loin, j'en ai d'autres à te montrer...
Quoique, les spécialistes s'interrogent sur cette époque pour savoir si la vie était aussi stéréotypée et genrée qu'aujourd'hui.
Enfin, il est facile de relever que c'est de la daube, en allant juste comparer avec les images des agences de presse accessible par le net.
Cette image par exemple :
Au casque, on voit que ce ne sont pas des CRS
ni des policiers français (comme sur la plupart des images)
Il est étonnant qu'on s'émeuve pour un mensonge alors qu'il existe énormément d'images de violences policières. C'est un comportement qui interroge. D'autant plus qu'il n'y a rien de compliqué ni de difficile pour vérifier. L'IA s'adresserait-elle alors principalement aux cons et paresseux ?
«L'IA» ne s'adresse à personne, c'est l'humain qui s'en sert (ou de son produit) qui le fait.
ces paniques autour de ces nouvelles technos me rappellent les paniques morales des fachos. Elles sont créées de toutes pièces; des fictions (sur des fictions) qui en disent plus sur leurs auteurs que sur le réel. Que ça serve ou pas des spéculations et des manipulations ils finissent par se convaincre que c'est vrai; "l'IA est un danger", "on ne distinguera plus le vrai du faux". Mais depuis le premier photomontage; le premier canular archéologique; et ainsi de suite on se fait berner; la technologie n'y change rien; l'esprit critique nous sera plus utile (enfin l'article dit tout ça mieux que moi). D'ailleurs pour le moment on peut reconnaitre assez facilement avec un peu d'entrainement (bon pas toujours) les images generés par l'IA; comme on pouvait reconnaitre ces faux profils generés avec "this person does not exist". Les réseaux neuronaux créent des images toujours légèrement surréaliste; comme tirés d'un rêve ou d'un cauchemar; y compris cet homme frappé par un CRS. sans compter le nombre de doigts.
Et les "IA" pour le moment en tout cas sont toujours des grosses moulinettes à données qui font certes de forts interessants outils pour faire tout un tas de chose mais qui n'ont d'intelligent que le nom. Après je comprends que des Laurent Alexandre ou Raphaël Enthoven se sentent menacés par des robots qui racontent n'importe quoi avec assurance, eux pas sur que leur job soit safe.
L'existence de sites comme celui d'ASI (autrefois émission de télévision), ACRIMED, BLAST, MEDIAPART et autres montre quand même bien le besoin d'être réellement informé... Non que les infos présentées à la radio ou télévision étaient totalement fausses, non, juste biaisées... et c'est toujours le cas.
Le traitement des infos a été tel au moment des Gilets Jaunes que beaucoup d'entre eux ont ouvert les yeux et sont aujourd'hui beaucoup plus critiques sur ce que leur présentent les bien-pensants présentateurs d'infos... Une bonne chose donc ! Le tampon "vu à la télé" a perdu beaucoup de son efficacité grâce au traitement unilatéral de cette révolte.
Il en sera de même avec les fakes, et il y aura toujours des bas de plafonds pour accepter n'importe quoi par paresse ou par adhésion idéologique...
Les cloches faisant tomber des oeufs du ciel, le Père Noël se glissant dans la cheminée, mon enfance bercée par ce faux merveilleux m'a donné l'esprit critique (merci, Père Noël).
On parlait aussi, mais moins, des petits ramoneurs savoyards, pauvres gosses bien réels et bien malmenés, sauf pour les romantiser style "Étoile des neiges", ou des oeufs qui tombaient du ciel pour exploser à terre comme à Modane en 1943 (crime de guerre?).
De la Commune de Paris, mes lointaines études n'avaient retenu que les "otages" tués par les communards, j'ai découvert tardivement, et pas à l'école, les massacres d'ouvriers qu'on avait dû modérer, qui aurait fait marcher la machine si on les avait tous tués?
Il me semble en effet que l'être humain a toujours dû trier entre le vrai et le faux, et qu'il va continuer. Honnêtement, le pape en doudoune Balenciaga, qui y a cru? et d'ailleurs, où serait le problème?
Cette sur-médiatisation de fakes somme toute inoffensifs sert surtout à masquer les vrais mensonges qui nous viennent d'en haut. Regarder le doigt qui prétend nous montrer la lune n'est peut-être pas si idiot.
Excellente analyse.
Une des causes de l'emballement médiatique ne serait-elle pas que L'IA (il faut absolument trouver un autre nom, l'intelligence étant si difficile à définir!) met en danger le métier de journaliste, hélas déjà gravement blessé par des imposteurs qui s'en réclament?
Quoi, Thibault revient nous faire profiter de sa douance ?!
Chuis trop content :-)
Excellent article.
Je crois qu'il faut surtout rappeler qu'une image n'est pas une preuve. Certes, les technologies évoluent mais rappelons nous des dignitaires soviétiques effacés des photos officielles, des faux charniers deTimisoara, des fausses images d'armes de destructions massives en Irak (même si il faut se rappeler qu'un rapport de la CIA avait fuité auparavant disant qu'il n'y avait pas d'armes de destruction massive et les responsables de la CIA s'étaient fait taper sur les doigts...).
La solution est un journalisme sérieux qui recherche la vérité, croise les sources... Et en qui on peut avoir confiance.
Le risque est plutôt d'être encore plus inondé d'images sans intérêt. Franchement que la photo du pape en parka je ne sais quoi soit vraie ou pas, je m'en fiche un peu. Il faut résister à cliquer sur ce type de chose car on risque d'y perdre du temps que l'on n'aura plus pour la vraie info et pour des activitésvraies dans la vie réelle...
Bon retour Thibault !
Ca faisait quelques jours que je pensais à Thibault (en tout bien tout honneur) en me disant qu'on aurait bien besoin de lui et voilà qu'il nous fait une Gandalf le Blanc !
Ce message a été supprimé suite à la suppression du compte de son auteur
J'ai lu, la pause semble avoir été bénéfique :)
Une petite dose d'optimisme ne se refuse pas par les temps qui courent.
Bon retour (un dimanche de Pâques, quand même, hum)!
J'ai pas encore lu mais "il est revenu !!! il est revenu !!!" (*danse de la joie*)
