[au fait !] En partenariat avec Marcelle, un Cin’éthique a porté sur Yves, un film français réalisé par Benoît Forgeard en 2019. L’occasion d’échanger sur des sujets comme l’intelligence artificielle, ChatGPT, le bonheur ou le libre arbitre.
Le synops est le suivant : Jérem, jeune rappeur qui a du mal à percer s’installe dans la maison de sa mémé disparue pour composer son premier disque. Acceptant de faire partie d’un programme test pour une start-up nommée Digital Cool, il se fait installer un frigo intelligent, en échange de la livraison gratuite de nourriture. Baptisé Yves, il devient vite « plus qu’un frigo, un compagnon de vie »…
Bonheur et dépendance…
À l’issue de la projection au cinéma marseillais Les Variétés, le débat a été amorcé par Émilie Hirtz, Jade Henaux-Mazaudier et Lana Vinh, étudiantes en CPES ST (Classe préparatoire aux grandes écoles, spécialité Sciences et Techniques) au lycée Thiers. Avec un zoom sur l’impact que l’IA peut avoir sur le bonheur. « L’intelligence artificielle peut offrir de nombreuses opportunités. Je pourrais lui confier ma vie si c’est la garantie d’une vie heureuse ou épanouie » a considéré Lana. Moins confiantes, Jade et Émilie se méfient davantage de ces nouvelles technologies : « Il y a le risque de devenir dépendants de l’IA, de ne plus pouvoir agir, ne plus être maître de ses choix. C’est un risque que nous ne sommes pas prêtes à prendre ».
À quel moment sommes-nous vraiment un sujet ?
Dans ce film caricatural mais réaliste, l’intervention de la machine (en l’occurrence le frigo) dérègle quelque chose. « On n’est pas sans établir un parallèle entre Yves et Hal, l’ordinateur imaginé par Stanley Kubrick dans 2001 Odyssée de l’espace », pointe Marc Rosmini. Ici, Yves devient peu à peu un personnage qui exprime des idées, des propositions, a un avis. « Mais ce jeu de langage n’est guère différent de celui dans lequel chacun de nous est pris. On utilise des phrases et formules qui ont déjà été utilisés par d’autres. La question est de savoir à quel moment nous sommes vraiment un sujet, nous produisons vraiment quelque chose, de la pensée ou bien de la musique, commente l’agrégé de philosophie. Quand on lit ChatGPT, c’est impersonnel. Mais quand nous parlons, écrivons ou faisons une déclaration d’amour, il y a aussi de l’impersonnel ».
Nombre de nos choix nous sont suggérés
De son côté, François Crémieux livre sa réflexion sur l’IA : « On pourrait imaginer que dans nos vies, elle impacte principalement des sujets qui sont loin de ce qui fait notre humanité – comme les goûts artistique, l’amour ou la justice. Or le lien entre ce film et la réalité est paradoxal : l’IA a un impact particulier sur ces sujets moins individuels que nous le pensons. Quand par exemple nous écoutons de la musique sur Spotify, beaucoup de choix nous sont suggérés. C’est vrai aussi pour les films ».
Sur le sujet ChatGPT, le directeur de l’APHM souligne combien cette IA générative est vite rentrée dans les usages. « Il est impressionnant aujourd’hui de voir comment cela impacte l’organisation de la justice par exemple. Car il est relativement facile pour des algorithmes d’aller chercher dans des textes sur l’histoire de la justice, de formuler des rendus. Un domaine où l’impact est fort, alors qu’il y a quelques années on l’attendait dans le champ de la médecine. Une hypothèse qui ne s’est pas confirmée. ChatGPT s’intéresse davantage à nos goûts musicaux qu’à notre rythme cardiaque ».
Une spectatrice très défiante vis-à-vis de l’IA et de ChatGPT : « À un moment, Yves dit en substance que s’il n’avait pas rencontré Jerem, il serait resté un vulgaire frigo. Je me demande qui aliène qui ? Ici la machine copie l’humain, s’en inspire… C’est inquiétant »
En réponse, François Crémieux considère que « l’enrichissement mutuel est une réalité. Quand on dialogue avec ChatGPT, chaque question amène une réponse, qui se précise au fil de l’échange car ChatGPT apprend de la manière dont on lui répond, c’est le propre de l’algorithmie. Des réponses adaptées à la réponse ».
Nos données en pâture
Se référant à La bienveillance des machines, un ouvrage du philosophe Pierre Cassou-Noguès, Marc Rosmini indique « Nous faisons partie du système évolutif des machines. Elles n’ont pas de conscience, mais un développement relativement autonome, tout comme les fleurs. Les fleurs ont besoin des abeilles pour se reproduire, même si ne le savent pas. Les machines, de même, ont un système reproducteur ». Quel est notre degré d’autonomie ?
Le philosophe poursuit : « Les objets connectés échangent des données sans notre autorisation. Ainsi, dans le film, rapidement Yves semble mieux connaître Jérem que Jérem ne se connaît lui-même. Nous produisons énormément de données qui permettent à des logiciels de pouvoir savoir mieux que nous ce que nous pensons. Aux Etats-Unis, il existe un algorithme qui prétend calculer pour quel candidat chacun devrait logiquement voter. Une question se pose dès lors en filigrane : suis-je responsable de mon vote ? Tout cela n’est pas sans rappeler le scandale Trump/Cambridge Analytica en 2016 ».
Une autre spectatrice : « Je doute que l’IA puisse s’autonomiser à ce point. Yves le frigo manque de chair, de sourire. Pour moi, il constitue un miroir de nous-mêmes, quelque chose qui relève du narcissisme ».
Le travail zombie
« Il y a de l’imprévisible aussi, relève Marc Rosmini. Dans son livre, Cassou-Nogues parle du travail zombie. Nous travaillons tout le temps, dès que nous utilisons internet, consultons pubs, sites… Certes il s’agit de travail passif, mais qui produit de la valeur. Et il y a des objets qui collectent nos données et vendent ce qu’on est. Cela amène l’idée d’une valeur travail qui se modifie. Du reste, est-ce que les machines travaillent ? »
Et quid de la sensibilité des machines ? À un moment critique du film, Yves se saborde. « Il se sent responsable. De quoi s’interroger sur le sens de ce que l’on fait : à quel moment cela relève-t-il de l’essence humaine ? »
Conscience et machine learning
À son tour, François Crémieux rebondit : « Il y a quelque chose de paradoxal. Le sentiment de vivre de grandes révolutions et l’impression qu’on est plutôt en manque de compréhension dans le monde dans lequel on est, avec un déficit d’outils. Mais l’IA et ChatGPT sont en train de tout changer. Une invention humaine qui intervient à un moment où nous sommes en manque d’idées ».
Et de citer Marx : « L’existence détermine la conscience. Finalement notre liberté à agir demain est d’une part liée à une notion de machine learning : je cumule mon savoir des années précédentes pour agir demain. D’autre part à une existence, qui finalement limite la liberté de conscience, voire la détermine intégralement. Donc peut être qu’en fait, il y a derrière tout ça une illusion d’un monde qui serait en train de changer et simplement une manière de présenter, de formaliser, de donner accès à une connaissance. Mais qui ne change pas notre rapport à la vie à l’amour à la planète ».
Sa conclusion ? « Je ne suis pas sûr que Jerem ait été beaucoup transformé par son expérience du frigidaire ! »
Un sexe et des droits pour les machines ?
Pour finir, Marc Rosmini pointe la sexualisation de la machine, Yves en l’occurence. « C’était déjà le cas dans le film Titane. Surgissent des questions éthiques et ontologiques étranges, notamment autour des robots compagnons. Récemment, un hacker japonais a équipé son robot Pepper d’attributs sexuels. Le fabriquant a réagi en assortissant son usage d’un certain nombre de clauses. Il est dorénavant des êtres artificiels à qui on accorde un certain nombre de droits, une certaine dignité, une forme d’éthique. Or, pendant longtemps a prévalu l’idée que les droits étaient le propre de l’être humain. Aujourd’hui, on se demande aussi si les fleuves, les animaux, certains machines peuvent avoir des droits. Il y a un changement ontologique. Demain pourquoi pas, un changement politique. On pourra peut-être confier à l’IA des questions climatique, la résolution de tel ou tel conflit… mais est-ce souhaitable ? ». ♦
-
Prochain Cin’éthique : Toute la beauté et le sang versé, documentaire Nan Goldin, mardi 14 mai à 19h.