GorgIAs ou le sophisme et la duperie à l’ère de l’intelligence artificielle.

par Thémélis Diamantis

(FRA/ITA)

Socrate : « Si, à l’un de vous, je donne l’impression de convenir avec moi-même de quelque chose qui n’est pas vrai, il faut interrompre et réfuter. Car moi, je ne suis pas sûr de la vérité de ce que je dis, mais je recherche en commun avec vous, de sorte que, si on me fait une objection qui me paraît vraie, je serai le premier à être d’accord. » (Platon, Gorgias)

Quand j’emploie un mot, moi, voyez-vous, j’entends qu’il dise ce qu’il me plaît qu’il signifie, ni plus ni moins. La question, dit Alice, est de savoir si vous pouvez vraiment faire dire aux mots tant de choses différentes. La question, dit Humpty Dumpty, est de savoir qui sera le maître. Un point, c’est tout. » (Lewis Carroll, De l’autre côté du miroir, 1871)

« Apprenez que tout flatteur

Vit aux dépens de celui qui l’écoute.

Cette leçon vaut bien un fromage sans doute. » (Jean de La Fontaine, Le Corbeau et le Renard, 1668)

L’intelligence artificielle (IA) est un procédé informatique appliquant des algorithmes à une base optimisée de données numériques souvent complexes afin de simuler les fonctions cognitives propres à l’intelligence humaine. Forte de ces moyens, elle produit de manière autonome et possiblement prédictive des contenus destinés à soutenir des enjeux de raisonnement, d’apprentissage, de prise de décision, de résolution de problèmes, etc. L’IA est de nos jours présente dans presque tous les domaines de l’activité humaine nécessitant une expertise logistique élevée (secteurs de la santé, entreprises, finance, industrie, recherche, etc.). Appliquant aux données les principes de l’intelligence analytique, l’IA fournit ses réponses dans un gain de temps et de coûts aussi substantiels que spectaculaires. En plus de proposer un support logistique à une série d’actions et de produire ou restituer un ensemble de textes, l’IA dispose de la capacité à générer des images – photos et vidéos (IA génératives) – en retravaillant celles figurant dans sa base numérique.

C’est uniquement à ces deux derniers aspects – le discours et l’image générés par l’IA ou grâce à elle – que je souhaite consacrer les propos à venir. Plus précisément, je chercherai à pointer les carences, voire la possible perversion de l’IA – produite, je tiens d’emblée à le préciser, par l’angle mort du psychisme des hommes[1] et non par les machines elles-mêmes – dès lors que son utilisation ne vise plus au dégagement de connaissances générales, logistiques ou à l’usage de tous[2], mais qu’elle s’applique au champ des questionnements personnels, voire intimes, des individus faisant appel à ses compétences[3]. Mon propos portera ainsi en priorité sur l’usage des agents conversationnels automatisés (Chatbots) – à ne pas confondre avec les Agents IA, disposant d’une autonomie pour planifier des tâches – dans la sphère de vie intime de ses utilisateurs.

Dans le monde professionnel ou plus généralement l’espace public, les Chatbots sont principalement utilisés comme supports à la clientèle (questions fréquentes, suivi des commandes, etc.), aux ressources humaines (gestion des congés ou des salaires, etc.), à l’assistance administrative (prise de rendez-vous, réalisation de tâches répétitives, etc.), à la rédaction ou à l’analyse de données, etc. Bien encadrée[4] et utilisée à des fins organisationnelles, publiques, logistiques, documentaires ou scientifiques, cette technologie est un instrument (utile et puissant) au service des hommes. Dans leur emploi privé, par contre, ces mêmes agents conversationnels tiennent auprès d’une population croissante, voire exponentielle, une fonction de confidents, d’assistants personnalisés, de conseillers spécialisés (coachs ou experts), de rédacteurs de messages personnels, voire de partenaires intimes privilégiés (en matière d’amitié ou d’amour notamment)[5]. Les personnes formulant de telles demandes à l’IA développent un sentiment de lien personnel – également affectif – avec cette technologie. Les machines délivrent à leurs yeux une parole précieuse autant que des réponses utiles.

Le rapport entre l’homme et la machine s’inverse alors ; employée à la résolution de questionnements intimes, l’IA n’est plus ce qui sert (aux humains) mais devient (à leurs yeux) celle qui sait. Or l’usage d’un outil, même le plus efficace, appliqué à des objectifs différents de ceux pour lesquels il a été conçu, suffit parfois à transformer une technologie performante en miroir aux alouettes.

Conviés à répondre aux interrogations personnelles de ceux qui les sollicitent, ces Chatbots recueillent des questionnements et des doutes intimes et y apportent leurs réponses ou solutions. C’est cette dernière utilisation de l’IA uniquement que je chercherai à rapporter aux thèmes de la sophistique et de la duperie.

En somme, je ne conteste pas l’intelligence des machines mais le discernement des humains leur prêtant parfois des pouvoirs qu’elles n’ont pas et ne peuvent avoir, ou, pour le dire sous un angle différent, quand ceux-ci confondent les réponses de la machine avec une parole humaine. « Science sans conscience n’est que ruine de l’âme » prophétisait pourtant déjà à son époque François de Rabelais dans Pantagruel (1532).

De nombreux auteurs, aujourd’hui, contestent le pouvoir des machines à produire une intelligence analogue à celle des hommes. C’est le cas notamment du philosophe et mathématicien Daniel Andler qui dans Intelligence artificielle, intelligence humaine : la double énigme (2023) défend l’idée que les machines intelligentes, à l’inverse des hommes, ne pourront jamais faire preuve de spontanéité, associer les affects au raisonnement ou réfléchir de manière intuitive, holistique ou en termes de contingence. Or de telles propriétés sont nécessaires pour résoudre des problématiques précisément humaines où souvent les préférences et la subjectivité prévalent sur les vérités générales.

Loin des machines elles-mêmes et des débats portant directement sur elles, un recours à la psychanalyse et à la philosophie me semble nécessaire pour parvenir à une mise en perspective critique de la problématique évoquée. Parallèlement à une réflexion générale sur l’utilisation des IA dans la sphère privée, je ferai ainsi appel à la notion d’Imaginaire développée par Jacques Lacan et au débat autour des idées du sophiste grec Gorgias. Le premier servira à éclairer le risque de duperie associé aux images et aux mots les désignant; le second celle de la Vérité (ou non) des discours.

L’erreur conduisant à la duperie et à l’exposition au sophisme (…sans sophiste, nous le verrons) repose sur la croyance que la machine nous comprend et qu’elle nous parle car elle nous connaîtrait jusque dans nos ressentis et préférences intimes. Puisque l’IA – dans ses images et dans ses mots – donne des réponses performantes et innovantes sur le plan logistique, pourquoi ne nous dirait-elle pas aussi la Vérité sur des questions qui personnellement nous hantent ou nous concernent? Toute réponse est-elle une vérité ? Cela dépend du plan depuis lequel la question est posée et de celui à partir duquel la réponse est fournie.

Ne disposant en réalité ni de subjectivité, ni d’émotions, ni de parole propre, les machines intelligentes se trouvent dans l’impossibilité structurelle d’interagir en termes de sens – sur le plan des questions comme des réponses – avec les personnes qui pensent qu’elles les comprennent. Le sens est une prérogative humaine qui a besoin du langage pour émerger ou faire l’objet d’une communication. C’est pourquoi la complexité du sens, de la manière dont elle se pose pour les humains et entre eux, diffère fondamentalement d’une complexité factuelle pouvant faire l’objet d’une approche logistique. Autrement dit, la complexité humaine subjective différant de celle des tâches objectivement complexes que les machines intelligentes peuvent résoudre ou accomplir, les moyens utiles aux uns ne peuvent répondre aux questions des autres. Le langage humain n’est pas une machine.

Un langage produit sans locuteur humain n’a que l’apparence du sens, sans en avoir le contenu ; il est un artifice qui en fournit l’illusion. On parle à une IA comme à un humain ; elle répond comme un humain ; mais elle n’est pas un humain pour autant.

Les machines peuvent d’autant moins s’adresser à des humains, qu’elles produisent un langage sans intention de parole (forcément adressée à un tiers) ou sans conscience du lien et des sujets. À l’inverse des humains, la machine ne dispose pas de la conscience incarnée qu’un homme a de lui-même, de celle du tiers humain et du monde qui les abrite ; une éthique consciente de ses enjeux tout comme le recours aux émotions ou à une réflexion sur les conséquences des solutions proposées en placent tout autant les enjeux sur un plan hors de portée des machines.

Le « cerveau linguistique » des IA – Large Language Model (LLM) – ne reconnaît en effet que des schémas dans des données formulées par les utilisateurs en langage humain ; l’IA, fonctionnant par probabilités, propose la réponse la plus adéquate – et non forcément la plus vraie ! – au respect de son mode de fonctionnement propre. Elle réagit en termes de langage, mais elle ne parle pas, n’éprouve pas, ne pense pas car le langage lui-même et le sens dont les mots sont porteurs ne lui sont pas accessibles. Ces propriétés sont l’apanage des hommes. Si l’utilisateur d’un Chatbot peut penser que la machine l’a compris, l’inverse n’est assurément pas vrai.

Il paraît ainsi fondé de soumettre aux machines des problèmes auxquelles elles peuvent apporter des solutions et de poser aux humains des questions dont ils peuvent saisir le sens, et dont la compréhension des enjeux les engage dans leur pâte subjective et complexe, sur un plan personnel ou interpersonnel. La confusion entre ces deux registres ouvre par contre en grand les portes à la duperie comme nous le verrons sous peu.

Mise dans la fonction d’un coach personnel, l’IA ne remplit plus son rôle d’outil mais acquiert le statut d’un clone digital des mortels, voire d’un double divin de ces derniers. Nombreux sont en effet de nos jours ceux qui interrogent l’IA comme jadis les Grecs se rendaient à Delphes pour écouter les prédictions de l’oracle d’Apollon. Ces adorateurs du nouveau dieu numérique soumettent leurs questions à l’IA et se soumettent à ses réponses, oubliant pour beaucoup le statut de machine de cette Pythie des temps modernes.

En voici quelques illustrations choisies sur une échelle croissante.

Il existe de nos jours de nombreuses applications mobiles d’apprentissage des langues assistées par l’intelligence artificielle[6]. Un avatar (que vous pouvez choisir) échangera (de sujets choisis) avec vous, en fonction de votre niveau de maîtrise de la langue et de vos objectifs tout en corrigeant vos erreurs avec bienveillance. Le dispositif virtuel simule les échanges entre humains mais dans un cadre transparent comme celui que le théâtre instaure entre le public et la scène où personne n’est dupe de ce qui est vu et donné à voir puisque les frontières entre la fiction et la réalité, l’acteur et le personnage, etc. sont posées clairement. Je ne vois donc aucun problème à un emploi analogue des IA ; au contraire ! Celles-ci, dans ce contexte, restent des outils. Je précise par contre que vouloir mieux maîtriser une langue étrangère n’est pas à proprement parler une demande à caractère intime. Une intimité est seulement suggérée entre l’apprenant et l’avatar avec lequel il interagit. Prenons alors un exemple légèrement plus problématique.

Sur la base de simples photos, une IA[7] pourra en quelques fractions de seconde me proposer diverses solutions d’aménagement ou de décoration de ma maison. Dans cet exemple, l’IA agit comme un magazine de décoration amélioré. Là encore, rien de vraiment méchant ni de dangereux… à un détail près qui a son importance… On pourrait en effet regretter que ce travail de recherche sur un sujet si personnel, voire intime, se fasse avec une machine[8] et non avec la personne avec qui on partage sa vie, éventuellement sur un fond musical choisi, un verre de vin à la main. Une machine peut-elle tenir le rôle d’un partenaire humain, rencontré dans la vie et avec lequel des liens sont construits, des souvenirs partagés, des projets conçus et des actions entreprises ? À défaut, me direz-vous, rien n’empêche d’examiner après-coup ces options décoratives avec son compagnon ou sa compagne. D’autres usages plus contestables des IA existent pourtant.

Ce qui vaut pour les intérieurs s’applique de nos jours autant à l’apparence des corps, et pas seulement : en téléchargeant une photo personnelle sur la plateforme en ligne « My Glow Up AI », cette dernière – moyennant finance pour un usage avancé – dispensera en s’appuyant sur des normes de beauté culturellement majoritaires des conseils personnalisés en matière de nutrition, de maquillage, de bien-être, d’habillement mais aussi des « modules de mindset » pour renforcer la confiance en soi (sic.). Dans ce même registre, d’autres supports électroniques alimentés par l’IA proposent de nos jours une aide psychologique personnalisée sans recourir à des professionnels dans le cadre de consultations[9] ; d’autres mettent à disposition des interlocuteurs virtuels pour échanger sur des contenus intimes – parfois dans l’illusion d’une relation amoureuse – avec une « âme sœur » ou « amie ». Ces Chatbots sentimentaux[10] sont désignés en tant que “AI companions” ou “AI girlfriends / boyfriends”; ils comptent des millions d’abonnés à travers le monde. Plusieurs personnes ont déjà demandé à épouser leur IA, affirmant que celle-ci les comprenait mieux que quiconque.

Des générateurs d’images IA[11] permettent quant à eux de modifier l’apparence physique de ceux qui en font la demande pour une exposition plus avantageuse sur les réseaux sociaux notamment, pour transformer des photos et vidéos (en ajoutant ou retirant des personnes ou en modifiant l’environnement) ou pour colorer – voire rendre animées – de vieilles photos afin de donner l’apparence d’une actualité vivante ou en mouvement à leurs protagonistes ou aux supports sur lesquels ils apparaissent[12].

La frontière entre l’image et la réalité, comme celle entre la vérité et le mensonge se voit ainsi rendue poreuse ou incertaine sur nos écrans. Devant une image digitale croisée de nos jours sur Internet, il est devenu courant de se demander s’il s’agit d’une vraie photo ou d’une image produite par l’IA… Parfois, la réponse est évidente[13], d’autres fois pas du tout[14]. Pour l’anecdote, je suis tombé un dimanche matin à la télévision sur une émission religieuse consacrée au bouddhisme où les intervenants – en réalité assis dans un studio – semblaient deviser dans un paysage extrême-oriental orné de cascades paisibles, d’oiseaux multicolores, de montagnes éternelles et d’érables rouges plus vrais que nature que berçait un zéphyr tempéré… Je ne sais pas ce que Bouddha en aurait pensé … pour ma part, j’ai trouvé cet habillage du fond par sa caricature un peu ridicule.

Mais revenons aux individus. Peut-on A.I.mer ou être A.I.mé par un Chatbot ? Une machine peut-elle comprendre qui nous sommes, ce qui nous fait souffrir et ce que nous désirons, alors que nous-mêmes parfois l’ignorons[15] ? Peut-elle dire, sur la simple base d’un SMS qui lui serait soumis, si le compagnon de la personne lui en formulant la demande « est un pervers narcissique »? La réponse risque d’être plus simple que la question… Or de simple à simpliste, il n’y a parfois qu’un pas… Si de nos jours le qualificatif de « pervers narcissique » a largement investi le vocabulaire et la culture populaires, les magazines vendus en kiosques et les livres de vulgarisation psychologique proposant de reconnaître – voire de démasquer – les pervers narcissiques – comme dans l’Allemagne nazie les aryens étaient invités à reconnaître les Juifs… – je tiens à rappeler que le débat psychopathologique sur la notion de perversion est infiniment plus complexe qu’un « jeu des 7 différences » dans un journal gratuit et que le psychiatre et psychanalyste Paul-Claude Racamier – auquel le terme est emprunté – parle quant à lui de « perversion narcissique » (donc d’une disposition déviante découlant du narcissisme[16]) et non de « pervers narcissiques » (une catégorie de personnes rendues identifiables par leur pathologie).

Ne relève-t-il pas d’une forme de révisionnisme de vouloir réécrire l’histoire personnelle en modifiant la trace et le souvenir des personnes, des faits et des lieux ? Et que dire du clivage consistant à posséder une apparence numérique distincte de celle qui nous caractérise dans la vie réelle ? Modifier son apparence sur un réseau professionnel (comme Linkedin) ou sur un site de rencontres (Tinder, Meetic, etc.) expose à des risques évidents – découlant en premier lieu du fait d’avoir engagé la relation sur un maquillage de la réalité, pour ne pas dire sur une tromperie intentionnelle – si les échanges virtuels devaient déboucher sur une rencontre dans l’espace physique partagé.

Ces jalons posés, passons plus précisément aux questions de la duperie et du sophisme. Je n’entends rapporter aucun de ces deux termes aux humains faisant un usage intentionnellement frauduleux de l’IA – en produisant des deepfakes[17] – ou aux machines elles-mêmes (ces dernières étant dénuées d’intentions, je ne vois pas comment elles pourraient de leur propre initiative générer de la duperie ou produire une argumentation sophistique). Le point de vue que je soutiendrai, en suivant l’enseignement de Jacques Lacan, est que l’on se rend surtout dupe soi-même. Quant au sophisme, nous verrons en quoi il est structurellement chevillé aux IA.

Si, comme tous le savons, la création d’informations mensongères visant à réaliser une tromperie est de nos jours à la fois facilitée et amplifiée par l’IA, le principe de la tromperie est évidemment largement antérieur à l’invention de cette technologie. La forme numérique d’un contenu trompeur ne renouvelle en rien le registre du mensonge et de ses buts. Une tromperie, un escroc ou un menteur restent les mêmes quels que soient les supports dont ils se servent. La duperie appartient-elle pour autant uniquement à celui qui délibérément cherche à tromper ?

Prenons l’exemple de ce fait divers qui a fait le tour du monde : une Française a délibérément versé 830.000 Euros à des escrocs lui ayant fait croire, sur la base de fausses photos et vidéos postées sur Instagram, qu’elle avait noué une relation personnelle, puis une idylle véritable avec l’acteur américain Brad Pitt. Qui l’a prise au piège ? Les escrocs, évidemment, mais auraient-ils pu le faire si cette femme elle-même n’avait pas pris pour vrai ce qu’elle voyait, lisait ou entendait ? D’un côté, il y a l’appât et l’hameçon ; de l’autre le poisson qui y mord. Seul ce dernier, dans ce dispositif, est dupe. C’est en mordant à l’hameçon qu’il active le piège. Cette femme est tombée dans le traquenard lui ayant été tendu pour avoir pris, sur la base d’images et de propos trafiqués, ses désirs pour la réalité. Si cet exemple illustre une arnaque, le mécanisme psychique ayant conduit cette femme à en être la victime ne diffère pas fondamentalement de celui des personnes commettant l’erreur de penser que l’IA avec laquelle elles discutent est d’une même nature qu’elles et qu’elle les comprend ! Financièrement parlant, l’ardoise sera moins lourde pour les seconds que pour la première … en termes de coûts psychiques, j’en suis moins certain…

La force des IA est de produire, par l’image et par le texte, des contenus paraissant réalistes, convaincants, sensibles ou vrais. La faiblesse des hommes consiste à perdre parfois de vue cette nuance, pourtant essentielle, entre la forme et le fond. Ils ne sont dès lors pas dupés par des tiers mais se rendent dupes et s’exposent – comme la femme de l’exemple précité – à un Destin qu’eux-mêmes ont convoqué. C’est pourquoi diaboliser la technologie m’apparaît tout autant maladroit, inutile et injuste. C’est du Docteur Frankenstein que la créature inquiétante a vu le jour, de la même façon que Mister Hyde représente la face cachée du Docteur Jekyll. Les humains produisent parfois leur double monstrueux avec l’aide de la science ; elle en est néanmoins l’instrument, non l’instigateur.

Comme Jacques Lacan nous l’enseigne à partir de ses travaux sur le stade du miroir, se rendent dupes ceux qui prennent les images et les mots servant à les désigner pour le réel[18]. Penser qu’une machine peut nous comprendre, mieux que des humains, dans notre pâte humaine ou intime, est un amplificateur puissant de ce phénomène. Penser qu’elle s’adresse à nous l’est tout autant. Le Réel, selon Lacan, est ce registre qui échappe à la représentation (Imaginaire) et aux mots (Symbolique). Il fait de lui-même irruption, souvent de manière brutale (le Réel, c’est quand on se cogne, disait Lacan), ce que ne contredira pas la femme victime de l’escroquerie précitée… Le Réel ne se laisse donc ni définir, ni convoquer (par le Symbolique ou l’Imaginaire) car il existe indépendamment de ce nous voyons et désignons par nos propres moyens. Croire qu’une machine nous fournira l’accès au Réel car on le lui a demandé (même gentiment…) relève d’une forme de naïveté.

Lacan définissait également comme « sujet supposé savoir » l’analyste, auquel le patient, en début de cure, attribue fantasmatiquement le pouvoir de connaître les contenus de son inconscient, à la manière d’un enfant qui prêterait à ses parents le pouvoir de lire dans ses pensées. Lacan précise cependant que si l’analyste ne devra pas en un premier temps contredire cette croyance dans le but d’instaurer le transfert, il aura tout autant à cœur de déconstruire ce leurre nécessaire chez son patient pour l’amener à réaliser qu’il est le seul dépositaire de son histoire de vie. Une déconstruction analogue est-elle seulement possible quand des humains projettent de tels pouvoirs sur une machine savante ? Celle-ci ne sera-t-elle pas toujours supposée avoir raison aux yeux de ceux qui pensent trouver en elle – car ils se la représentent plus intelligente et plus rationnelle que les hommes – les réponses fiables et crédibles aux questionnements qu’ils se posent ? La science et l’Imaginaire dont elle peut faire l’objet sont deux réalités distinctes.

Les travaux de Lacan sur l’Imaginaire (le rapport à l’image) dans son articulation au Symbolique (les mots servant à la définir) sont un outil intellectuel puissant pour identifier les Sirènes aux chants desquelles les utilisateurs imprudents des IA risquent de succomber. Ce point de vue mérite cependant d’être complété par quelques lignes sur la Vérité depuis les philosophes de la Grèce antique.

On sait, en réalité, peu de choses sur Gorgias. Il aurait vécu (centenaire, lit-on parfois) jusque vers 375 avant Jésus-Christ. Un accès indirect à sa pensée nous est fourni par Platon, qui en avait fait l’une de ses cibles préférées dans le Banquet[19] (environ 380 av J.C) et préalablement déjà dans plusieurs dialogues dont celui intitulé Gorgias (environ 395 – 391). Platon, dans ce texte, y oppose frontalement les arguments de Socrate à ceux de Gorgias, le premier dénonçant en tant que mensonge la sophistique oratoire prônée par le second, lequel voyait au contraire dans la rhétorique argumentative le meilleur des arts. Le terme de sophiste, dans la bouche de Platon, comporte évidemment une connotation péjorative puisqu’il désigne le sophisme comme une argumentation volontairement fallacieuse. Un regard moins sévère permettrait cependant de le voir comme un art (rhétorique) de la persuasion, comme on le retrouve notamment aussi chez Aristote … que personne ne qualifierait de sophiste.

On pourrait croire que la discorde porte sur l’usage et les intentions ou les buts du langage ; elle est cependant la conséquence d’une polémique plus essentielle encore sur les questions de l’ontologie et de la Vérité. Si les rapports entre la Vérité et le langage concernaient directement les Grecs des temps anciens (et les philosophes s’en étant inspirés au cours des siècles), ils connaissent, rapportés aux IA, une intéressante … mise à jour.

Reprenons cela à partir de Gorgias. La source la plus fiable et surtout le plus complète sur sa pensée nous est fournie par le philosophe sceptique Sextus Empiricus (fin du deuxième – début du troisième siècle après J.-C.), lequel, dans son traité Contre les mathématiciens, rapporte l’ouvrage de Gorgias De la nature ou Traité sur le non-être.

Ce texte permet non seulement de réaliser que Platon restitue fidèlement – certes afin de mieux s’y opposer – les positions défendues par Gorgias, mais surtout d’accéder à l’horizon philosophique et aux enjeux ontologiques de la pensée de ce dernier.

La pensée de Gorgias, telle que rapportée par Sextus Empiricus, repose sur trois propositions fondamentales :

« Rien n’existe.
Même s’il existe quelque chose, l’homme ne peut l’appréhender.
Même si on peut l’appréhender, on ne peut ni le formuler ni l’expliquer aux autres »[20].

Les thèses de Gorgias doivent s’entendre comme une réfutation de celle énoncée par Parménide dans son poème De la nature. Ce dernier y affirme que « l’être est et le non-être n’est pas», en précisant : « de plus, et cela est essentiel, la pensée est la même chose que l’être ». La position de Parménide est fidèle au principe du Logos antique. Comme Héraclite[21], Parménide affirme l’unité du langage, de la pensée et de la réalité. C’est précisément cette triple articulation que Gorgias s’efforcera de démanteler au profit du seul langage employé à des fins persuasives et rhétoriques.

Gorgias rejoint en un premier temps Parménide dans l’idée que le non-être n’est pas car « si le non-être existe, il sera et à la fois il ne sera pas »[22], ce qui est absurde en vertu du principe de non-contradiction. Mais l’être, pour Gorgias, n’est pas davantage que le non-être : si l’être est éternel, il est illimité ; s’il est illimité, il n’est nulle part ; s’il est nulle part, il n’est pas. Il ne peut pas davantage être engendré (à partir de l’être ou du non-être) puisque s’il l’est à partir de l’être … l’être existerait déjà… et il ne peut être engendré à partir du non-être.

En résumé, si l’être n’est ni éternel, ni engendré, ni les deux à la fois, alors, l’être n’est pas.

De l’abolition de l’ontologie, Gorgias conclut que le langage, dans les énoncés logiques auquel il parvient, représente à lui seul et en lui-même le meilleur outil possible à l’usage des hommes. En effet, si l’être n’est pas et que la pensée ne s’y rapporte pas, le langage, quant à lui, dispose du pouvoir (utile) de persuader. Il le peut d’autant plus que les sophistes l’ont affranchi de l’encombrante mission à définir la réalité.

Le but de Gorgias est d’exclure du débat philosophique (ou plus généralement de l’espace public) la question de la Vérité au profit exclusif de l’argumentation rhétorique persuasive. C’est évidemment ce que tous les métaphysiciens – Platon en tête – ne lui pardonneront jamais, estimant pour leur part que la Vérité constitue non seulement l’objet de la philosophie mais qu’elle est tout autant indissociable de l’ontologie. C’est la conséquence de cette querelle sur la question du langage – en tenant compte de ses soubassements ontologiques – que je rapprocherai des IA. Mais peut-on réellement faire abstraction de la Vérité ? Son abandon n’abime-t-il pas autant la dignité de la parole, notamment dans le domaine politique auquel les sophistes portaient une attention si soutenue[23] ?

Les sophistes – Gorgias, Protagoras, pour prendre les plus connus – se targuaient de pouvoir soutenir rhétoriquement, de manière équivalente et avec les mêmes résultats, une idée ou l’idée adverse. Pour eux, toute thèse ou toute cause peut être plaidée si on l’expose sur la base d’arguments choisis et dans une forme oratoire faisant preuve de brio rhétorique. Si le but des sophistes est de persuader, leur projet s’appuie sur un principe lequel entraîne une conséquence. Tous deux rejoignent, comme nous le verrons ensuite, le débat sur l’IA :

Le principe : Les sophistes fondent leur usage de la rhétorique, au service d’une idée, sur les arguments probables, généralement admis ou vraisemblables (Eikota[24]) apparaissant en lien avec elle et non sur les preuves (lesquelles relèvent de la Vérité).
La conséquence : L’argumentation sophistique vise à façonner l’opinion (δόξα) du public plutôt que de rechercher la Vérité (ἀλήθεια) des choses et les preuves qui en attestent.

Si pour Parménide ou Platon, par exemple, la Vérité est posée à la fois comme présupposé et objet du discours et de la philosophie, elle se verrait tout au plus ramenée (en imaginant qu’elle existe…) par les sophistes au rang d’une opinion parmi d’autres. Pour le dire d’une boutade (mais pas seulement…), c’est à se demander si les sophistes n’ont pas aussi inventé les influenceuses et les réseaux sociaux[25]…

Voilà qui rejoint – tout en appelant quelques précisions – de manière forte et significative notre propos sur le sophisme et la duperie dans le champ des IA. La frontière est fine et les questions complexes, comme nous le verrons :

L’usage que font les IA de la logique et du langage les inscrit irrémédiablement dans le champ sophistique.
Si elles partagent de mêmes moyens avec les sophistes, elles s’en différencient néanmoins sur la question des buts.
Par conjonction des deux points précédents, elles favorisent un effet (involontaire) de duperie auprès des personnes confondant une opinion avec la Vérité.

Développons ces divers aspects :

La logique, en effet, sur laquelle les IA fondent leurs réponses relève intégralement des Eikota : probabilité et vraisemblance (vs Vérité). Par ailleurs, le langage des IA est tout autant sophistique puisqu’il est véritablement indépendant de la pensée et de la réalité (sous ce jour, les IA peuvent être vues comme la plus parfaite expression du sophisme). Comme chez les sophistes, le langage des IA renvoie donc fondamentalement à lui-même et non à une supposée vérité des signifiés. C’est d’autant plus le cas que les machines intelligentes ne peuvent ni ne veulent convaincre personne. Elles n’ont la conscience ni de l’opinion, ni de la Vérité, ni du tiers ou du langage. Elles n’ont d’intentions ni sophistiques, ni ontologiques…puisqu’elles n’en ont juste pas. Sophistiques par la méthode, elles ne peuvent l’être par les buts. S’il peut en effet toujours être pensé qu’un sophiste – comme Platon l’affirme – produit intentionnellement un raisonnement fallacieux pour manipuler l’opinion[26], une pareille accusation ne pourrait en aucun cas être faite à des machines, par nature dénuées d’intentions, de la conscience du destinataire ou du signifié du langage. Quand la réponse d’un Chatbot est fausse tout en paraissant crédible, logique ou vraisemblable, on nomme simplement cela une « hallucination » en termes d’IA… On ne parle ni de sophisme, ni de mensonge… Un humain par contre serait tenu pour responsable d’un deepfake qu’il aurait généré de manière forcément intentionnelle. Les IA produiraient en somme des « opinions argumentées », comme Monsieur Jourdain de la prose dans Le Bourgeois gentilhomme … sans le savoir. Elles peuvent néanmoins contribuer à une duperie véritable, du côté de leurs utilisateurs, en favorisant chez ces derniers une lecture en termes de Vérité des Eikota (obtenus par l’analyse statistique des données) et du langage qui les met en forme.

Toutes les conditions menant à la méprise (au sens de la duperie) sont ainsi réunies. Les machines intelligentes appliqueraient de manière non-intentionnelle les principes de la logique et du langage qui chez les sophistes (!) visent intentionnellement des humains en vue d’en déterminer l’opinion ; certains utilisateurs des IA feraient par contre de leurs résultats une lecture (maladroitement) « platonicienne » … en termes de Vérité.

L’IA produirait en somme une pensée sophistique sans sophiste à son origine ; on pourrait autant dire qu’elle parvient à rendre dupe sans intention de duperie ou qu’elle développe une forme de rhétorique argumentative sans philosophe ni rhéteur …

La différence de méthode entre Socrate et les sophistes (mais également les IA) est que le premier pratique la maïeutique (qui repose sur le questionnement des énoncés de son interlocuteur, en retournant de manière interrogative certaines de ses propres affirmations à celui qui les a produites) et la dialectique dans le but de parvenir avec son interlocuteur à la Vérité, dont il est supposé qu’elle existe ; les seconds (de manière non-intentionnelle dans le cas des IA) font preuve d’un raisonnement analytique et statistique menant à des réponses probables ou vraisemblables. Une IA pourrait répondre qu’elle ne « comprend » pas une requête qui lui est soumise, mais elle ne demanderait jamais à son « interlocuteur » pourquoi lui-même se pose une telle question…

Pour les utilisateurs de l’IA prêtant à celle-ci des intentions en termes de langage ou de sens et à leurs résultats un statut de vérité objective dépassant la simple opinion, cette technologie peut devenir un espace de duperie à la hauteur de la puissance avec laquelle les machines intelligentes leur fournissent des réponses…

Celles des Chatbots dépend de la précision avec laquelle des demandes leur sont formulées. C’est ce que l’on nomme le « prompt » : l’instruction ou la requête donnée à une IA. Une demande bien formulée conduira à une réponse plus précise pouvant au demeurant être parfaitement nuancée ! Cette précaution de la machine suffit-elle pour autant à protéger l’utilisateur de ce qu’il veut voir, lire ou comprendre ? Rien n’est moins certain.

Le point essentiel est que la réponse d’une IA, de toutes les façons, reste au niveau exclusif des signifiants (autrement dit du langage). Comme nous l’avons vu, c’est le nœud gordien qui les rattache au sophisme. La demande d’une personne sollicitant une IA sur un questionnement intime, porte quant à elle sur le signifié de son propre discours. Voilà le décalage d’où naît la duperie.

Reprenons l’exemple du supposé pervers narcissique. Ce que Samantha veut savoir, c’est si Kevin est ou n’est pas un pervers narcissique. Elle en veut la Vérité, pas moins ! Les chinoiseries philosophico-sémantiques (l’opinion vs la vérité ; la complexité psychopathologique d’un tel sujet ; la parole, le sens, la subjectivité humaine, la conscience de soi et du tiers vs leur absence chez les machines ; les signifiants et les signifiés, etc.), elle les laisse à d’autres … Ne risque-t-elle alors pas, cette chère Samantha, de prendre pour objectivement vraie la réponse de la machine, de la manière dont la Française victime de l’escroquerie électronique pensait avoir affaire au véritable Brad Pitt et non à des images détournées de celui-ci ?

En nous résumant, les réponses des IA (sans argumentateurs ni intentions de tromperie à leur origine), avançant des arguments plausibles, probables ou admissibles (Eikota) dans un langage se rapportant à lui-même (sans l’intention du signifié ou de la Vérité), font de cette technologie un représentant moderne de l’antique sophistique (même sans associer, à la manière de Platon, une valeur péjorative à ce terme). La forme sophistique du langage des machines intelligentes renforce quant à elle le risque de duperie véritable chez les humains.

Nous verrons à présent que l’aura scientifique dont cette technologie jouit auprès du public ajoute une dimension supplémentaire au phénomène car l’autorité associée au savoir (supposé) est un redoutable ressort d’obéissance.

C’est ce qu’avaient déjà démontré les travaux du psychologue social américain Stanley Milgram (1933-1984), rapportés notamment dans son livre le plus célèbre : La soumission à l’autorité (1974). Plus le statut d’autorité accordé au représentant du savoir apparaît élevé, plus forte est l’obéissance. Dans l’ingénieux dispositif empirique que Milgram avait mis en place, le donneur d’ordres – le « sujet supposé savoir », en référence à Lacan – apparaît principalement sous les traits d’un Professeur de la très prestigieuse Université de Yale. L’autorité lui étant reconnue est donc celle d’un homme de science et d’un expert ; Milgram désigne d’ailleurs son influence comme « qualitative ». Le dispositif empirique de Milgram démontre à quel point l’autorité scientifique ou de savoir reconnus à une personne a conduit les individus ayant été les sujets véritables de l’expérience à perpétrer des actions contraires à leur éthique personnelle et à l’usage critique de leur entendement. En résumé : plus je pense que l’autre sait (ou a sur moi l’autorité du savoir), plus je lui obéis.

Voir en l’IA le détenteur et le dispensateur privilégié de la Vérité révélée par la science, ne fait-il pas des machines l’expert par excellence à la parole duquel il convient d’obéir, voire de se soumettre ?

On pourrait même penser que face à un humain – notamment un proche auquel on aurait soumis un problème personnel – les filtres critiques fonctionnent mieux qu’ils ne le font avec les machines intelligentes. Un ami pourrait m’aider à réfléchir sur mon problème. La solution qu’il me donnerait pourrait tout autant être perçue comme son opinion ou son point de vue; je peux y réfléchir ; il peut avoir tort ou bien raison ; être ou non de bon conseil ; et j’ai le droit d’être d’accord ou pas avec lui. Croire par contre que la science nous livre sur un plateau la réponse (vraie) à nos préoccupations intimes par le biais des machines qu’elle a créées peut conduire à se mettre abusivement sous l’autorité du discours que ces dernières produisent.

Jacques Lacan a dit : « La psychanalyse est un remède contre l’ignorance. Elle est sans effets sur la connerie ». Ce dernier terme ne doit pas être entendu comme une vulgaire insulte. La « connerie » à laquelle Lacan se réfère désigne un mécanisme de défense opposé à l’effort introspectif et à la connaissance ou au changement auxquels l’introspection conduit. Faire preuve de « connerie » reviendrait à s’arrimer à ses dogmes, à ses croyances ou à ses certitudes. C’est regarder en dehors de soi pour y chercher une vérité qu’on ne veut ou ne peut voir en soi. Les écrans alimentés par l’IA en comportent tous les pièges.

Si le Réel pour Lacan, c’est « quand on se cogne »…, que pour les philosophes grecs fidèles au principe de la métaphysique ontologique, la Vérité se dévoile (comme Martin Heidegger en a plus tard soutenu l’idée en se fondant sur l’étymologie du terme de vérité en grec : ἀλήθεια) et que Dieu a fixé rendez-vous à Moïse au sommet du Mont Sinaï pour lui remettre les Tables de la Loi, alors il faut croire que certaines réalités (supposées ultimes) – le Réel, la Vérité, Dieu, l’être, etc. – se disent d’elles-mêmes.

Dans leur vérité et leur espace réel[27], comme en atteste le proverbe dans de nombreuses langes, les choses parlent d’elles-mêmes. On ne les fait pas parler. Le questionnement de la Vérité n’est pas un interrogatoire auquel elle peut être soumise. Penser que l’on recueille une parole vraie par ce biais revient à se duper (prendre ses désirs pour la réalité) tout en se trompant sur la méthode (on n’obtient pas la Vérité en l’exigeant) et les résultats auxquels elle mène (prendre une opinion pour la Vérité). La Vérité se dit et l’opinion se construit ; toutes deux font néanmoins appel au discernement des hommes, pour en évaluer les contenus et pour les distinguer entre elles. Ceux qui pensent que l’IA leur parle pour leur dire la Vérité prennent des probabilités crédibles ayant valeur d’opinion pour une parole sacrée…

Demander, par exemple à une IA de nous instruire sur l’amour dont nous ferions (ou non) l’objet de la part de notre partenaire de vie est aussi vain que de le demander aux astres ou à Madame Irma. Cette vérité se révèle dans la rencontre ou dans le lien ; elle relève du champ phénoménologique. Le ressenti, la compréhension des mots et la maîtrise du sens qui leur est associé constituent des outils bien plus adaptés à de telles fins.

La science, quant à elle, comme le pensait déjà Emmanuel Kant, sert à organiser notre connaissance et notre usage du monde. Elle ne parle ni le langage de l’être, ni celui de la Vérité, de Dieu ou de l’amour. La science elle-même ne parle pas ; elle permet d’expliquer ou de comprendre les phénomènes auxquels elle applique ses principes et ses procédés.

Penser qu’elle serait en capacité, à notre demande et par le biais de machines savantes, de nous rendre visible depuis l’extérieur la vérité de notre propre angle mort, outre une marque de duperie, serait une … belle connerie.

[1] Leur inconscient, pour le dire avec Freud.

[2] Des écoliers aux universitaires, le réflexe de l’IA est de nos jours durablement installé. ChatGPT, pour en citer un acteur bien connu, est le Génie des nouvelles lampes à huile électroniques… En un frottement de clavier, il vous dit tout ce que vous devez savoir.

[3] Illustrons chacune de ces options par une question (la seconde, à peine caricaturale) pouvant être posée à une IA : 1) Mon appareil ménager (en envoyant à l’IA la photo du produit, la marque, le numéro de série, etc.) affiche tel signal de panne. Que dois-je faire ? 2) Mon couple va mal. Que dois-je faire ?

[4] Dans le respect des libertés individuelles et des intérêts collectifs, notamment. L’exercice peut s’avérer difficile, comme dans l’exemple de la reconnaissance faciale des personnes dans l’espace public et le recoupement de ces données avec des sources numériques différentes et notamment privées.

[5] Voir Science & Vie, n° 1299, novembre 2025.

[6] Praktika, par exemple.

[7] Comme Genspark ou Design Maison IA.

[8] L’IA, sous ce jour, représenterait alors une variante de ce que Agnès Jaoui, dans le titre de son film magnifique, désignait comme Le goût des autres (2000).

[9] Via Wysa, Owlie, Abby, par exemple.

[10] Comme Replika ou Character.AI.

[11] Comme Pixella ou ChatGPT.

[12] Ce que proposent des plateformes comme Pollo AI ou Deevid, par exemple.

[13] Non, les rhinocéros ne participent pas au concours du plongeon en grand bassin lors de Jeux olympiques…(l’image existe ; elle a évidemment été produite comme prouesse digitale et à des fins récréatives).

[14] Le créateur belge Chris Umé a réalisé – à des fins pédagogiques ou de mise en garde sur les capacités actuelles des IA et de l’apprentissage automatique (deep learning) – des vidéos bluffantes de réalisme qui montrent l’acteur Tom Cruise réalisant un tour de magie ou jouant au golf. Ces vidéos sont devenues « virales » (comme on dit de nos jours) sur TikTok.

[15] À titre d’exemple sur un sujet contingent, une patiente d’un chirurgien esthétique lui a intenté un procès car le résultat de l’intervention sur son visage, pourtant détaillée et approuvée par elle en amont de l’intervention, ne correspondait pas à l’image interne (sic.) qu’elle avait d’elle-même…

[16] Pour rappel, celui-ci sert à garantir l’unité du Moi. Il ne se confond pas avec sa possible perversion. Cette nuance disparaît dans la formulation « pervers narcissique » qui laisse entendre, à la manière d’un pléonasme, que le narcissisme serait en son essence pervers.

[17] Une photo, une vidéo ou une séquence audio intentionnellement mensongères générées par l’IA.

[18] Lacan précise d’ailleurs que l’état de duperie est indissociable de la condition humaine : personne ne se soustrait au langage et au symbole ou ne s’affranchit de la duperie.

[19] Platon l’y traite « d’orateur terrible » et le compare – par un effet ironique d’assonance entre son nom et celui de la Gorgone – à la Méduse qui pétrifie et réduit au silence ses victimes.

[20] Sextus Empiricus, Contre les mathématiciens, VII, 65.

[21] Avec lequel Parménide était cependant en désaccord sur la question de la permanence (Parménide) ou du changement (Héraclite) de l’être.

[22] Sextus Empiricus, Contre les mathématiciens, VII, 66.

[23] L’actuel Président des Etats-Unis d’Amérique, Donald Trump, en offre quotidiennement la navrante confirmation…

[24] εἰκότα, en grec.

[25]Voir à ce propos : Th. Diamantis, « Pangloss is on Facebook : le meilleur des mondes serait-il aussi numérique ? », Exagere, mai-juin, 2022.

[26] Tout sophiste, forcément, a la conscience de la personne ou du groupe de personnes auxquels il s’adresse; c’est même sa cible principale, puisqu’il cherche à façonner l’opinion de l’assistance. C’est dans ce but qu’il plaide, fait usage de rhétorique et déploie ses arguments.

[27] Également au sens où il n’est pas numérique.

GorgIA, o il sofisma e la mistificazione nell’epoca dell’intelligenza artificiale

di Thémélis Diamantis

Traduzione in italiano

L’intelligenza artificiale (IA) è un procedimento informatico che applica algoritmi a una base ottimizzata di dati digitali, spesso complessi, al fine di simulare le funzioni cognitive proprie dell’intelligenza umana. Grazie a tali mezzi, essa produce in modo autonomo e potenzialmente predittivo contenuti destinati a sostenere processi di ragionamento, apprendimento, presa di decisione, risoluzione di problemi e così via. Oggi l’IA è presente in quasi tutti gli ambiti dell’attività umana che richiedono un’elevata competenza logistica (sanità, imprese, finanza, industria, ricerca, ecc.). Applicando ai dati i principi dell’intelligenza analitica, l’IA fornisce risposte con un risparmio di tempo e di costi tanto sostanziale quanto spettacolare. Oltre a offrire un supporto logistico a una serie di attività e a produrre o restituire un insieme di testi, l’IA possiede la capacità di generare immagini – fotografie e video (IA generative) – rielaborando quelle presenti nella propria base digitale.

È esclusivamente a questi ultimi due aspetti – il discorso e l’immagine generati dall’IA o grazie a essa – che desidero dedicare le riflessioni che seguono. Più precisamente, cercherò di evidenziare le carenze, e persino le possibili distorsioni dell’IA – prodotte, tengo a precisarlo fin da subito, dai punti ciechi della psiche umana e non dalle macchine stesse – quando il suo utilizzo non mira più all’elaborazione di conoscenze generali, logistiche o di interesse collettivo, ma si applica al campo delle domande personali, talvolta intime, degli individui che si rivolgono alle sue competenze. Il mio discorso riguarderà dunque principalmente l’uso degli agenti conversazionali automatizzati (chatbot) – da non confondere con gli agenti IA, che dispongono di autonomia nella pianificazione dei compiti – nella sfera della vita privata dei loro utenti.

Nel mondo professionale o, più in generale, nello spazio pubblico, i chatbot sono utilizzati soprattutto come strumenti di assistenza alla clientela (domande frequenti, monitoraggio degli ordini, ecc.), alle risorse umane (gestione delle ferie o delle retribuzioni, ecc.), all’assistenza amministrativa (presa di appuntamenti, esecuzione di attività ripetitive, ecc.), alla redazione di testi o all’analisi dei dati, e così via. Ben regolamentata e impiegata per finalità organizzative, pubbliche, logistiche, documentarie o scientifiche, questa tecnologia rappresenta uno strumento (utile e potente) al servizio degli esseri umani. Nel loro utilizzo privato, invece, questi stessi agenti conversazionali assumono per una popolazione sempre più ampia, addirittura esponenziale, il ruolo di confidenti, assistenti personalizzati, consulenti specializzati (coach o esperti), redattori di messaggi personali e persino partner intimi privilegiati (in particolare in ambito amicale o sentimentale). Le persone che rivolgono tali richieste all’IA sviluppano un sentimento di legame personale – anche affettivo – con questa tecnologia. Ai loro occhi, le macchine forniscono parole preziose e risposte utili.

Il rapporto tra l’uomo e la macchina si capovolge allora: impiegata per risolvere questioni intime, l’IA non è più ciò che serve gli esseri umani, ma diventa (ai loro occhi) colei che sa. Eppure l’uso di uno strumento, anche il più efficace, applicato a obiettivi diversi da quelli per cui è stato concepito, basta talvolta a trasformare una tecnologia performante in un semplice specchietto per le allodole.

Invitati a rispondere alle domande personali di chi li interpella, questi chatbot raccolgono interrogativi e dubbi intimi e vi apportano le loro risposte o soluzioni. È esclusivamente quest’ultimo utilizzo dell’IA che cercherò di mettere in relazione con i temi della sofistica e dell’inganno.

In sostanza, non contesto l’intelligenza delle macchine, bensì il discernimento degli esseri umani che talvolta attribuiscono loro poteri che non possiedono e non possono possedere oppure, per dirla da un’altra prospettiva, quando confondono le risposte della macchina con una parola autenticamente umana. «Scienza senza coscienza non è che rovina dell’anima», profetizzava già a suo tempo François de Rabelais nel Pantagruel (1532).

Molti autori oggi contestano la capacità delle macchine di produrre un’intelligenza analoga a quella umana. È il caso, in particolare, del filosofo e matematico Daniel Andler che, in Intelligence artificielle, intelligence humaine : la double énigme, sostiene l’idea che le macchine intelligenti, a differenza degli esseri umani, non potranno mai dar prova di spontaneità, associare gli affetti al ragionamento o riflettere in modo intuitivo, olistico o in termini di contingenza. Eppure tali proprietà sono necessarie per affrontare problematiche propriamente umane, nelle quali spesso le preferenze e la soggettività prevalgono sulle verità generali.

Traduzione in italiano

Lontano dalle macchine stesse e dai dibattiti che le riguardano direttamente, ritengo necessario ricorrere alla psicoanalisi e alla filosofia per giungere a una messa in prospettiva critica della problematica evocata. Parallelamente a una riflessione generale sull’uso delle IA nella sfera privata, farò dunque riferimento alla nozione di Immaginario sviluppata da Jacques Lacan e al dibattito intorno alle idee del sofista greco Gorgia. Il primo servirà a illuminare il rischio di inganno associato alle immagini e alle parole che le designano; il secondo quello della Verità (o meno) dei discorsi.

L’errore che conduce all’inganno e all’esposizione al sofisma (…senza sofista, come vedremo) si fonda sulla convinzione che la macchina ci comprenda e ci parli perché ci conoscerebbe fin nei nostri sentimenti e nelle nostre preferenze più intime. Poiché l’IA – nelle sue immagini e nelle sue parole – fornisce risposte efficaci e innovative sul piano logistico, perché mai non dovrebbe dirci anche la Verità su questioni che personalmente ci ossessionano o ci riguardano? Ogni risposta è una verità? Dipende dal livello da cui la domanda viene posta e da quello a partire dal quale la risposta viene fornita.

Non disponendo in realtà né di soggettività, né di emozioni, né di una parola propria, le macchine intelligenti si trovano nell’impossibilità strutturale di interagire in termini di significato – tanto sul piano delle domande quanto su quello delle risposte – con le persone che credono di essere comprese da esse. Il significato è una prerogativa umana che necessita del linguaggio per emergere o per essere comunicata. Per questo motivo, la complessità del senso, così come si presenta agli esseri umani e tra di essi, differisce radicalmente da una complessità fattuale che può essere affrontata attraverso un approccio logistico. In altri termini, poiché la complessità soggettiva umana è diversa da quella dei compiti oggettivamente complessi che le macchine intelligenti possono risolvere o svolgere, gli strumenti utili agli uni non possono rispondere alle domande degli altri. Il linguaggio umano non è una macchina.

Un linguaggio prodotto senza un parlante umano possiede soltanto l’apparenza del significato, senza averne il contenuto; è un artificio che ne fornisce l’illusione. Si parla a un’IA come a un essere umano; essa risponde come un essere umano; ma non è per questo un essere umano.

Le macchine possono rivolgersi agli esseri umani ancor meno in quanto producono un linguaggio senza intenzione di parola (necessariamente indirizzata a un altro soggetto) e senza consapevolezza del legame e delle persone coinvolte. A differenza degli esseri umani, la macchina non dispone della coscienza incarnata che un uomo ha di sé stesso, dell’altro essere umano e del mondo che li ospita; un’etica consapevole delle proprie implicazioni, così come il ricorso alle emozioni o la riflessione sulle conseguenze delle soluzioni proposte, collocano tali questioni su un piano che rimane fuori dalla portata delle macchine.

Il «cervello linguistico» delle IA – il Large Language Model (LLM) – riconosce infatti soltanto schemi all’interno di dati formulati dagli utenti in linguaggio umano; l’IA, funzionando per probabilità, propone la risposta più adeguata – e non necessariamente la più vera! – rispetto al proprio modo di funzionare. Essa reagisce in termini di linguaggio, ma non parla, non prova emozioni, non pensa, poiché il linguaggio stesso e il significato di cui le parole sono portatrici non le sono accessibili. Queste proprietà appartengono esclusivamente agli esseri umani. Se l’utente di un chatbot può credere che la macchina lo abbia compreso, il contrario non è certamente vero.

Sembra dunque ragionevole sottoporre alle macchine problemi ai quali esse possono apportare soluzioni e rivolgere agli esseri umani domande di cui possono cogliere il significato e la cui comprensione li coinvolge nella loro trama soggettiva e complessa, sul piano personale o interpersonale. La confusione tra questi due registri spalanca invece le porte all’inganno, come vedremo tra poco.

Quando viene investita della funzione di coach personale, l’IA non svolge più il ruolo di strumento, ma acquisisce lo status di clone digitale dei mortali, o addirittura di loro doppio divino. Oggi sono infatti numerosi coloro che interrogano l’IA come un tempo i Greci si recavano a Delfi per ascoltare le predizioni dell’oracolo di Apollo. Questi adoratori del nuovo dio digitale sottopongono le loro domande all’IA e si sottomettono alle sue risposte, dimenticando spesso lo statuto di macchina di questa moderna Pizia.

Eccone alcune illustrazioni, disposte secondo una scala crescente.

Oggi esistono numerose applicazioni mobili per l’apprendimento delle lingue assistite dall’intelligenza artificiale. Un avatar (che l’utente può scegliere) conversa con lui su argomenti selezionati, adattandosi al suo livello di competenza linguistica e ai suoi obiettivi, correggendone gli errori con benevolenza. Il dispositivo virtuale simula gli scambi tra esseri umani, ma in un quadro trasparente simile a quello che il teatro instaura tra il pubblico e la scena, dove nessuno è ingannato da ciò che viene visto e mostrato, poiché i confini tra finzione e realtà, tra attore e personaggio, sono chiaramente stabiliti. Non vedo dunque alcun problema in un impiego analogo delle IA; al contrario. In questo contesto, esse rimangono strumenti. Preciso tuttavia che il desiderio di padroneggiare meglio una lingua straniera non costituisce propriamente una richiesta di natura intima. Un’intimità viene soltanto suggerita tra l’apprendente e l’avatar con cui interagisce. Consideriamo allora un esempio leggermente più problematico.

Sulla base di semplici fotografie, un’IA può proporre in pochi secondi diverse soluzioni per l’arredamento o la decorazione della mia casa. In questo esempio, l’IA agisce come una rivista di arredamento migliorata. Anche qui non vi è nulla di veramente dannoso o pericoloso… salvo un dettaglio che ha la sua importanza. Si potrebbe infatti rimpiangere che questa ricerca su un tema così personale, persino intimo, venga svolta con una macchina e non con la persona con cui si condivide la propria vita, magari accompagnati da una musica scelta insieme e da un bicchiere di vino. Una macchina può davvero assumere il ruolo di un partner umano, incontrato nella vita reale e con il quale si costruiscono legami, si condividono ricordi, si elaborano progetti e si intraprendono azioni? In mancanza di meglio, si potrebbe obiettare che nulla impedisce di esaminare successivamente queste opzioni decorative con il proprio compagno o la propria compagna. Esistono tuttavia altri usi dell’IA ben più discutibili.

Traduzione in italiano

Ciò che vale per gli interni domestici si applica oggi anche all’aspetto del corpo, e non solo: caricando una fotografia personale sulla piattaforma online My Glow Up AI, quest’ultima – a pagamento per le funzionalità avanzate – fornisce, basandosi su standard di bellezza culturalmente dominanti, consigli personalizzati in materia di alimentazione, trucco, benessere e abbigliamento, ma anche «moduli di mindset» destinati a rafforzare la fiducia in sé stessi (sic). Nello stesso ambito, altri strumenti elettronici alimentati dall’IA offrono oggi un supporto psicologico personalizzato senza il ricorso a professionisti nell’ambito di consultazioni; altri ancora mettono a disposizione interlocutori virtuali con cui discutere di contenuti intimi – talvolta nell’illusione di una relazione amorosa – con un’«anima gemella» o un’«amica». Questi chatbot sentimentali sono designati come «AI companions» o «AI girlfriends / boyfriends» e contano milioni di abbonati nel mondo. Diverse persone hanno già chiesto di sposare la propria IA, affermando che essa li comprendesse meglio di chiunque altro.

I generatori di immagini basati sull’IA consentono inoltre di modificare l’aspetto fisico di chi ne fa richiesta per una presentazione più vantaggiosa sui social network, di trasformare fotografie e video (aggiungendo o eliminando persone oppure modificando l’ambiente) o di colorizzare – e perfino animare – vecchie fotografie per dare ai loro protagonisti, o ai supporti su cui compaiono, l’apparenza di una presenza viva e attuale.

La frontiera tra immagine e realtà, così come quella tra verità e menzogna, diventa pertanto porosa e incerta sui nostri schermi. Di fronte a un’immagine digitale incontrata oggi su Internet, è ormai comune chiedersi se si tratti di una vera fotografia oppure di un’immagine prodotta dall’IA. Talvolta la risposta è evidente, altre volte per nulla.

Per fare un esempio personale, una domenica mattina mi sono imbattuto in televisione in una trasmissione religiosa dedicata al buddismo, nella quale gli ospiti – in realtà seduti in uno studio televisivo – sembravano conversare in un paesaggio estremo-orientale ornato da cascate tranquille, uccelli multicolori, montagne eterne e aceri rossi più veri del vero, accarezzati da una brezza temperata. Non so cosa ne avrebbe pensato Buddha; quanto a me, ho trovato questo travestimento dello sfondo attraverso la sua caricatura piuttosto ridicolo.

Ma torniamo agli individui. Si può «A.I.mare» o essere «A.I.mati» da un chatbot? Una macchina può comprendere chi siamo, ciò che ci fa soffrire e ciò che desideriamo, quando talvolta noi stessi lo ignoriamo? Può dire, sulla semplice base di un SMS che le venga sottoposto, se il partner della persona che le pone la domanda «è un perverso narcisista»? La risposta rischia di essere più semplice della domanda. Eppure tra il semplice e il semplicistico vi è talvolta soltanto un passo.

Se oggi l’espressione «perverso narcisista» è entrata ampiamente nel vocabolario e nella cultura popolare, e se riviste da edicola e libri divulgativi di psicologia propongono di riconoscere – o addirittura smascherare – i perversi narcisisti, come nella Germania nazista gli ariani erano invitati a riconoscere gli ebrei, desidero ricordare che il dibattito psicopatologico sul concetto di perversione è infinitamente più complesso di un «gioco delle sette differenze» pubblicato su un giornale gratuito. Inoltre, lo psichiatra e psicoanalista Paul-Claude Racamier, al quale il termine viene fatto risalire, parla di «perversione narcisistica» (ossia una disposizione deviante derivante dal narcisismo) e non di «perversi narcisisti» (una categoria di persone identificabili attraverso la loro patologia).

Non costituisce forse una forma di revisionismo il voler riscrivere la propria storia personale modificando le tracce e il ricordo delle persone, degli eventi e dei luoghi? E che dire della scissione che consiste nel possedere un’apparenza digitale diversa da quella che ci caratterizza nella vita reale? Modificare il proprio aspetto su una rete professionale come LinkedIn o su un sito di incontri come Tinder o Meetic espone a rischi evidenti, derivanti innanzitutto dal fatto di aver fondato la relazione su un abbellimento della realtà, per non dire su un inganno intenzionale, qualora gli scambi virtuali dovessero sfociare in un incontro nello spazio fisico condiviso.

Poste queste premesse, passiamo più precisamente alle questioni dell’inganno e del sofisma. Non intendo riferire nessuno di questi due termini agli esseri umani che fanno un uso deliberatamente fraudolento dell’IA – producendo, ad esempio, deepfake – né alle macchine stesse (poiché queste ultime sono prive di intenzioni, non vedo come potrebbero generare di propria iniziativa un inganno o costruire un’argomentazione sofistica). Il punto di vista che sosterrò, seguendo l’insegnamento di Jacques Lacan, è che l’essere umano finisce soprattutto per ingannare sé stesso. Quanto al sofisma, vedremo in che modo esso sia strutturalmente legato alle IA.

Se, come tutti sappiamo, la creazione di informazioni false finalizzate alla frode è oggi facilitata e amplificata dall’IA, il principio stesso dell’inganno è evidentemente molto precedente all’invenzione di questa tecnologia. La forma digitale di un contenuto ingannevole non rinnova in alcun modo il registro della menzogna e dei suoi scopi. Un imbroglio, un truffatore o un bugiardo restano gli stessi, indipendentemente dagli strumenti di cui si servono.

L’inganno appartiene dunque soltanto a colui che cerca deliberatamente di ingannare? Oppure vi è anche una parte di autoinganno in chi desidera credere a ciò che vede, legge o ascolta?

Traduzione in italiano

Prendiamo l’esempio di quel fatto di cronaca che ha fatto il giro del mondo: una donna francese ha deliberatamente versato 830.000 euro a dei truffatori che le avevano fatto credere, sulla base di fotografie e video falsi pubblicati su Instagram, di aver instaurato una relazione personale e poi una vera storia d’amore con l’attore americano Brad Pitt. Chi l’ha intrappolata? I truffatori, naturalmente. Ma avrebbero potuto farlo se questa donna non avesse a sua volta preso per vero ciò che vedeva, leggeva o ascoltava? Da un lato c’è l’esca e l’amo; dall’altro il pesce che abbocca. Solo quest’ultimo, in questo dispositivo, è vittima dell’inganno. È abboccando all’amo che attiva la trappola.

Questa donna è caduta nel tranello che le era stato teso perché ha scambiato, sulla base di immagini e discorsi manipolati, i propri desideri per la realtà. Se questo esempio illustra una truffa, il meccanismo psichico che ha condotto questa donna a diventarne vittima non differisce fondamentalmente da quello delle persone che commettono l’errore di pensare che l’IA con cui conversano sia della loro stessa natura e che le comprenda davvero. Dal punto di vista economico, il conto sarà probabilmente meno salato per i secondi che per la prima; quanto ai costi psicologici, ne sono molto meno certo.

La forza delle IA consiste nel produrre, attraverso immagini e testi, contenuti che appaiono realistici, convincenti, sensibili o veri. La debolezza degli esseri umani consiste talvolta nel perdere di vista questa sfumatura, essenziale, tra forma e sostanza. Essi non vengono allora ingannati da terzi, ma si rendono essi stessi vittime dell’inganno ed espongono sé stessi – come la donna dell’esempio appena citato – a un destino che sono stati loro stessi a convocare.

Per questo motivo, demonizzare la tecnologia mi sembra altrettanto maldestro, inutile e ingiusto. È dal dottor Victor Frankenstein che nasce la creatura inquietante, così come Mr. Hyde rappresenta il volto nascosto del dottor Jekyll. Gli esseri umani producono talvolta il proprio doppio mostruoso con l’aiuto della scienza; essa rimane tuttavia uno strumento, non l’istigatrice.

Come ci insegna Jacques Lacan attraverso i suoi lavori sullo stadio dello specchio, si rendono vittime dell’inganno coloro che scambiano le immagini e le parole che le designano per il reale. Pensare che una macchina possa comprenderci, meglio degli esseri umani, nella nostra sostanza umana e intima, costituisce un potente amplificatore di questo fenomeno. Pensare che essa si rivolga realmente a noi lo è altrettanto.

Il Reale, secondo Lacan, è quel registro che sfugge alla rappresentazione (l’Immaginario) e alle parole (il Simbolico). Esso irrompe da sé, spesso in maniera brutale («il Reale è quando si va a sbattere», diceva Lacan), cosa che la donna vittima della truffa appena citata non contraddirebbe certamente. Il Reale non si lascia dunque né definire né convocare (attraverso il Simbolico o l’Immaginario), poiché esiste indipendentemente da ciò che vediamo e designiamo con i nostri mezzi. Credere che una macchina possa fornirci accesso al Reale semplicemente perché glielo abbiamo chiesto (anche con molta gentilezza…) rientra in una forma di ingenuità.

Lacan definiva inoltre l’analista come un «soggetto supposto sapere», al quale il paziente, all’inizio della cura, attribuisce fantasiosamente il potere di conoscere i contenuti del suo inconscio, un po’ come un bambino attribuirebbe ai genitori la capacità di leggere nei suoi pensieri. Lacan precisa tuttavia che, se in un primo momento l’analista non deve contraddire questa credenza per instaurare il transfert, avrà altrettanto a cuore il compito di decostruire questo necessario inganno affinché il paziente comprenda di essere l’unico depositario della propria storia di vita.

Una decostruzione analoga è davvero possibile quando gli esseri umani proiettano tali poteri su una macchina sapiente? Quest’ultima non sarà forse sempre supposta avere ragione agli occhi di coloro che credono di trovare in essa – perché la immaginano più intelligente e più razionale degli uomini – risposte affidabili e credibili alle domande che si pongono? La scienza e l’Immaginario che essa può suscitare sono due realtà distinte.

I lavori di Lacan sull’Immaginario (il rapporto con l’immagine) nella sua articolazione con il Simbolico (le parole che la definiscono) costituiscono uno strumento intellettuale potente per identificare le Sirene al cui canto gli utilizzatori imprudenti delle IA rischiano di soccombere. Questo punto di vista merita tuttavia di essere completato con alcune riflessioni sulla Verità a partire dai filosofi dell’antica Grecia.

In realtà sappiamo poco di Gorgia. Si dice che sia vissuto fino a circa il 375 a.C., forse addirittura superando i cento anni. Un accesso indiretto al suo pensiero ci è fornito da Platone, che ne fece uno dei suoi bersagli preferiti nel Il Simposio (circa 380 a.C.) e, ancora prima, in diversi dialoghi, tra cui il celebre Gorgia (circa 395-391 a.C.).

In quest’opera, Platone contrappone frontalmente le argomentazioni di Socrate a quelle di Gorgia: il primo denuncia come menzogna la sofistica oratoria sostenuta dal secondo, il quale vede invece nella retorica argomentativa la più elevata delle arti. Il termine «sofista», sulla bocca di Platone, possiede evidentemente una connotazione negativa, poiché designa il sofisma come un’argomentazione volontariamente fallace. Uno sguardo meno severo permetterebbe tuttavia di considerarlo come un’arte della persuasione retorica, così come la si ritrova anche in Aristotele, che nessuno definirebbe un sofista.

Si potrebbe credere che il dissidio riguardi l’uso del linguaggio, le sue intenzioni o i suoi scopi. In realtà esso deriva da una controversia ancora più fondamentale, che concerne l’ontologia e la Verità. Se il rapporto tra Verità e linguaggio interessava direttamente i Greci dell’antichità – e i filosofi che nei secoli si sono ispirati a loro – esso conosce, applicato alle IA, un’interessante… attualizzazione.

Ripartiamo dunque da Gorgia. La fonte più affidabile e soprattutto più completa sul suo pensiero ci è fornita dal filosofo scettico Sesto Empirico (II-III secolo d.C.), che nella sua opera Contro i matematici riporta il contenuto del trattato di Gorgia intitolato Sulla natura o Sul non essere.

Questo testo permette non solo di constatare che Platone restituisce fedelmente – pur per meglio contrastarle – le posizioni difese da Gorgia, ma soprattutto di accedere all’orizzonte filosofico e agli aspetti ontologici del suo pensiero.

Il pensiero di Gorgia, così come riferito da Sesto Empirico, si fonda su tre proposizioni fondamentali:

Nulla esiste.
Anche se qualcosa esistesse, l’uomo non potrebbe conoscerla.
E anche se potesse conoscerla, non potrebbe né formularla né comunicarla agli altri.

Traduzione in italiano

Le tesi di Gorgia devono essere comprese come una confutazione di quelle formulate da Parmenide nel suo poema Sulla natura. In esso, Parmenide afferma che «l’essere è e il non-essere non è», precisando inoltre: «ed è essenziale aggiungere che il pensiero è la stessa cosa dell’essere». La posizione di Parmenide è fedele al principio del Logos antico. Come Eraclito, egli sostiene l’unità del linguaggio, del pensiero e della realtà. È precisamente questa triplice articolazione che Gorgia si sforzerà di smantellare a vantaggio del solo linguaggio impiegato a fini persuasivi e retorici.

Gorgia concorda inizialmente con Parmenide sull’idea che il non-essere non sia, poiché «se il non-essere esiste, esso sarà e insieme non sarà», il che è assurdo in virtù del principio di non contraddizione. Ma per Gorgia nemmeno l’essere è più consistente del non-essere: se l’essere è eterno, è illimitato; se è illimitato, non si trova in alcun luogo; se non è in alcun luogo, non è. Né può essere generato (a partire dall’essere o dal non-essere), poiché se fosse generato dall’essere, allora l’essere esisterebbe già; e non può essere generato dal non-essere.

In sintesi, se l’essere non è né eterno, né generato, né entrambe le cose insieme, allora l’essere non è.

Dall’abolizione dell’ontologia, Gorgia conclude che il linguaggio, attraverso gli enunciati logici che produce, rappresenta da solo e in sé stesso il migliore strumento a disposizione degli uomini. Infatti, se l’essere non è e il pensiero non vi si riferisce, il linguaggio possiede comunque il potere – utile – di persuadere. Lo può fare tanto meglio in quanto i sofisti lo hanno liberato dall’ingombrante compito di definire la realtà.

L’obiettivo di Gorgia consiste nell’escludere dal dibattito filosofico (o più in generale dallo spazio pubblico) la questione della Verità, a vantaggio esclusivo dell’argomentazione retorica persuasiva. È proprio questo che tutti i metafisici – con Platone in testa – non gli perdoneranno mai, ritenendo invece che la Verità costituisca non soltanto l’oggetto della filosofia, ma sia anche inseparabile dall’ontologia.

È la conseguenza di questa disputa sul linguaggio – tenendo conto dei suoi fondamenti ontologici – che intendo mettere in relazione con le IA. Ma è davvero possibile fare astrazione della Verità? Il suo abbandono non rischia di compromettere la dignità stessa della parola, soprattutto nel campo politico, al quale i sofisti dedicavano un’attenzione così intensa?

I sofisti – Gorgia e Protagora, per citare i più noti – si vantavano di poter sostenere retoricamente, con uguale efficacia e gli stessi risultati, una tesi e il suo contrario. Per loro, qualsiasi idea o causa può essere difesa purché venga esposta attraverso argomenti selezionati e una forma oratoria dotata di brillantezza retorica.

Se il fine dei sofisti è persuadere, il loro progetto si fonda su un principio che comporta una conseguenza. Entrambi, come vedremo, si collegano direttamente al dibattito sull’IA:

1) Il principio. I sofisti fondano il loro uso della retorica, al servizio di una determinata idea, sugli argomenti probabili, generalmente accettati o verosimili (Eikota), e non sulle prove (che appartengono invece al dominio della Verità).

2) La conseguenza. L’argomentazione sofistica mira a modellare l’opinione (doxa) del pubblico piuttosto che a ricercare la Verità (aletheia) delle cose e le prove che la attestano.

Se per Parmenide o Platone, ad esempio, la Verità è al tempo stesso il presupposto e l’oggetto del discorso filosofico, per i sofisti essa verrebbe ridotta – ammesso che esista – a un’opinione tra le altre. Per dirla scherzosamente (ma non solo), ci si potrebbe quasi chiedere se i sofisti non abbiano inventato anche gli influencer e i social network.

Ed è qui che il nostro discorso sul sofisma e sull’inganno nel campo delle IA trova una connessione forte e significativa, pur richiedendo alcune precisazioni. Il confine è sottile e le questioni sono complesse:

l’uso che le IA fanno della logica e del linguaggio le iscrive inevitabilmente nel campo della sofistica;
se condividono con i sofisti alcuni mezzi, se ne differenziano però riguardo agli scopi;
dalla combinazione di questi due aspetti deriva un effetto (involontario) di inganno presso coloro che confondono un’opinione con la Verità.

Approfondiamo questi punti.

La logica sulla quale le IA fondano le loro risposte appartiene infatti integralmente al dominio degli Eikota: probabilità e verosimiglianza, non Verità. Inoltre, il linguaggio delle IA è ugualmente sofistico, poiché è effettivamente indipendente sia dal pensiero sia dalla realtà. Sotto questo aspetto, le IA possono essere considerate la più perfetta espressione del sofisma.

Come accade nei sofisti, il linguaggio delle IA rinvia essenzialmente a sé stesso e non a una presunta verità dei significati. Ciò è tanto più evidente in quanto le macchine intelligenti non possono né vogliono convincere nessuno. Esse non hanno coscienza dell’opinione, della Verità, dell’interlocutore o del linguaggio. Non possiedono intenzioni né sofistiche né ontologiche, semplicemente perché non possiedono intenzioni.

Sofistiche nel metodo, non possono esserlo negli scopi.

Se si può sempre sostenere – come faceva Platone – che un sofista costruisca deliberatamente un ragionamento fallace per manipolare l’opinione, una simile accusa non potrebbe mai essere rivolta a una macchina, che per natura è priva di intenzionalità, della consapevolezza del destinatario e della comprensione del significato del linguaggio.

Quando la risposta di un chatbot è falsa ma appare credibile, logica o verosimile, nel linguaggio dell’IA si parla semplicemente di «allucinazione». Non si parla né di sofisma né di menzogna. Un essere umano, al contrario, sarebbe ritenuto responsabile di un deepfake generato intenzionalmente.

Le IA produrrebbero dunque, per così dire, delle «opinioni argomentate», come il signor Monsieur Jourdain faceva della prosa nel Il borghese gentiluomo… senza saperlo.

Esse possono tuttavia contribuire a un autentico inganno dal lato dei loro utilizzatori, favorendo in questi ultimi una lettura in termini di Verità degli Eikota (ottenuti mediante l’analisi statistica dei dati) e del linguaggio che li mette in forma.

Traduzione in italiano

Tutte le condizioni che conducono all’equivoco (nel senso dell’inganno) risultano dunque riunite. Le macchine intelligenti applicherebbero in modo non intenzionale i principi della logica e del linguaggio che, presso i sofisti, erano invece impiegati intenzionalmente per influenzare l’opinione degli uomini; alcuni utenti delle IA, al contrario, leggerebbero i loro risultati in modo ingenuamente «platonico», ossia nei termini della Verità.

L’IA produrrebbe così una forma di pensiero sofistico senza che vi sia un sofista alla sua origine; si potrebbe altrettanto dire che essa rende possibile l’inganno senza alcuna intenzione di ingannare oppure che sviluppa una sorta di retorica argomentativa senza filosofo né retore.

La differenza di metodo tra Socrate e i sofisti (ma anche le IA) consiste nel fatto che il primo pratica la maieutica – che si fonda sull’interrogazione critica delle affermazioni dell’interlocutore, restituendogliele sotto forma di domande – e la dialettica, con lo scopo di giungere insieme all’interlocutore alla Verità, della quale si presuppone l’esistenza. I secondi, invece (e in modo non intenzionale nel caso delle IA), fanno ricorso a un ragionamento analitico e statistico che conduce a risposte probabili o verosimili.

Un’IA potrebbe rispondere di non «comprendere» una richiesta che le viene sottoposta, ma non chiederebbe mai al suo «interlocutore» perché egli stesso si ponga quella domanda.

Per gli utenti che attribuiscono all’IA intenzioni sul piano del linguaggio o del significato, e che conferiscono ai suoi risultati uno statuto di verità oggettiva superiore alla semplice opinione, questa tecnologia può trasformarsi in uno spazio di inganno proporzionato alla potenza con cui le macchine intelligenti forniscono le loro risposte.

Le risposte dei chatbot dipendono dalla precisione con cui vengono formulate le richieste. È ciò che si chiama prompt: l’istruzione o la domanda rivolta all’IA. Una richiesta ben formulata condurrà a una risposta più precisa, che potrà anche essere perfettamente sfumata e articolata. Ma questa cautela della macchina basta davvero a proteggere l’utente da ciò che desidera vedere, leggere o comprendere? Nulla è meno certo.

Il punto essenziale è che la risposta di un’IA rimane comunque confinata al livello dei significanti, cioè del linguaggio. Come abbiamo visto, è questo il nodo gordiano che la lega al sofisma. La domanda di una persona che consulta un’IA su una questione intima riguarda invece il significato del proprio discorso. È da questo scarto che nasce l’inganno.

Riprendiamo l’esempio del presunto «perverso narcisista». Ciò che Samantha desidera sapere è se Kevin sia oppure no un perverso narcisista. Vuole la Verità, niente di meno. Le sottigliezze filosofiche e semantiche – opinione contro verità, complessità psicopatologica della questione, parola, significato, soggettività umana, coscienza di sé e dell’altro contrapposte alla loro assenza nelle macchine, significanti e significati, e così via – le lascia volentieri ad altri.

Non rischia allora questa cara Samantha di prendere per oggettivamente vera la risposta della macchina, allo stesso modo in cui la donna francese vittima della truffa online credeva di avere a che fare con il vero Brad Pitt e non con immagini manipolate di lui?

Riassumendo: le risposte delle IA – prive di argomentatori e di intenzioni ingannevoli alla loro origine – avanzano argomenti plausibili, probabili o accettabili (Eikota) attraverso un linguaggio che rimanda a sé stesso (senza intenzione del significato o della Verità). Ciò rende questa tecnologia una rappresentante moderna dell’antica sofistica, anche senza attribuire al termine il valore dispregiativo che gli conferiva Platone.

La forma sofistica del linguaggio delle macchine intelligenti rafforza a sua volta il rischio di un autentico inganno negli esseri umani.

Vedremo ora come l’aura scientifica di cui questa tecnologia gode presso il pubblico aggiunga un’ulteriore dimensione al fenomeno, poiché l’autorità associata al sapere (presunto) costituisce una leva di obbedienza estremamente potente.

È quanto avevano già dimostrato gli studi dello psicologo sociale americano Stanley Milgram (1933-1984), riportati in particolare nella sua opera più celebre, Obbedienza all’autorità. Quanto più elevato appare lo status di autorità attribuito al rappresentante del sapere, tanto più forte risulta l’obbedienza.

Nel celebre dispositivo sperimentale elaborato da Milgram, colui che impartisce gli ordini – il «soggetto supposto sapere», per riprendere l’espressione di Jacques Lacan – assume principalmente le sembianze di un professore della prestigiosa Yale University. L’autorità che gli viene riconosciuta è dunque quella dello scienziato e dell’esperto; Milgram definisce infatti la sua influenza come «qualitativa».

L’esperimento mostra fino a che punto l’autorità scientifica o cognitiva attribuita a una persona abbia potuto indurre i veri soggetti dell’esperimento a compiere azioni contrarie alla loro etica personale e all’esercizio critico della ragione.

In sintesi: più credo che l’altro sappia (o eserciti su di me l’autorità del sapere), più sono incline a obbedirgli.

Considerare l’IA come il detentore e il dispensatore privilegiato della Verità rivelata dalla scienza non rischia forse di trasformare le macchine nell’esperto per eccellenza, alla cui parola si dovrebbe obbedire, o addirittura sottomettersi?

Si potrebbe persino sostenere che, di fronte a un essere umano – specialmente un amico o una persona vicina a cui abbiamo confidato un problema personale – i filtri critici funzionino meglio di quanto accada con le macchine intelligenti. Un amico potrebbe aiutarmi a riflettere sul mio problema. La soluzione che mi proporrebbe potrebbe essere percepita semplicemente come una sua opinione o un suo punto di vista; posso valutarla, discuterla; egli può avere torto oppure ragione, essere un buon consigliere oppure no; e io ho il diritto di essere d’accordo oppure di dissentire.

Credere invece che la scienza ci serva su un piatto d’argento la risposta vera alle nostre preoccupazioni più intime attraverso le macchine che essa ha creato può condurre a porsi indebitamente sotto l’autorità del discorso che queste ultime producono.

Traduzione in italiano

Jacques Lacan affermava: «La psicoanalisi è un rimedio contro l’ignoranza. È senza effetti sulla stupidità». Quest’ultimo termine non deve essere inteso come un semplice insulto volgare. La «stupidità» a cui Lacan si riferisce designa un meccanismo di difesa opposto allo sforzo introspettivo e alla conoscenza o al cambiamento ai quali l’introspezione conduce. Essere «stupidi», in questo senso, significherebbe aggrapparsi ai propri dogmi, alle proprie credenze o alle proprie certezze. Significa guardare fuori di sé per cercarvi una verità che non si vuole o non si può vedere dentro di sé. Gli schermi alimentati dall’intelligenza artificiale contengono tutti i presupposti di questa trappola.

Se per Lacan il Reale è «quando si va a sbattere»; se per i filosofi greci fedeli al principio della metafisica ontologica la Verità si disvela (come sostenne più tardi Martin Heidegger, fondandosi sull’etimologia greca del termine verità, ἀλήθεια); e se Dio fissò un appuntamento a Mosè sulla cima del Monte Sinai per consegnargli le Tavole della Legge, allora bisogna ammettere che alcune realtà considerate ultime – il Reale, la Verità, Dio, l’Essere e così via – si manifestano da sé.

Nella loro verità e nel loro spazio reale, come attestano proverbi presenti in molte lingue, le cose parlano da sole. Non siamo noi a farle parlare. L’interrogazione della Verità non è un interrogatorio al quale essa possa essere sottoposta. Pensare di ottenere una parola vera attraverso questo procedimento significa ingannare sé stessi (scambiando i propri desideri per la realtà), sbagliandosi sia sul metodo – la Verità non si ottiene esigendola – sia sui risultati ai quali esso conduce, ossia scambiare un’opinione per la Verità.

La Verità si manifesta; l’opinione si costruisce. Entrambe richiedono tuttavia il discernimento umano per valutarne il contenuto e distinguerle l’una dall’altra. Coloro che credono che l’IA parli loro per dire la Verità finiscono per attribuire a probabilità credibili, che hanno il valore di opinioni, il rango di una parola sacra.

Chiedere, per esempio, a un’IA di illuminarci sull’amore che il nostro partner prova o non prova per noi è vano quanto domandarlo agli astri o a una veggente. Questa verità si rivela nell’incontro e nella relazione; appartiene al campo dell’esperienza vissuta. Il sentimento, la comprensione delle parole e la padronanza del significato che esse veicolano costituiscono strumenti molto più adatti a tali fini.

La scienza, dal canto suo, come già pensava Immanuel Kant, serve a organizzare la nostra conoscenza e il nostro uso del mondo. Essa non parla il linguaggio dell’Essere, né quello della Verità, di Dio o dell’amore. La scienza, in sé stessa, non parla: permette di spiegare o comprendere i fenomeni ai quali applica i propri principi e i propri metodi.

Pensare che essa sia in grado, su nostra richiesta e attraverso macchine sapienti, di renderci visibile dall’esterno la verità del nostro stesso punto cieco sarebbe, oltre che una forma di autoinganno, una… grande sciocchezza.

Entre sophismes, subjectivité et séduction artificielle : penser l’IA au-delà des mirages.

GorgIAs ou le sophisme et la duperie à l’ère de l’intelligence artificielle.

AI tra allucinazioni e seduzione

La citta dell’eterno compresente. Intervista a Marino Niola

Linguaggi senzienti. Per una fenomenologia dei codici

GorgIAs ou le sophisme et la duperie à l’ère de l’intelligence artificielle.

Redazione

Contatti – Info

Categorie

GorgIAs ou le sophisme et la duperie à l’ère de l’intelligence artificielle.

Share this Post!

Redazione

Contatti – Info

Categorie