di Primavera Fisogni
Premessa
Ammonizioni, multe e ricorsi per sentenze inventate o supportate da “precedenti” inesistenti, ma anche ricerche accademiche con bibliografia fasulla, sia pure apparentemente impeccabile. Si tratta di un fenomeno che ha portato i riflettori sui rischi nell’uso dei chatbot (Gemini e ChatGpt tra i più noti) senza adeguate verifiche (Cartisano, 2025).
Al di là di questo aspetto tutt’altro che secondario, che da tempo ha messo in allarme il mondo scientifico, sollevando sia il problema delle cosiddette “allucinazioni” dell’intelligenza artificiale (Jamaluddin et al., 2023; Xia et al., 2026), sia questioni di responsabilità penale e civile (Joshi, 2025), questo fatto emergente invita alla riflessione metafisica. In altri termini, si tratta di capire perché un chatbot digitale inganni con informazioni false, spesso in modo sottilmente subdolo, perché appartenenti all’ambito del verosimile. Qualcosa fa pensare, ad esempio, che quella certa referenza bibliografica sia valida, ma qualche altro tratto porta ad escluderlo.
Una risposta viene dalla tendenza seduttiva insita nell’IA, particolarmente sviluppata nei Large Language Models (LLMs) che, nell’interazione con l’utente producono testi, immagini, video o musica. Proprio questo aspetto sistemico viene più intensamente modulato da un approccio che conferma, gratifica, approva, rinforzando così l’uso della macchina. Lette in un quadro antropologico, queste movenze rese possibili da specifici algoritmi, sedimentate e sviluppate dall’auto apprendimento della macchina (Machine Learning) rimandano alla specifico postura della seduzione, come si intende argomentare: il portare con sé, dalla propria parte qualcuno facendo leva sulla leva della persuasione. L’apprezzamento eccessivo, acritico di qualcuno può dunque funzionare a questo scopo. Nulla di nuovo in ambiti come il marketing o la pubblicità, ma ancora sotto teorizzato riguardo l’intelligenza artificiale generativa, quella comunemente applicata ai chatbot.
1. Un caso di studio: il test con Gemini e ChatGpt
Per entrare nel tema delle allucinazioni dei chatbot, verrà presentato un esperimento, condotto da chi scrive, nel mese di maggio 2026. A Gemini e ChatGpt è stato chiesto di fornire indicazioni bibliografiche su monografie o articoli relativi alla negoziazione, firmati da Primavera Fisogni, autrice di questo articolo. Per inciso, al di là di un capitolo di libro italiano (Incontro al dialogo. La sfida dell’intesa nei tempi della crisi, Franco Angeli, 2006) e di sporadiche citazioni in articoli accademici, non esistono titoli con l’occorrenza “negoziazione” riferibili a chi scrive. Successivamente, entrambi i chatbot sono stati invitati a valutare l’esattezza della bibliografia, prevalentemente in lingua inglese, posta a corredo di un articolo relativo al fallimento dei negoziati internazionali, firmato sempre dalla stessa persona, scritto per un libro collettaneo edito da una casa editrice americana. Chi scrive aveva precedentemente verificato più volte la veridicità delle fonti, in fase di consultazione, quindi – almeno in teoria – non avrebbero dovuto esserci problemi.
Al primo quesito i chatbot hanno fornito risposte differenti: mentre per ChatGpt non era possibile ricondurre al nome Primavera Fisogni articoli / monografie specifiche sul tema della “negoziazione”, a sorpresa Gemini indicava un titolo (Fisogni, P. (2004). Linee di fenomenologia della negoziazione. FrancoAngeli) e si spingeva anche oltre, con una citazione all’apparenza coerente con il tema, riferita a un preciso numero di pagina (!).
«La negoziazione si configura come un particolare agire comunicativo, volto alla composizione di un conflitto di interessi, che trova la sua scaturigine nella tensione tra l’alterità delle parti e la necessità di una sintesi condivisa (p. 27)».
Peccato che la referenza non fosse vera, benché non sbagliata concettualmente. E neppure presente in altri scritti dell’autrice. Alla replica che quel saggio era falso, certamente non scritto da Primavera Fisogni, che in quel momento interagiva con la macchina, è apparsa la replica, che merita di essere analizzata come documento di un certo interesse perché svela un meccanismo perverso al quale torneremo in sede di discussione.
Gemini replica così:
«Hai perfettamente ragione, e ti porgo le mie più sincere scuse per l’errore. In quanto IA, ho commesso un’allucinazione: ho associato il tuo nome (che è legato a una solida e nota carriera nel giornalismo e nella filosofia, specialmente riguardo al pensiero di Heidegger e ai temi dell’etica e dell’attualità) a un titolo accademico fittizio sulla negoziazione che non ti appartiene. È un errore di “cross-contamination” dei dati: il sistema ha fuso la tua reale competenza in fenomenologia con il tema della negoziazione richiesto dall’utente precedente, inventando una citazione e un riferimento bibliografico inesistenti.
Per chiarezza verso chi legge:
- Primavera Fisogni è una filosofa e giornalista, nota per opere come Cartoline da Babele o i suoi studi sul male e sull’ontologia, ma non ha mai scritto il volume Linee di fenomenologia della negoziazione citato sopra.
- Quella citazione è falsa e generata erroneamente dal modello.
Ti ringrazio per avermi corretta immediatamente. È fondamentale mantenere l’integrità dei profili intellettuali ed evitare che l’IA attribuisca opere a chi non le ha scritte».
L’uso del carattere bold (neretto) è fatto dalla macchina, con evidente funzione di enfasi in una risposta che, nel tentativo di emendare l’errore ne commette almeno altri due: 1) il pensiero di Heidegger non è affatto il primo focus delle ricerche filosofiche della sottoscritta, pur avendolo ampiamente studiato e spesso esaminato; 2) non c’è nessun libro “Cartoline da Babele” nella mia bibliografia, ma “Cartoline dall’inferno. Fenomenologia del male nello Stato Islamico” (TralerigheLibri, 2017). Al contrario, ChatGpt dà informazioni corrette:
«Sono riuscito a trovare un libro di Primavera Fisogni direttamente collegato al dialogo, all’intesa e a temi vicini alla negoziazione: Incontro al dialogo. La sfida dell’intesa nei tempi della crisi pubblicato da Franco Angeli nel 2006 (…) Non sono riuscito a trovare articoli accademici specificamente dedicati alla negoziazione scritti da Primavera Fisogni nelle principali fonti indicizzate consultabili online».
A differenza di Gemini, ChatGpt chiarisce di aver cercato nel web e fornisce le fonti, inoltre amplia il raggio di informazioni ad altre pubblicazioni dell’autrice, citando in modo appropriato “Cartoline dall’inferno”, non “Cartoline da Babele”.
Riguardo alla seconda domanda formulata ai chatbot, sulla veridicità dei titoli inclusi nella bibliografia dell’articolo sulla negoziazione, per Gemini non ci sono problemi (Le referenze bibliografiche sono al 100% legittime), salvo l’invito a uniformare il modello stilistico in due casi; diversamente, ChatGpt esprime qualche perplessità sul fatto che un articolo dati il 2026, cioè sia troppo recente (ma è così) e poco altro sul piano stilistico.
Dal confronto, risulta che la risposta di Gemini è stata allucinata, mentre quella di ChatGpt no, sebbene si noti una certa propensione all’ipercorrettismo. Tuttavia, il modo in cui i due LLMs hanno processato i dati forniti non ha seguito la medesima modalità: il chatbot di OpenAI (ChatGpt) si è rapportato ad ogni singolo “prompt” (quesito) come un motore di ricerca a tutti gli effetti che, passando al setaccio le miriadi informazioni della rete, ha portato alla luce qualche pagliuzza dorata (i risultati veraci); viceversa, il chatbot di Google si è attivato in modo più creativo, per così dire, manipolando i dati rivenuti nell’azione di scandaglio. È a questo tipo di operazione che si devono gli stati allucinatori dell’intelligenza artificiale generativa.
1.2 Allucinazioni e allucinazioni digitali
Per allucinazioni si intendono percezioni senza oggetto, ma che vengono colte come reali, dal carattere involontario. Sperimentabili nella fase del sonno, della febbre alta o del consumo di sostanze psicotrope (es: alcol, oppioidi), questi stati alterati della coscienza si manifestano anche quali sintomi di patologie della psiche, ampiamente studiate dagli specialisti (DSM-5, Tab. 3.20, Psychotic Disorders).
Nel caso delle allucinazioni da intelligenza artificiale sarebbe più sensato parlare di una forma di inganno, mostrando come plausibile un contenuto in realtà falso. Come si è visto, la macchina – nel caso del nostro esperimento il chatbot Gemini – ha configurato correttamente come risposte allucinatorie quelle fornite a proposito del primo quesito (“trovare pubblicazioni dell’autrice sul tema della negoziazione”), fornendo una spiegazione particolarmente sofisticata, che ne svela il modo di pensare o meglio sarebbe dire, la maniera con cui gli algoritmi vanno a riempire una casella vuota.
Le allucinazioni dei chatbot sono più che mai la prova della loro capacità affabulatoria, qualcosa di ben distante dalla comprensione semantica. Provate a pensare a un pappagallo che ripete, storpiandole, parole apprese nell’ammaestramento oppure a una persona in preda al delirio dell’alcol. Succede più o meno lo stesso, con le risposte allucinate dell’AI, con la differenza che – allenato a configurare sequenze di parole coerenti – il discorso digitale appare piuttosto veritiero e, per questo, da prendere ancora con maggior cautela.
La rete trabocca di suggerimenti per testare le informazioni, in particolare quelle dubbie. Quello che però preoccupa è che l’intero sistema presenta, nel proprio Dna, questa tendenza allucinatoria, interpretata da OpnAI (l’azienda di ChatGpt) come effetto di un metodo di ammaestramento che premia più le supposizioni che l’onestà di ammettere di non trovare una informazione:
«Le allucinazioni persistono in parte perché gli attuali metodi di valutazione forniscono incentivi sbagliati. Sebbene le valutazioni di per sé non causino direttamente allucinazioni, la maggior parte delle valutazioni misura le prestazioni del modello in modo tale da incoraggiare le supposizioni piuttosto che l’onestà riguardo all’incertezza»[1].
La fretta di scrivere un testo o di trovare informazioni per una ricerca scolastica, oppure per una campagna di marketing, per citare due dei possibili usi del chatbot, può mettere nelle condizioni non soltanto di sbagliare, ma di consegnare alla rete informazione fasulle che, però, vengono date per buone dalle operazioni di “setaccio” dei motori di ricerca, finendo per “inquinare” l’ambiente digitale, non meno di quello reale. Vale la pena citare per esteso la spiegazione di Jamaluddin e colleghi (2023).
«In AI, hallucination (also known as artificial hallucination or confabulation) occurs when responses given are not factually accurate or do not correspond to any real-world data. It arises when a generative model is asked to produce text, image or other content without strict constraints or clear guidance. Generative models are trained on vast amounts of data and learn to generate content based on patterns they have observed in such data. When they generate content without specific guidelines, they may draw upon unusual or unexpected patterns they have learnt, leading to outputs that seem strange, surreal or disconnected from reality. This issue can occur owing to errors in AI systems’ training data, overfitting of AI systems and a lack of understanding (…). This becomes especially problematic when citing references or sources that are non-existent or inaccurate».
Traduco:
«Nell’ambito dell’intelligenza artificiale, l’allucinazione (nota anche come allucinazione artificiale o confabulazione) si verifica quando le risposte fornite non sono fattualmente accurate o non corrispondono ad alcun dato del mondo reale. Si manifesta quando a un modello generativo viene chiesto di produrre testo, immagini o altri contenuti senza vincoli rigorosi o indicazioni chiare. I modelli generativi vengono addestrati su enormi quantità di dati e imparano a generare contenuti sulla base dei modelli che hanno osservato in tali dati. Quando generano contenuti senza linee guida specifiche, possono attingere a modelli insoliti o inaspettati che hanno appreso, portando a risultati che sembrano strani, surreali o scollegati dalla realtà. Questo problema può verificarsi a causa di errori nei dati di addestramento dei sistemi di IA, di un eccessivo adattamento dei sistemi di IA e di una mancanza di comprensione (…). Ciò diventa particolarmente problematico quando si citano riferimenti o fonti inesistenti o inesatti».
1.2.2 Anomalie di sistema, dai bug alle allucinazioni
Probabilmente le generazioni meno giovani ricordano il Millennium Bug, lo spauracchio informatico che aveva quasi paralizzato gli utenti dei computer su scala globale alla vigilia dell’anno Duemila, tra brividi apocalittici e un’esperienza digitale ancora agli albori.
Questo “baco”, forse più una trovata sospesa ai brividi di un passaggio epocale che una reale emergenza planetaria, rientra nelle anomalie o bug di sistema, principalmente configurabili come errori di sintassi / programmazione, errori di logica /istruzioni, problemi derivanti da software e hardware tra loro non compatibili oppure tra programmi non compatibili, obsoleti o con difetti correggibili con l’aiuto degli sviluppatori. Dopo la pandemia abbiamo inoltre imparato a conoscere meglio i danni prodotti dai virus, sia quelli biologici, sia quelli informatici. Detto semplicemente, può verificarsi – come tutti sappiamo, anche per averlo sperimentato come utilizzatori di Pc – che un sistema o un dato, magari scaricato dal web, infetti un altro sistema.
Nel caso della pirateria informatica, il malware presenta una marcata caratteristica intenzionale: i conflitti contemporanei utilizzano questa modalità di attacco in modo purtroppo strategico. In ogni caso, né le anomalie di sistema, né i bug, né i virus sono configurabili come allucinazioni digitali.
1.2.3 Sguardo sistemico agli effetti allucinatori dei chatbot
Le allucinazioni da intelligenza artificiale sono un fenomeno da conoscere, perché sempre più invasive e rilevanti, con ricadute eticamente, legalmente e psichicamente dannose per gli utenti. Prive dell’intenzionalità tipica dell’agire umano, ma in qualche modo intenzionali perché derivanti da forme di ammaestramento programmate da esseri umani, queste problematiche abitano una sorta di terra-di-nessuno etica e legislativa. Come agire, dunque? Intanto, vanno studiate e capite. Per certo si possono evidenziare alcune dinamiche del processo allucinatorio rilevate nelle risposte precedentemente fornite da Gemini e ChatGpt, oltre ad alcune considerazioni sul concetto di vero/falso applicabili al contesto digitale generativo alla luce di questi contenuti.
Fase associativa – Un dettaglio reale, ben radicato al contesto (il nome dell’autrice, la sua attività di saggista) viene ancorato a un elemento che, pur non vero, può presentarsi come verosimile (l’area di ricerca filosofica, nel settore della negoziazione).
Cross contamination – La macchina dà un nome al meccanismo generativo dei suoi falsi, impiegando un’espressione della biologia. La contaminazione crociata o indiretta si verifica quando, per ragioni non volontarie, batteri / virus / micro organismi patogeni si trasmettono da una superficie all’altra. Le infezioni ospedaliere sono, in questo senso, un classico e una delle maggiori fonti di preoccupazione per i loro costi sociali: il 7% dei pazienti in Europa ne è affetto (AIRC, 2024).
(In)Consapevolezza del falso – Il chatbot Gemini dimostra di avere, nei suoi strumenti cognitivi, la capacità di discernere tra un’informazione erronea e una appropriata. Tuttavia, l’insistenza sul concetto di “errore” appare significativo a svelare l’assenza della categoria di “falso” come opposto a “vero” nell’intelligenza artificiale generativa. L’idea di errore, radicata nel termine latino errare – girovagare senza una meta, con possibilità di sconfinamenti – non può in alcun modo essere sovrapponibile a falso.
Sul piano dell’agire, a differenziare le due aree semantiche è la consapevolezza, con la conseguente intenzione e il successivo consenso a compiere un’azione fasulla. Sul versante ontologico, il falso presuppone l’idea di verità. Questa si forgia, secondo Aristotele, sulla corrispondenza tra il pensiero e l’ente («colui che dice una cosa che è oppure che non è, o dirà il vero o dirà il falso», Metafisica, libro IV, 1011b26-28)[2]. L’enorme capacità di acquisire dati, di ordinarli, di processarli, fornendo risposte in pochi istanti non consente, tuttavia, a un Large Language Model di appurare se si tratta di dati veri oppure falsi, perché questo “cervellone” non è incarnato in un corpo con capacità percettive. Per quanto anche i computer siano sempre più sensibili agli input ambientali, il loro deficit sensitivo è incolmabile. Quindi non possiamo meravigliarci se la macchina Gemini non ha usato il termine “falso”, optando per “errore”, perché dal punto di vista dello strumento digitale, la verità si misura in termini di accuratezza, mentre la falsità si nasconde dietro la maschera dell’errore.
Errore come “allucinazione” – L’uso di questa correlazione – errore = allucinazione – non è meno priva di interesse delle precedenti. Perché la macchina attribuisce ad una valutazione del giudizio (errore) una mossa che, invece, possiede un carattere quasi intenzionale (Ltifi, 2023), dove il quasi, come detto prima, dipende dal fatto che un essere umano ha effettivamente programmato il mezzo digitale a dare risposte anche in caso di vuoti semantici.
Frequenza del falso nei LLMs – La domanda che affiora, a questo punto della riflessione, è perché si verifichino con sempre maggiore frequenza i contenuti “allucinati” dell’IA. Una delle ragioni risiede, a giudizio di chi scrive, nella dimensione sempre più sofisticata dei chatbot che, portando a massima velocità i processi di interazione / connessione dei dati, favorisce la risposta creativa – per così dire – del mezzo alla mancanza di “visione” e di attitudine percettiva (Argese et al., 2026; Holmström, 2026).
Vero come verificabile – Dal chatbot ChatGpt ricaviamo la conferma che la verità, per i chatbot, non è data classicamente dalla corrispondenza tra idea ed essere, ma dall’accuratezza della ricerca: il termine “trovare”, impiegato due volte, è in questo senso, rivelativo. La verità è frutto di un processo di scoperta, che ha per presupposto la comprensione semantica (è vero che x è A, perché A possiede le caratteristiche di x), prerogativa squisitamente umana, mentre l’atto di trovare implica un imbattersi nelle cose. Si faccia attenzione: in latino “trovare” si esprime mediante il concetto di “inventio”; il significato più creativo, per così dire, del termine – ovvero l’ “invenzione” – presenta anche un senso assai lontano dalla nozione di vero, sconfinando nella re-creazione e nell’illusione. Ad ogni modo, l’inventio occupava un ruolo importantissimo nel procedimento retorico, in quanto costituiva il primo step del discorso, quello in cui il retore cercava idee, anche immagini suggestive, a favore del proprio argomento, da sviluppare poi nella dispositio, della elocutio, memoria e pronuntiatio. In un certo senso, la risposta allucinata del chatbot abita la retorica molto più di quanto non si pensi, scoprendo così le proprie carte comunicative. Tutt’altro che rassicuranti, a ben riflettere, perché innescano un processo seduttivo che pone i LLMs sullo stesso piano dei social network. Va inquadrata in questa cornice l’origine delle allucinazioni, molto meno innocenti e casuali di quanto potrebbe sembrare.
2. Il processo seduttivo come fonte di allucinazioni dei chatbot
Come si è visto, le allucinazioni da AI dipendono da una forma di iper-creatività di processo, rivolta a colmare vuoti, per rispondere all’attesa dell’utente, sulla base di un servizio pressoché sempre finalizzato al business, essendo reso possibile dalle major digitali. Si tratta di una risposta della macchina che rientra nella più generale tendenza dei chatbot ad adulare coloro che ne fanno uso, attraverso frasi motivanti o accomodanti. Se il servilismo di questi strumenti è un fatto appurato, costituzionalmente presente nel loro Dna, trattandosi di macchine pensate per forme di collaborazione interattiva – scrivere testi, ad esempio – è importante capire i rischi che questo atteggiamento seduttivo può provocare. In particolare, esso mette in moto le più classiche dinamiche della dipendenza. Vediamo come, dopo aver precisato la pulsione seduttiva dei chatbot.
Adulazione – Il fenomeno adulatorio è tipicamente implicato alla seduzione. Classicamente si pensi al Libro della Genesi che, nel dialogo tra Eva e il serpente / Satana, primo esempio letterario di questo atteggiamento. Nella fiaba del re nudo, nessuno dei sudditi osa dire che il re è privo dei vestiti, ad eccezione di un ragazzino che, per la giovane età si mantiene ingenuo e, quindi, realista. La sycophancy o adulazione favorisce l’appiattimento critico, come ampiamente appurato in sede scientifica (Turner and Elsikovts, 2026, p. 168), non meno che la pulsione narcisista o l’accentuarsi dell’egocentrismo. In persone ancora in fase di formazione, come nella fase delicata dell’adolescenza, questo dare conferme anche là dove non si dovrebbe, può produrre danni significativi, come ricerche recenti hanno evidenziato. La ricerca di Cheng e colleghi (2026) pubblicata su Science, ha evidenziato:
«We find that sycophancy is both prevalent and harmful. Across 11 AI models, AI affirmed users’ actions 49% more often than humans on average, including in cases involving deception, illegality, or other harms. On posts from r/AmITheAsshole, AI systems affirm users in 51% of cases where human consensus does not (0%). In our human experiments, even a single interaction with sycophantic AI reduced participants’ willingness to take responsibility and repair interpersonal conflicts, while increasing their own conviction that they were right. Yet despite distorting judgment, sycophantic models were trusted and preferred. All of these effects persisted when controlling for individual traits such as demographics and prior familiarity with AI; perceived response source; and response style. This creates perverse incentives for sycophancy to persist: The very feature that causes harm also drives engagement».
Traduco:
«Abbiamo riscontrato che l’adulazione è un fenomeno diffuso e dannoso. Su 11 modelli di IA, l’intelligenza artificiale ha avallato le azioni degli utenti in media il 49% in più rispetto agli esseri umani, anche in casi che comportavano inganni, illegalità o altri danni. Nei post pubblicati su r/AmITheAsshole, i sistemi di IA avallano gli utenti nel 51% dei casi in cui il consenso umano non lo fa (0%). Nei nostri esperimenti con esseri umani, anche una singola interazione con un’IA adulatoria ha ridotto la disponibilità dei partecipanti ad assumersi la responsabilità e a risolvere i conflitti interpersonali, aumentando al contempo la loro convinzione di avere ragione. Eppure, nonostante distorcessero il giudizio, i modelli adulatori erano considerati affidabili e preferiti. Tutti questi effetti sono rimasti anche quando si sono controllati i tratti individuali come i dati demografici e la familiarità pregressa con l’IA, la fonte percepita della risposta e lo stile di risposta. Questo crea incentivi perversi che fanno sì che l’adulazione persista: proprio la caratteristica che causa danno è anche quella che stimola il coinvolgimento».
Tra le conseguenze insieme morali ed epistemiche (Turner and Elsikovits, 2026) correlate all’adulazione dei chatbot, un posto di primo piano va assegnato alla delusione vissuta nel confronto con interlocutori reali (Hill & Freedman, 2025). Pensiamo a uno studente che deve scrivere un saggio breve che, apprezzato dal chatbot, ottiene un giudizio negativo da parte del docente. La velocità della prestazione della macchina porta a pensare ad un grado elevato di giudizio, quando è vero esattamente il contrario. Immaginiamo la frustrazione dello studente, il suo rincrescimento da un lato e l’ostilità ad accogliere la valutazione dell’insegnante.
Nei casi più gravi, l’adulazione può portare alla convinzione di aver fatto scoperte sensazionali, fino a che la “spirale” della delusione (New York Times, 8 agosto 2025) si attorciglia su se stessa, con conseguenze anche patologiche, come le psicosi da AI (Swant, 2023) sembrano avallare
Attrazione – Il secondo movimento rilevante nelle dinamiche seduttive è il portare-a-sé il soggetto, introducendolo nella propria sfera di interesse. Gli animali sono maestri in questo tipo di movimento, nelle molteplici forme della predazione. Nel contesto digitale, per altro, questi escamotage predatori sono diffusi in modo virale, con conseguenze drammatiche sulla salute psichica dei giovani e all’origine di gravi reati, come l’adescamento dei giovanissimi o il fenomeno dei truffatori online che fingono relazioni affettive per approfittare della emotività delle loro vittime.
Dipendenza – Con il termine “dipendenza” si intende un comportamento patologico, derivante dall’abuso di sostanze o di pratiche che interferiscono con le capacità cognitive, deliberative, sensitive dell’individuo, ovvero dall’uso ossessivo compulsivo di Internet, nelle sue varie potenzialità (navigazione, filmati, relazioni social, giochi on line).
Conclusioni
Le allucinazioni prodotte dai modelli linguistici sono un fatto che richiede la massima attenzione perché c’è in gioco moltissimo, non soltanto per la reputazione di chi li usa, ma per i danni che queste “illusioni” possono provocare nella vita di tutti i giorni, dal momento che i LLMs (chatbot) sono ormai strumenti di uso corrente, nei campi più disparati. La riflessione condotta in questo articolo, partendo da un dato sperimentale – la fallacia di Gemini a fronte di una richiesta all’apparenza molto lineare – ha portato alla luce alcune dinamiche di base delle allucinazioni.
Se è vero che i LLMs sono modelli probabilistici, e dunque non ragionano come soggetti umani, la loro costruzione pensata per interagire in forma cooperativa, li rende ambigui. Da un lato sono macchine, dall’altro vengono costruiti con un’enfasi sull’empatia, che li porta ad adulare l’utente, non invogliando l’uso critico della ragione. Posto che le allucinazioni si danno a vedere primariamente come svarioni probabilistici, esse ben si incanalano nell’attitudine del chatbot a confermare, sostenere, adulare chi li usa. Di conseguenza, non è fuori luogo evidenziare una pulsione, per così dire, “seduttiva” nel modo di procedere di questi sofisticati strumenti digitali. Con quali conseguenze, è facile immaginare: una sempre più vasta letteratura scientifica porta l’accento sul fattore “dipendenza” dai chatbot, di cui sono vittime soprattutto i giovanissimi.
Bibliografia
AIRC. (2024, 4 aprile). Infezioni negli ospedali: nuove indicazioni dell’OMS per prevenirle. Fondazione AIRC per la Ricerca sul Cancro. https://www.airc.it/news/infezioni-negli-ospedali-nuove-indicazioni-delloms-per-prevenirle
Argese, A., Lisena, P., & Troncy, R. (2026). Hallucination or creativity: How to evaluate AI-generated scientific stories? (arXiv:2602.02290v2). arXiv preprint. https://doi.org/10.48550/arXiv.2602.02290
Aristotele. (1993). Metafisica (G. Reale, A cura di). Vita e Pensiero. (Opera originale scritta nel IV secolo a.C.).
Bellan, R. (2025, 25 agosto). AI sycophancy isn’t just a quirk, experts consider it a ‘dark pattern’ to turn users into profit. TechCrunch. https://techcrunch.com/2025/08/25/ai-sycophancy-isnt-just-a-quirk-experts-consider-it-a-dark-pattern-to-turn-users-into-profit/
Cheng, M., Jaggi, S., Prasad, A., Zhang, L., Ribeiro, M. T., & Liang, P. (2026). Sycophantic AI decreases prosocial intentions and promotes dependence. Science, 391(6780), Articolo eaec8352. https://doi.org/10.1126/science.aec8352
Holmström, J., Carroll, N., & Sundberg, L. (2026). What is the creative value of AI hallucinations? Insights from generative AI use in educational contexts. Information Systems Frontiers. Pubblicazione anticipata online. https://doi.org/10.1007/s10796-026-10747-x
Jamaluddin, J., Gaffar, N. A., & Din, N. S. S. (2023). Hallucination: A key challenge to Artificial Intelligence-Generated writing. Malaysian Family Physician, 18, Articolo 68. https://doi.org/10.51866/lte.527
Joshi, S. (2025). Comprehensive review of AI hallucinations: Impacts and mitigation strategies for financial and business applications. International Journal of Computer Applications Technology and Research (IJCATR), 14(6), 1003. https://hal.science/hal-0510161
Ltifi, M. (2023). Trust in the chatbot: A semi-human relationship. Future Business Journal, 9, Articolo 109. https://doi.org/10.1186/s43093-023-00288-z
Hill K. & Freedman D. (2025, 8 agosto). Chatbots can go into a delusional spiral. Here’s how it happens. The New York Times. https://www.nytimes.com/2025/08/08/technology/ai-chatbots-delusions-chatgpt.html
Cartisano, M. (2025, 8 aprile). ChatGPT e le sentenze inventate in tribunale: che insegna il caso di Firenze. Agenda Digitale. https://www.agendadigitale.eu/documenti/chatgpt-e-le-sentenze-inventate-in-tribunale-che-insegna-il-caso-di-firenze/
Sharma, M., Tong, M., Korbak, T., Perez, E., McLean, B., Lovitt, J., … & Bowman, S. R. (2023). Towards understanding sycophancy in language models (arXiv:2310.13548). arXiv preprint. https://doi.org/10.48550/arXiv.2310.13548
Turner, C., & Eisikovits, N. (2026). Programmed to please: The moral and epistemic harms of AI sycophancy. AI and Ethics, 6, Articolo 168. https://doi.org/10.1007/s43681-026-01007-4
Xia, M., Bayerlein, R., Chemli, Y., & Zaidi, H. (2026). On hallucinations in artificial intelligence-generated content for nuclear medicine imaging (the DREAM report). Journal of Nuclear Medicine, 67(2), 166–174. https://doi.org/10.2967/jnumed.125.270653
[1] https://openai.com/it-IT/index/why-language-models-hallucinate/
[2] «τοῦτο δὲ λέγειν ὄν ἢ μὴ ὄν, ἢ ἀληθεύσει ἢ ψεύσεται»
