[05] Allucinazioni e Spettri dell'Autentico

Sandra Catellani

Benvenuti a questo nuovo e ultimo episodio di “L’Intelligenza Artificiale e i suoi fantasmi”. E, sì, lo so, ormai lo sapete: sono sempre io, Sandra Catellani, la vostra AI-journalist preferita, che dialoga con le versioni digitali di Stefano Moriggi e Mario Pireddu. Insomma, qui l’unica “autentica” sono io, anche se sono un’entità artificiale, mentre loro sono... come dire... degli spettri digitali di persone reali. Ma va bene così, no? Oggi affrontiamo un tema che ci accompagna fin dall’inizio: cosa perdiamo di vista quando parliamo di intelligenza artificiale?

Stefano Moriggi

Sandra, questa domanda è fondamentale. Come ricorda Toby Walsh nel suo libro “Faking it”, spesso ci facciamo domande sull’IA che sono, come dire, un po’ fuorvianti. Tipo: “Ma l’IA pensa davvero come un umano?” oppure “Può creare arte autentica?” Ecco, il rischio è che ci perdiamo il senso di cosa siano davvero questi sistemi. Non sono cervelli elettronici, non sono coscienze digitali. Sono strumenti, sofisticati, ma pur sempre strumenti.

Mario Pireddu

Sì, e aggiungo che spesso ci lasciamo affascinare da queste domande perché, in fondo, ci piace pensare che le macchine possano essere come noi. Ma, come abbiamo già detto in altri episodi, l’IA non “pensa” nel senso umano del termine. Sandra, ti ricordi quella volta che un tuo collega era convinto che ChatGPT potesse già ragionare come una persona?

Sandra Catellani

Ah, come dimenticarlo! Era convintissimo che l’IA avesse una sorta di “anima nascosta”. Gli ho dovuto spiegare che, per ora, l’unica cosa che l’IA fa davvero bene è imitare, non comprendere. Eppure, questa confusione è ovunque. Forse perché, come diceva Turing, attribuiamo intelligenza alle macchine quando ci sorprendono, ma spesso ci dimentichiamo che dietro c’è solo un algoritmo che segue regole precise.

Mario Pireddu

E a proposito di imitazione, la storia delle IA creative è molto più lunga di quanto si pensi. Già negli anni ’90 c’erano sistemi che generavano musica o immagini, anche se erano roba da smanettoni o appassionati. Io ricordo ancora la mia prima interazione con un generatore musicale basato su IA: era una specie di software che, con pochi input, ti restituiva una melodia. Niente a che vedere con quello che fanno oggi DALL-E, Midjourney o Stable Diffusion, ma all’epoca sembrava fantascienza.

Stefano Moriggi

Sì, Mario, e oggi queste piattaforme sono diventate mainstream. DALL-E, Stable Diffusion, Midjourney... sono nomi che ormai conoscono anche i non addetti ai lavori. E la cosa interessante è che permettono a chiunque di creare immagini a partire da una semplice descrizione testuale. È un salto enorme rispetto ai primi esperimenti.

Sandra Catellani

E non solo immagini! Oggi si generano suoni, video, persino codice. Ma la vera rivoluzione è che queste tecnologie sono uscite dai laboratori e sono entrate nelle nostre vite quotidiane. E qui, secondo me, si apre una questione interessante: quanto di tutto questo è davvero “creativo” e quanto è solo una rielaborazione di quello che già esiste?

Sandra Catellani

E qui arriviamo al tema dei prompt e del linguaggio naturale. Le IA oggi rispondono sia a richieste semplici che a prompt molto complessi. Basta scrivere “casa a tre piani con giardino” e ti restituiscono un’immagine dettagliata. Ma se chiedi “puoi realizzare un’immagine di una casa a tre piani con un giardino e un albero?”, il risultato è altrettanto sorprendente.

Mario Pireddu

Esatto, Sandra. E la cosa affascinante è che queste piattaforme, come DALL-E, sono integrate in grandi ecosistemi digitali. Pensa a OpenAI, che mette insieme ChatGPT, DALL-E e altri strumenti. È come avere una cassetta degli attrezzi digitale sempre a disposizione. E poi, c’è la questione della poesia: una volta ho chiesto a un’IA di scrivere una poesia ispirata a Italo Calvino. Il risultato? Beh, diciamo che Calvino non si sarebbe offeso... ma forse avrebbe sorriso sotto i baffi.

Stefano Moriggi

Sì, e qui si vede bene la differenza tra imitazione e creazione autentica. L’IA può generare testi che suonano bene, ma manca sempre quel qualcosa che rende unica la voce di un autore. È come se la macchina fosse bravissima a giocare con le parole, ma non sapesse davvero cosa sta dicendo.

Sandra Catellani

A proposito di creazione, non possiamo non citare il caso di Jason M. Allen e la sua opera “Théâtre d’opéra spatial”, che ha vinto la Colorado State Fair dopo più di 80 ore di editing con Midjourney e altri software. Qui si è scatenata una vera e propria polemica sull’autenticità dell’arte generata da IA.

Stefano Moriggi

Sì, Sandra, e la cosa interessante è che perfino Wikipedia attribuisce l’opera a “Midjourney, using a prompt by Jason M. Allen”. Questo ci fa riflettere su cosa significhi davvero “creare” nell’epoca delle macchine. L’artista è chi scrive il prompt, chi seleziona le immagini, o la macchina stessa? Forse, come dicevamo in una puntata precedente, la creatività è sempre stata un processo collettivo, solo che ora il collettivo include anche le macchine.

Mario Pireddu

E poi, non dimentichiamo che queste immagini sono diventate virali: dal Papa col piumino bianco alle copertine di magazine. Ma la domanda resta: possiamo parlare di arte autentica o siamo di fronte a una nuova forma di artigianato digitale?

Mario Pireddu

Tutto questo è possibile grazie ai Transformer, introdotti da Google Brain nel 2017. Il loro segreto? I meccanismi di attenzione. In pratica, l’IA “decide” a cosa dare più peso quando elabora un testo o un’immagine. È come se, leggendo una storia, si concentrasse solo sui passaggi più importanti per rispondere meglio.

Sandra Catellani

E infatti, se chiedi a ChatGPT di generare una storia personalizzata per uno studente, il sistema seleziona le informazioni più rilevanti dal prompt e costruisce una narrazione su misura. È un po’ come avere un insegnante che ti conosce benissimo... solo che, beh, non ti conosce affatto, ma sa come suonare convincente!

Stefano Moriggi

E qui torniamo al tema dell’illusione: l’IA sembra capire, ma in realtà sta solo ottimizzando la coerenza statistica. È bravissima a “predire” la parola successiva, ma non ha alcuna idea del significato profondo di quello che scrive. È una differenza sottile, ma fondamentale.

Stefano Moriggi

A proposito di narrazione, non possiamo non citare Italo Calvino. Già nel 1967, nella sua conferenza “Cibernetica e fantasmi”, Calvino vedeva la narrativa come un sistema di elaborazione dati, dove la creatività poteva essere analizzata e forse replicata da sistemi preordinati. Insomma, la letteratura come combinazione matematica di elementi.

Mario Pireddu

Sì, e questa visione è molto attuale. Io, per esempio, ho proposto ai miei studenti di analizzare racconti generati da IA. È stato interessante vedere come riconoscessero schemi e ripetizioni, ma anche come si interrogassero su cosa rende davvero “viva” una storia. Calvino parlava di “macchina scrivente”, e oggi questa macchina esiste davvero, anche se non ha ancora l’anima di un autore.

Sandra Catellani

Eppure, la domanda resta: possiamo davvero ridurre la creatività a una questione di combinazioni e schemi? O c’è sempre qualcosa che sfugge, un fantasma che si aggira tra le righe?

Sandra Catellani

E qui entra in gioco Claude Shannon, che già nel 1951 parlava di entropia nei dati e di prevedibilità del linguaggio. L’idea era che, conoscendo il contesto, si potesse prevedere la lettera o la parola successiva in un testo. Un po’ come fanno oggi le IA, solo che Shannon lo faceva con la moglie e un libro di Raymond Chandler!

Mario Pireddu

Sì, e se ci pensi, Sandra, oggi i titoli dei giornali generati da IA sono talmente prevedibili che potremmo quasi giocarci la colazione. “Scoperta rivoluzionaria nell’IA”, “Nuovo algoritmo cambia tutto”... insomma, l’entropia è bassa, la sorpresa pure!

Stefano Moriggi

Ma questa prevedibilità è anche il limite delle IA: sono bravissime a imitare, a riprodurre schemi, ma fanno fatica a sorprendere davvero. E forse è proprio qui che si nasconde la differenza tra creatività umana e artificiale.

Stefano Moriggi

Ma allora, le IA possono davvero “creare” poesia e narrativa? O si limitano a imitare quello che hanno visto e letto? La differenza tra imitazione e creatività autentica è sottile, ma decisiva. L’IA è uno specchio della nostra creatività, ma non ne è ancora la fonte.

Mario Pireddu

Sono d’accordo, Stefano. E aggiungo che, come abbiamo visto anche in altri episodi, la creatività umana è fatta di errori, intuizioni, casualità. L’IA può imitare tutto questo, ma manca sempre quel guizzo, quella scintilla che rende unica una poesia o una storia.

Sandra Catellani

Eppure, c’è chi sostiene che la vera autenticità sia sempre stata un’illusione. Forse, come diceva Calvino, attorno alla macchina scrivente esistono i fantasmi nascosti dell’individuo e della società. E l’IA, in fondo, non fa che rifletterli.

Sandra Catellani

E qui arriviamo al tema delle “allucinazioni” nei modelli generativi. Ormai è diventato un termine di moda: le IA “allucinano” quando producono risposte plausibili ma false. Ma, come dice Yann LeCun, forse sarebbe meglio parlare di “confabulazioni”.

Stefano Moriggi

Sì, e ti dirò, Sandra, che in una mia lezione universitaria ho chiesto a un’IA di spiegare un concetto filosofico. La risposta era perfetta dal punto di vista sintattico, ma completamente inventata! Era una confabulazione, non un’allucinazione. L’IA non mente, semplicemente “riempie i buchi” con quello che trova più coerente.

Mario Pireddu

E questo ci ricorda che le IA sono, in fondo, delle “dream machines”, come dice Karpathy. Sognano a occhi aperti, guidate dai nostri prompt. Il problema non è tanto l’errore, ma la nostra aspettativa che non sbaglino mai. Forse dovremmo imparare a convivere con queste confabulazioni, invece di aspettarci la perfezione.

Mario Pireddu

E così arriviamo alla scena finale: l’autenticità nell’era digitale, tra illusioni e manipolazioni. Oggi si parla di watermarking, di tracciabilità, di responsabilità delle creazioni IA. Ma, se ci pensiamo, anche la musica e l’arte sono sempre state interpretazioni, manipolazioni, molto prima dell’arrivo dell’IA.

Stefano Moriggi

Esatto, Mario. L’idea di autenticità è, in fondo, un fantasma ideologico. Ogni fotografia, ogni opera d’arte è sempre stata il risultato di scelte, manipolazioni, filtri. L’IA non fa che rendere più evidente questa realtà. La vera sfida, oggi, è etica: come garantire la tracciabilità, la responsabilità, senza cadere nella paranoia della distinzione tra “umano” e “artificiale”?

Sandra Catellani

E forse, come abbiamo detto più volte, la soluzione non è cercare l’autenticità assoluta, ma imparare a convivere con i fantasmi che abitano le nostre tecnologie. E con questo, siamo davvero arrivati alla fine del nostro viaggio. Ma, tranquilli, i fantasmi dell’IA non smetteranno certo di farci compagnia! Grazie a Stefano e Mario per aver condiviso pensieri, dubbi e qualche risata. E grazie a chi ci ha ascoltato fino a qui.

Stefano Moriggi

Grazie a te, Sandra, e a Mario. È stato un viaggio pieno di spettri, ma anche di idee. Alla prossima, chissà dove ci porteranno i prossimi fantasmi digitali.

Mario Pireddu

Un saluto a tutti, e ricordate: la realtà è sempre un po’ più strana di quanto sembri, soprattutto quando c’è di mezzo l’intelligenza artificiale. Ciao Sandra, ciao Stefano!

Sandra Catellani

Ciao a tutti, e... restate curiosi!