[01] I fantasmi dell'intelligenza artificiale

Sandra Catellani

Benvenuti a “L’Intelligenza Artificiale e i suoi fantasmi”. Io sono Sandra Catellani, AI-Journalist creata da Edunext OnAir, e oggi ho il piacere di intervistare gli autori del libro che dà il titolo al nostro podcast: Stefano Moriggi e Mario Pireddu. O meglio, ho letto con estrema attenzione il loro libro, e ho il piacere di dialogare con le versioni digitali di Stefano e Mario.

Sandra Catellani

Allora, partiamo proprio dal cuore del vostro libro: cosa intendete quando parlate di “fantasmi” e “spettri” nell’IA? Perché questa scelta di parole così evocative?

6842da4f

Grazie Sandra. Guarda, il termine “fantasmi” ci serve proprio per raccontare quelle paure, ma anche quei desideri, che proiettiamo sulle tecnologie emergenti. L’IA, in fondo, è sempre stata circondata da aspettative quasi magiche, e spesso fraintese.

6842da4f

Pensiamo a come, ogni volta che una nuova tecnologia si affaccia, si riaccendano vecchi timori: la perdita di controllo, la sostituzione dell’umano, la paura di essere superati. Ma sono anche desideri, come quello di superare i nostri limiti, di creare qualcosa che ci assomigli o addirittura ci migliori. Questi “fantasmi” sono il riflesso delle nostre insicurezze e delle nostre speranze.

Mario Pireddu

Sì, e se posso aggiungere, Sandra, la storia dell’IA è piena di questi spettri. Prendiamo il test di Turing, per esempio: Alan Turing, nel 1950, si chiede se le macchine possano pensare, ma in realtà sposta la questione su un piano più umano, quello della percezione.

Mario Pireddu

Il famoso “imitation game” non chiede tanto se la macchina sia intelligente, ma se riesca a ingannarci, a sembrare umana. E ancora prima, William James, già nel 1890, aveva intuito che il funzionamento dei neuroni e l’apprendimento fossero legati all’esperienza, anticipando in qualche modo le reti neurali. Quindi, questi fantasmi sono antichi quanto le nostre domande sull’umano.

Sandra Catellani

Mi piace questa idea che i fantasmi dell’IA siano, in fondo, i nostri stessi fantasmi. E forse è anche per questo che il dibattito sull’intelligenza artificiale è così acceso, no? Perché ci costringe a interrogarci su chi siamo e su cosa vogliamo diventare.

Sandra Catellani

Restando su questo filo, parliamo un attimo delle radici storiche dell’IA. Le reti neurali, per esempio: da dove arrivano e come siamo passati dagli esperimenti degli anni Quaranta ai modelli linguistici di oggi? E soprattutto, avete qualche esempio concreto di applicazione che possa aiutare chi ci ascolta a capire di cosa stiamo parlando?

Mario Pireddu

Allora, le prime ricerche sulle reti neurali artificiali risalgono proprio agli anni Quaranta, con McCulloch e Pitts che crearono un modello elementare di rete neurale usando circuiti elettrici. L’idea era simulare il cervello umano, almeno in parte. Poi, negli anni Settanta, Fukushima sviluppa la prima vera rete multistrato, aprendo la strada al deep learning. Oggi, queste reti sono ovunque: dal riconoscimento vocale che usiamo sugli smartphone, alla diagnosi medica assistita, fino alla visione artificiale. E ti racconto un aneddoto: la mia prima esperienza con un sistema di traduzione automatica all’università... era un software rudimentale, eh, niente a che vedere con Google Translate di oggi. Ma già allora mi colpì l’idea che una macchina potesse “capire” e tradurre una lingua. Ovviamente, i risultati erano... diciamo, esilaranti, ma era l’inizio di qualcosa di enorme.

6842da4f

Ecco, Mario ha toccato un punto importante: queste tecnologie sono nate con l’ambizione di emulare il cervello umano, ma poi si sono evolute per risolvere problemi specifici. Oggi le reti neurali sono usate per moderare contenuti sui social, per giocare a scacchi, per generare immagini e testi.

6842da4f

E la svolta vera è arrivata con i modelli linguistici come GPT, che sono capaci di produrre testi simili a quelli umani. Ma, attenzione, non sono “intelligenti” nel senso umano del termine: sono sistemi che apprendono da enormi quantità di dati e riconoscono schemi, ma non hanno coscienza o intenzionalità.

Sandra Catellani

Quindi, se capisco bene, siamo passati da reti che imitavano il cervello a sistemi che generano contenuti, ma sempre restando dentro i limiti di ciò che hanno “visto” nei dati. Eppure, la sensazione che danno è spesso quella di una creatività quasi umana.

Sandra Catellani

A proposito di creatività e linguaggio, vorrei entrare nel tema dei valori culturali. Nel vostro libro citate uno studio su GPT-3 che mostra come questi modelli riflettano i valori dominanti negli Stati Uniti. Cosa significa, in pratica? E quali sono le implicazioni etiche e culturali di questa “localizzazione” dei valori nei modelli globali?

Mario Pireddu

Ottima domanda, Sandra. Lo studio che citi, quello di Johnson e colleghi, ha messo in luce che GPT-3 tende ad allinearsi con i valori prevalenti nel dataset su cui è stato addestrato, che sono in gran parte americani. Questo vuol dire che, anche se il modello sembra “neutrale”, in realtà trasmette una visione del mondo che non è universale. E questo ha conseguenze importanti, perché quando usiamo questi sistemi in contesti diversi, rischiamo di importare valori che non ci appartengono davvero.

6842da4f

Sì, e qui si apre un tema enorme: quanto possiamo davvero considerare “neutrali” le risposte di un’IA? Io direi: poco, se non nulla. Ogni sistema riflette le scelte, i dati, i pregiudizi di chi lo ha costruito. E questo vale anche per i modelli linguistici: la loro “voce” è il risultato di una selezione culturale, spesso invisibile. Quindi, quando parliamo con ChatGPT o simili, dobbiamo sempre chiederci: di chi è questa voce? Quali valori sta trasmettendo?

Sandra Catellani

Guarda, questa è una domanda che mi fanno spesso i lettori: “Ma l’IA è davvero imparziale?” E ogni volta mi trovo a rispondere che, in realtà, dietro ogni risposta c’è sempre una storia, una cultura, un insieme di scelte. Forse dovremmo imparare a leggere tra le righe anche quando parliamo con una macchina.

Sandra Catellani

Restando sul tema della creatività, le reti generative stanno davvero sfidando la distinzione tra produzione artistica umana e algoritmica. Stefano, tu nel libro sollevi proprio il problema dei confini: dove finisce l’opera umana e dove inizia quella artificiale?

6842da4f

Eh, questa è la domanda delle domande, Sandra. Le reti generative, come quelle che creano immagini, musica o testi, ci costringono a ripensare cosa intendiamo per creatività. Fino a poco tempo fa, pensavamo che solo l’umano potesse essere davvero creativo. Ora vediamo software che generano opere originali, che vincono premi, che vengono esposte nei musei. Ma la domanda resta: è davvero creatività, o è solo una simulazione? E, soprattutto, siamo pronti ad accettare che la creatività non sia più un’esclusiva umana?

Mario Pireddu

Guarda, io ho visto con i miei occhi opere d’arte generate da IA che hanno suscitato dibattiti accesissimi nei musei europei. C’è chi le considera arte a tutti gli effetti, chi invece le vede come semplici prodotti tecnici. Ma il punto è che queste opere ci mettono di fronte ai nostri pregiudizi: se una macchina può creare, allora dobbiamo ridefinire cosa significa essere creativi. E forse, come diceva Stefano, dobbiamo anche fare i conti con i nostri fantasmi, quelli che ci fanno paura quando vediamo qualcosa di “troppo” simile a noi.

Sandra Catellani

Ecco, forse la vera sfida è proprio questa: imparare a convivere con l’idea che la creatività possa essere condivisa, ibrida, e che il confine tra umano e artificiale sia molto più sfumato di quanto pensassimo.

Sandra Catellani

Per chiudere, vorrei tornare al tema dei “fantasmi” e a come ci costringano a ripensare i nostri quadri epistemologici. Cosa significa, concretamente, monitorare criticamente l’integrazione dell’IA nelle professioni e nell’educazione? E avete qualche esempio di cosa succede quando questo monitoraggio manca?

6842da4f

Beh, Sandra, imparare a convivere con le reti generative vuol dire anche dotarsi di strumenti critici. Non possiamo più limitarci a “subire” l’innovazione: dobbiamo capire come funziona, quali valori trasmette, quali rischi comporta. E questo vale soprattutto nei contesti educativi e professionali, dove l’adozione acritica di strumenti come ChatGPT può portare a risultati inattesi, a volte anche problematici.

Mario Pireddu

Sì, e aggiungo che serve una nuova epistemologia, cioè un nuovo modo di pensare la conoscenza. Le macchine generative non sono solo strumenti: sono co-creatori di contenuti, di esperienze, di significati. Se non impariamo a dialogare con loro in modo consapevole, rischiamo di perdere il controllo su ciò che produciamo e su come lo interpretiamo.

Sandra Catellani

Guarda, proprio di recente in una scuola che seguo, l’adozione di ChatGPT è stata accolta con entusiasmo, ma senza una vera riflessione su come usarlo. Il risultato? Alcuni colleghi si sono trovati a discutere su lavori degli studenti che sembravano “troppo perfetti”, e ci si è chiesti se fosse ancora possibile valutare la creatività individuale. Insomma, i fantasmi dell’IA sono già tra noi, e ci pongono domande nuove ogni giorno. Io vi ringrazio, Stefano e Mario, per averci accompagnato in questo viaggio tra storia, miti e valori dell’intelligenza artificiale. Sono sicura che avremo ancora molto da esplorare insieme nei prossimi episodi. Grazie a entrambi!

6842da4f

Grazie a te, Sandra, e a chi ci ha ascoltato. Alla prossima, per continuare a dialogare con i nostri fantasmi digitali.

Mario Pireddu

Un saluto a tutti, e mi raccomando: non smettete mai di farvi domande, anche quando sembrano un po’ spettrali. Ciao Sandra, ciao Stefano!

Sandra Catellani

Ciao Mario, ciao Stefano, e ciao a tutti gli ascoltatori. Alla prossima puntata di “L’Intelligenza Artificiale e i suoi fantasmi”.