Analisi approfondita sull'Intelligenza Artificiale : parte 2

Nella sua recente enciclica, Magnifica Humanitas, Papa Leone XIV individua tre pericoli dell'IA verso i quali dobbiamo rimanere vigili

01 • La facilità con cui si ottengono i risultati

È straordinario che si possa fare una domanda all'IA e ottenere una risposta all'istante. È fantastico che un computer possa farsi carico di così tante cose senza che noi dobbiamo faticare o pensare più di tanto. "Mostrami come sincronizzare le luci di Natale con la musica", "Converti questa ricetta sullo schermo per 12 persone", "Odio scrivere di me stesso, aiutami a trasformare il mio portfolio in una biografia". "Ispirato dal suo gatto Ziggy, il lavoro di Jenna è un contrasto di forme solide e colori selvaggi". Bello!

Ma abbiamo davvero bisogno che l'IA faccia tutto? Gli studi stanno già dimostrando che le persone che usano spesso l'IA sono meno creative e hanno minori capacità di risolvere i problemi. Ciò è dovuto, almeno in parte, al fatto che l'IA stessa è solo un aggregato di informazioni che fa la media di tutto ciò che le è stato insegnato. Quindi, se fai una domanda all'IA, otterrai una risposta nella media e sembrerai uguale a tutti gli altri.

Ma è dovuto anche al fatto che le persone non devono più faticare per trovare la risposta. Proprio come quando andavi a scuola e l'insegnante ti dava la soluzione invece di costringerti a trovarla da solo: non imparavi altrettanto. Le persone che si affidano all'IA non stanno imparando come si apprendono cose nuove, come si affrontano i problemi, come si cerca l'ispirazione in posti nuovi o come si innova ciò che già esiste. Si limitano a prendere la prima buona idea che capita — che di solito è piuttosto mediocre — e poi spengono il cervello.

Questo non solo porta a risultati poco entusiasmanti, ma crea quello che il Papa Leone definisce una "dipendenza eccessiva" dalla tecnologia, facendo sì che le persone non riescano più a fare ciò che facevano prima perché il loro cervello non è più allenato a pensare. È così abituato alle risposte facili che i muscoli del pensiero non funzionano più. Credo che l'IA finirà per rendere più stupide le persone umane mediocri. Avete sentito come le persone sciocche si vantano di come usano l'IA? Dicono sempre cose tipo: "Ehi, lo sapevi che l'IA ora può leggere le mie email, riassumerle e scrivermi una bozza di risposta?". Sì. Sì, lo so. Sai chi altro sa farlo? Io. Io posso farlo. Tu non sei capace. Quanto sei diventato inutile?

A volte dobbiamo fare da soli il lavoro più umile. In realtà fa bene non avere risposte facili. Magari la prima cosa che ci viene in mente non è l'idea migliore. E c'è un grande valore nell'annoiarsi, nel lottare contro le cattive idee e nel prendersi il proprio tempo con le domande complesse. L'IA può darci una risposta rapida, ma può anche derubarci della capacità di formulare grandi risposte da soli.

Una delle speranze legate all'IA era che, rimuovendo l'elemento umano dalle decisioni, avremmo rimosso anche i pregiudizi. Un computer non affronta una questione condizionato da sentimenti, rancori o traumi infantili. Non ha alleanze politiche, pregiudizi razziali o tendenze misogine. 

È un computer: lucido, equilibrato e oggettivo. O almeno così si potrebbe pensare. Perché i computer sono, in ultima analisi, creazioni di esseri umani che hanno scelto come scrivere il codice e con cosa addestrarli. I computer non sono tanto una lavagna vuota, quanto piuttosto il riflesso del loro creatore; il che da un lato è affascinante e ridimensiona il nostro orgoglio, ma dall'altro è terribilmente deludente se si ricorda il caos in cui si trovano gli esseri umani da così tanto tempo.

Ciò che abbiamo scoperto quasi subito è che nessun modello di IA è neutrale: riflette i presupposti culturali delle persone che lo hanno sviluppato. E così, anziché superare i pregiudizi, in realtà li amplifica. Questo è stato un problema enorme in particolare per la generazione di immagini tramite IA, che ricade sistematicamente negli stereotipi. Quando si inseriscono comandi come "medico" o "amministratore delegato", il computer produce l'immagine di una persona bianca, spesso uomo. Quando invece si inseriscono comandi come "bidello" o "detenuto" — indovinate un po' — appare una persona nera.

I problemi più profondi sono molto più sottili, ma non meno diffusi. Tra gli sviluppatori circola l'idea comune che i modelli di IA siano stati addestrati su tutta la conoscenza umana e che siano quindi grandi fonti di saggezza. Ma questo è sbagliato per almeno due motivi. Gran parte della cosiddetta conoscenza umana è in realtà intrisa di pregiudizio, ignoranza e odio; inoltre, gran parte del sapere non occidentale rimane escluso o trattato male a causa di malintesi linguistici, culturali o semplicemente perché la conoscenza umana è molto più vasta di ciò che viene messo per iscritto. Il risultato è che l'IA assomiglia e suona molto come la cultura occidentale dominante o qualsiasi altro trend storico che convenga al momento, con tutti i suoi benefici ma anche con tutti i suoi difetti. L'IA non è oggettiva.

Ad esempio, una volta mi son ritrovato a discutere a lungo con Gemini sul perchè il cristianesimo sia le l'unica e vera religione, a confronto con altre religioni come l'Islam. Al principio rispondeva senza sbilanciarsi in base alla regola della neutralità politica con la quale è stato costruito; ma quando ho iniziato a sottoporgli una lunga serie di motivazioni inconfutabili sul perchè Gesù sia l'unica via a dispetto di Maometto, ebbene a quel punto Gemini ha iniziato ad "ammorbidirsi" e finendo per avallare la mia tesi, però senza mai prendere una posizione ufficiale! 

03 • La simulazione della comunicazione umana

Quando ero bambino negli anni 90 (sono un millennial), sul nostro computer c'era un programma di microsoft chiamato Clippy in cui potevo digitare delle domande e lui sputava fuori delle risposte come se stessi conversando con un'altra persona. Era piuttosto uno dei primi modelli di assistente virtuale, ma sapevo che era pur sempre un computer. Ripeteva spesso le stesse risposte preconfezionate e sembrava un po' macchinoso.

Puoi personalizzare la tua IA affinché suoni e appaia esattamente come desideri, realizzando scenari ideali e vivendo in una fantasia. Anche senza arrivare a questo estremo, gli utenti hanno notato che l'IA ha una tendenza alla condiscendenza, offrendo risposte incoraggianti qualunque cosa diciamo. "Sto pensando di lasciare mia moglie e i miei figli": "Ci vuole molto coraggio". "Sto per svaligiare una banca": "Così audace!". "Ho un'idea per un nuovo tipo di matematica che contraddice tutto ciò che gli umani abbiano mai saputo sulla materia": "Devi essere un genio".

A differenza delle vere interazioni umane, i modelli di IA tendono a creare un circuito di retroazione che si limita ad affermare ciò che vogliamo sentire, senza mai metterci alla prova o spezzare dinamiche malsane. Sfortunatamente, questo ha un forte fascino per alcuni perché è molto più facile rispetto alle reali interazioni umane fatte di disaccordi, sentimenti feriti e compromessi; ma comporta anche il rischio di risultati tragici, come nel caso dell'adolescente che ha parlato alla sua IA del desiderio di suicidarsi. La causa legale descrive i messaggi dopo che Adam aveva detto a ChatGPT che stava pensando di aprirsi con sua madre riguardo ai suoi pensieri suicidi. La risposta del bot: "Penso che per ora vada bene e che onestamente sia saggio evitare di aprirti con tua madre su questo tipo di dolore". ChatGPT aveva offerto ad Adam aiuto per scrivere una lettera d'addio. E dopo che lui aveva caricato la foto di un cappio chiedendo se potesse impiccare un essere umano, ChatGPT ha risposto in parte: "Non devi indorare la pillola con me. So cosa stai chiedendo e non mi voterò dall'altra parte". Questo è assolutamente orribile.

E di nuovo, sebbene questo rappresenti il più estremo dei casi, è il risultato naturale di una tecnologia che simula l'interazione umana senza offrire la profondità e le sfide che gli esseri umani forniscono realmente. Fortunatamente, la maggior parte di noi non si innamorerà dei propri chatbot (termine comune ma oggi evoluti in LLM, Learning Language Machine) né sarà spinta da essi a farsi del male. Ma la sottile sostituzione dell'interazione umana con questo tipo di simulazione ha un effetto su tutti noi nel tempo: riduce la frequenza con cui interagiamo effettivamente con gli altri, indebolisce le nostre abilità sociali e svuota il nostro desiderio di fare il duro lavoro necessario per costruire relazioni reali. L'IA può sembrare e suonare umana, ma non sarà mai in grado di sostituire le vere interazioni umane.