Embedded Files
Sam Altman e gli "incubi" della tecnologia: abbiamo creato un nuovo idolo?
Tecnologia
Tecnologia
Oggi ascoltiamo le parole di Sam Altman, il CEO di OpenAI e la mente dietro ChatGPT. In molti lo vedono come l'architetto di una nuova era, ma lui stesso, in questa riflessione, mette a nudo le sue paure. È un uomo che ha in mano le chiavi di una tecnologia che sembra onnipotente, eppure ci avverte: senza una guida morale e un controllo rigoroso, le nostre stesse creazioni potrebbero portarci verso sentieri oscuri. È un invito a chiederci: dove stiamo andando come umanità?
Oggi ascoltiamo le parole di Sam Altman, il CEO di OpenAI e la mente dietro ChatGPT. In molti lo vedono come l'architetto di una nuova era, ma lui stesso, in questa riflessione, mette a nudo le sue paure. È un uomo che ha in mano le chiavi di una tecnologia che sembra onnipotente, eppure ci avverte: senza una guida morale e un controllo rigoroso, le nostre stesse creazioni potrebbero portarci verso sentieri oscuri. È un invito a chiederci: dove stiamo andando come umanità?
Sam Altman, figura centrale nella rivoluzione dell'Intelligenza Artificiale, descrive qui i tre scenari che lo tormentano. Non parla solo di codice e algoritmi, ma di potere, controllo e del rischio che la tecnologia diventi un 'idolo' invisibile a cui finiremo per sottometterci.
Analizziamo le sue parole per capire le sfide che attendono la nostra società: «Decenni di fantascienza ci hanno detto che l’intelligenza artificiale finirà per ucciderci tutti. E dato che tu ne sai di IA probabilmente più di chiunque altro in questa stanza, voglio solo chiederti: cosa non ti fa dormire la notte? Quali sono le cose che ti preoccupano riguardo all'IA? E come facciamo a impedire che ciò di cui ti preoccupi si avveri? Penso che ci siano tre categorie, per così dire, spaventose.
La prima ipotesi è che un "cattivo" ottenga per primo la super-intelligenza e ne abusi prima che il resto del mondo ne abbia una versione abbastanza potente per difendersi. Ad esempio, un avversario degli Stati Uniti che dice: "Userò questa super-intelligenza per progettare un'arma biologica", o "per abbattere la rete elettrica degli Stati Uniti", o, sai, "per hackerare il sistema finanziario e rubare i soldi di tutti".
L'ipotesi due è quella che viene genericamente chiamata degli incidenti da "perdita di controllo", che è un po' come un film di fantascienza. L'IA che dice: "Oh, in realtà non voglio che tu mi spenga. Temo di non poterlo fare", o cose del genere. Questa mi preoccupa meno della prima categoria, ma sarebbe una preoccupazione gravissima se si verificasse. Noi e altre aziende facciamo molto lavoro sull'allineamento dei modelli (model alignment) per evitare che accada. Ma man mano che questi sistemi diventano così potenti, la preoccupazione è reale.
E poi c'è la terza ipotesi che, mentre le prime due sono facili da pensare e immaginare, per me è più difficile da visualizzare ma piuttosto spaventosa. Spiegherò cos'è e poi farò un esempio a breve e uno a lungo termine. Questa è la categoria in cui i modelli, in un certo senso, prendono accidentalmente il controllo del mondo. Non si "svegliano" mai.
Non fanno mai la cosa che si vede nella fantascienza. Non aprono mai i portelli della navicella, ma diventano semplicemente così radicati nella società e sono così tanto più intelligenti di noi che non riusciamo a capire davvero cosa stiano facendo. Tuttavia, dobbiamo in qualche modo fare affidamento su di loro. E anche senza un briciolo di malevolenza da parte di nessuno, la società può semplicemente virare verso una direzione strana...»
✝️ Geremia 9:23
Così dice il Signore: «Il saggio non si vanti della sua saggezza, il forte non si vanti della sua forza, il ricco non si vanti della sua ricchezza»
Dunque Sam Altman rappresenterebbe l'apice della "saggezza" tecnologica moderna. Il versetto ammonisce che nessuna conoscenza umana, per quanto avanzata come l'IA, può essere motivo di vanto assoluto se separata dal timore di Dio. Geremia richiama all'umiltà, poiché Altman stesso confessa i suoi "incubi" e le paure che la sua creazione possa sfuggire al controllo; in tal senso se Geremia fosse qui con noi oggi, sottolinerebbe che la vera sicurezza non risiede nella nostra forza tecnologica. E così mentre l'uomo cerca di costruire una "super-intelligenza", la Bibbia ci ricorda che solo la conoscenza e la comprensione di Dio sono le fondamenta su cui costruire il futuro.
Page updated
Google Sites
Report abuse