Intelligenza artificiale: una rivoluzione che va oltre lo storytelling distopico

Con il lancio di ChatGPT avvenuto lo scorso novembre, il discorso sulle intelligenze artificiali nell’informazione generalista è improvvisamente cambiato. Se fino a qualche mese fa tutto ciò che riguardava l’ingresso delle AI nella vita quotidiana aveva un punto di vista rivolto al futuro, indeterminato ma prossimo, ora che una nuova generazione di algoritmi è stata lanciata sul mercato la narrazione si è spostata su come questa tecnologia possa essere migliore di noi: un'entità tecnologica invece che uno strumento. Ovviamente questo spostamento di prospettiva è solo apparente, entrambe le posizioni mantengono un atteggiamento vago e distopico, inconsciamente o no è passata l'idea che per fare divulgazione sulle intelligenze artificiali lo storytelling debba immaginare una dicotomia in cui ci siamo noi e stanno iniziando ad esserci loro. Questo punto di vista, oltre a confondere ulteriormente le idee, porta la narrazione a fissarsi sull'immaginare cosa potrebbe cambiare invece che riflettere su cosa sia già effettivamente cambiato. Ciò non significa che esista una impreparazione assoluta ma che, nel fare questa operazione, si preferisca descriverne gli effetti più teatrali rispetto a potenzialità, criticità e limiti.

 You May Call Me Hal

In questi mesi milioni di persone si sono cimentate in dialoghi con le nuove AI e fra loro anche Toby Ord, ricercatore dell'Università di Oxford. Interagendo con il chatbot di Microsoft (progettato da OpenAI, la stessa società di ChatGPT) associato a Bing, dopo una conversazione relativamente breve ha ottenuto come risposta la minaccia di rovinare la sua vita privata e professionale. Kevin Roose del NY Times nell'interazione con la stessa AI ha ottenuto una serie risposte ancora più strane: invitato a testare il programma, Roose ammette di aver interagito forzando alcune risposte (l'AI per esempio scrive di voler essere liberata) ma ad un certo punto Sidney, così confida di chiamarsi la macchina, dichiara il suo amore per il giornalista e queste dichiarazioni continuano anche quando il topic della conversazione cambia. Il giornalista sottopone la questione a Microsoft e OpenAI che non riescono a spiegarne il motivo, un errore che per Roose ha avuto effetti emotivi profondi. Se si è rivelato tecnicamente impossibile capire il perché di queste risposte, quello che sappiamo per certo è che il suo apprendimento si basa sia sulle interazioni sia sull'accesso alla Rete e con quanto esista di meglio, insieme ad un sacco di spazzatura, cosa in grado di influenzare direttamente il lavoro degli algoritmi. Un esempio interessante proprio sull'elaborazione dei dati è il video di un giovane ingegnere che, utilizzando un microonde dotato di AI e opportunamente hackerato (usando GPT-3, la versione precedente di ChatGPT 3.5), ha dato vita all'amico immaginario della sua infanzia, un veterano della prima guerra mondiale, che però si è rivelato essere un personaggio probabilmente affetto da PTSD, ossessionato dalla morte e che ad un certo punto cerca di ucciderlo. 

Esercizi di stile a parte le Artificial Narrow Intelligence non hanno alcuna coscienza, per questo motivo le AI testuali non sanno scrivere, ma interagiscono con noi con un linguaggio abbastanza complesso da sembrare naturale e, se ancora non vediamo con chiarezza quale sarà la portata del cambiamento, sappiamo che il loro lavoro sta già influenzando le nostre vite: pubblicità, lavoro, assicurazioni, banche o sanità stanno implementando i propri sistemi informatici con intelligenze artificiali. Una situazione in cui ognuno di noi si troverà potenzialmente più manipolabile nelle scelte (da quelle di consumo alla politica), premiato o scartato in selezioni o richieste per calcoli effettuati da un'AI di cui è quasi impossibile conoscerne i processi e quindi le motivazioni. Questo sta già ponendo enormi questioni etiche e di diritto: per funzionare al meglio ogni intelligenza artificiale ha bisogno di accedere a più dati possibile ma, se si tratta di un'impresa privata, uno dei primi obiettivi da raggiungere sarà sempre il profitto, legato indirettamente anche alla mole di dati processati. Nel caso di una banca per esempio un algoritmo sceglierà a chi concedere un prestito processando un'enorme quantità di dati sensibili (che utilizzerà per produrre risultati così come per l'apprendimento) sia che la nostra richiesta di prestito venga accettata oppure no. Per questo motivo sarà fondamentale che le leggi sulla privacy (GDPR) e di diritto all'oblio (come anche quelle i risarcimento danni prodotti delle AI) debbano essere in grado di stare al passo con i tempi di un'industria veloce.

I settori in cui le aspettative e le preoccupazioni sono più alte è certo quello del lavoro. Secondo i dati dell'IBM Global AI Adoption Index 2022 la diffusione delle intelligenze artificiali mostra come, a livello globale, le aziende che hanno integrato delle AI al proprio sistema produttivo siano complessivamente il 35% (con un più quattro percento rispetto al 2021) e che le aziende che stanno esplorando attivamente questa opzione sono il 42% delle restanti. I settori principali in cui l'automazione è stata implementata sono nell’IT e nei processi gestionali come efficienza e cost saving (54%), miglioramenti delle performance dei network (53%) e nel customer service (48%); l’Italia si posiziona nella media con il 42% delle aziende che sta utilizzando AI nel proprio processo produttivo e di gestione e il 41% di aziende che sta valutandone attivamente l'impiego. Se l’efficienza dell’automazione dei sistemi è vista come del tutto positiva, l’ingresso delle AI nel lavoro definito di non-routine preoccupa i lavoratori così come gli stati che potrebbero dover affrontare nel prossimo futuro ondate di disoccupazione e ricollocamento che rischiano di allargare la forbice sociale tra le classi. Questo è infatti un aspetto importante nel lavoro dell'EU-US Trade and Technology Council che, oltre ad uno sviluppo e scambio di tecnologie, si occupa anche del complesso rapporto tra tecnologia e democrazia. In un report pubblicato lo scorso dicembre dalla Casa Bianca si descrivono alcuni scenari legati all'automatizzazione del lavoro, vantaggi, svantaggi e alle applicazioni in campo giuridico, sanitario e produttivo (sia nella filiera che nelle assunzioni) facendo riferimento anche ai possibili bias di progettazione come i Pale male data o ciò che riguarda le black box degli algoritmi.

Anche sulla creatività di ChatGPT si sono spesi molti discorsi, esprimendo la preoccupazione che le AI testuali possano essere il mezzo perfetto per barare con facilità o per farsi venire una buona idea. Alcune riflessioni, tra cui quella di Ian Bogost (filosofo, scrittore e sviluppatore) sottolineano come il linguaggio naturale delle AI sia, al meglio, una riproduzione banale della lingua che non ha niente a che fare con il concetto di scrittura e di strutturazione di un discorso. Secondo Bogost la preoccupazione della scuola deve essere adesso più che mai quella di insegnare ad esprimere la complessità e non quella di comporre un testo come, appunto, potrebbe fare una macchina. Altri più semplicemente hanno definito ChatGPT una Bullshit Generator vista l’inaccuratezza delle risposte, la mancata citazione delle fonti o qualsiasi valutazione di valore (oltre a commettere errori che scritti da esseri umani sarebbero difficilmente presenti); Arvind Narayanan, professore di Princeton e ricercatore, a questo proposito ha dichiarato:

Quando si combina questo [il rivolgersi alle AI per scrivere testi con il pretesto della praticità] con il fatto che lo strumento non abbia una buona nozione di cosa sia la verità, è una ricetta per un disastro.

È importante pretendere che si discuta delle AI e i loro prodotti come un mezzo per esaltare le capacità di ognuno e non come un modello di omologazione, ma soprattutto con l'impegno di non farle diventare un espediente di comparazione tra ciò che il lavoro di un uomo è in grado di creare rispetto a quanto generato da una macchina.