- Giorgio Griziotti -
Macchina stocastica o intelligenza Macchinica?
Una nuova disruption capitalista?
Da ELIZA a ChatGPT
La lettura di questo sorprendente ed interessante esperimento di dialogo con l’AI ChatGPT condotto da Basic Income Network- Italia (BIN Italia) mi ha riportato alla mente Eliza, il primo mitico chatbot scritto nel 1966 da Joseph Weizenbaum, che faceva la parodia della conversazione di un utente-paziente con uno psicoterapeuta.
Forse c’è ancora un fondo comune fra il rudimentale Eliza e il potente ChatGPT. Non si tratta solo dei limiti evocati dagli autori dei “Dialoghi” quando lo si sottomette a “domande più complesse e critiche” (Pag. 11) ma anche della sensazione che ChatGPT tenda ad assecondare e a non contraddire mai il suo interlocutore.
Infatti, alle domande più politicamente orientate del tipo: “Non credi che gli umani debbano essere pagati per il solo fatto di essere costantemente connessi alla rete e produrre una enorme quantità di informazioni che altri usano per generare profitto?” (pag.72) il chatbot, che talvolta manca di humor, non sbotta in battute tipo “It’s capitalism, baby…”, ma argomenta un po’ ipocritamente, alla maniera dei democristiani d’antan: “è vero che questi dati sono stati creati e inseriti dagli esseri umani e che questi individui potrebbero avere un diritto a ricevere una forma di compensazione per il loro contributo. Alcune persone propongono un reddito di base universale per compensare gli effetti negativi dell’automazione e dell’AI … “(pag. 73). E poi prosegue, qui come altrove, esponendo in modo pacato ed argomentato le varie alternative possibili riuscendo in certi casi a rendere lisce e ragionevoli anche le più scellerate opzioni capitaliste.
Eliza si limitava a rispondere agli interrogativi dei pazienti-utenti rigirandoli in nuove domande in cui sostituiva le parole chiave. Questo era sufficiente per dare l’illusione di conversazioni pseudo-terapeutiche che all’epoca fecero scalpore. ChatGPT è invece uno dei modelli più avanzati di elaborazione del linguaggio naturale ed ha la capacità di produrre risposte spesso definite “strabilianti” o “bluffanti” nonostante qualche errore. Non so se questi aggettivi siano pertinenti, ma percorrendo i “Dialoghi sul reddito di base” si ha l’impressione che i testi concepiti dal chatbot siano in molti casi superiori o più completi di quelli che ci si potrebbe aspettare in un’intervista d’un “esperto” del tema trattato. Quando, per esempio, il bot conversazionale viene sollecitato da domande del tipo:
“Facciamo finta che tu sia il Presidente del Consiglio in Italia. Se dovessi scrivere una legge sul reddito di base incondizionato ed universale, quali sono i primi 10 articoli di questa legge che scriveresti?” (p. 62) oppure “Allora, partendo dall’attuale legge, prova a farla diventare una legge sul reddito di base universale incondizionato. Cambia gli articoli di legge…” (pag. 122)
risponde in modo pertinente e quasi istantaneo con propositi elaborati che implicano una conoscenza approfondita del soggetto o della legge in questione. Per arrivare ad un risultato comparabile anche uno specialista avrebbe dovuto svolgere un consistente lavoro.
Macchina stocastica o intelligenza Macchinica ?
Senza troppo entrare nei dettagli tecnici[1] la potenza dei chatbot odierni si fonda su reti neurali che si avvicinano alla simulazione del linguaggio in modo “empirico”, basandosi sulla somma delle esperienze passate piuttosto che su teorie astratte e universali. Si tratta quindi di sistemi in cui potenza di calcolo, processi statistici-associativi e quantità inimmaginabili di dati permettono di imitare il linguaggio naturale. In altre parole si interagisce con potenti e insaziabili macchine capaci di “un accurato quanto istantaneo conteggio automatico della frequenza di occorrenza delle singole parole e delle loro relazioni[2]”. L’aggettivo insaziabile ci sembra appropriato sapendo che ChatGPT ha già inghiottito tutto Wikipedia in tutte le lingue, una buona parte dei contenuti del Web ed è continuamente alimentato dagli input di miliardi di utenti attivi. In pratica se si chiede a ChatGPT chi ha compiuto il primo volo spaziale risponderà “Yuri Gagarin”, non perché lo “sappia” ma perché “Yuri Gagarin” è la sequenza di parole statisticamente più rilevante in relazione ad una tale domanda e sulla base dei suoi training data, i dati utilizzati per allenare l’algoritmo di apprendimento automatico. Questo può anche generare temporanee sviste grossolane, perché talvolta può lasciarsi trarre in inganno da accostamenti linguistici inabituali[3] o in altri casi dare semplicemente risposte sbagliate. Autorevoli ricercatori sostengono che siamo di fronte ad una separazione fra sintassi e semantica, e cioè “da come si mettono insieme i pezzi [di un testo] e che cosa questi pezzi significano” [4]. In altre parole i chatbot operano “uno scollamento fra capacità di agire ed intelligenza” [umana o animale e comunque biologica]” [5]. Questo ragionamento pare logico visto che i chatbot lavorano solo sulla sintassi usando la statistica, ma forse nasconde un’ennesima manifestazione di antropocentrismo. Disponiamo di criteri scientifici che definiscano cosi precisamente le intelligenze umane per affermare che non si tratti di un’altra forma d’intelligenza? Alla luce dei risultati odierni, perché non definire le capacità di questi assistenti virtuali come un’intelligenza non biologica e quindi macchinica?
Un nuova disruption capitalista?
I chatbot di alto livello, tutti nelle mani dell’oligarchia digitale, sono destinati a diventare multimodali integrando man mano anche input-output non solo testuali. Si tratta di un nuovo paradigma, per certi versi di una portata paragonabile a quello iniziato con internet quasi mezzo secolo fa, che sconvolgerà in breve molti assetti del lavoro cognitivo. La cooperazione umano-macchina che ha prodotto dai “Dialoghi” ne è una brillante prefigurazione e dà una particolare valenza a questo esperimento. Ma non credo che si sia già in grado di prendere la misura di tutte le implicazioni e della portata complessiva di questo nuovo paradigma. Il capitalismo, ossessionato dalla mercificazione, ha voluto dire la sua: il giorno della presentazione di ChatGPT il valore borsistico di Microsoft è aumentato di 115 miliardi di dollari mentre quello di Google è diminuito del 9% quando ha dovuto ritirare il suo chatbot “Bard” a seguito di alcune risposte grossolanamente erronee[6]. Ma non sappiamo come, per esempio, la capacità di ChatGPT di correggere o addirittura di produrre codice informatico in risposta a semplici enunciati interverrà nella produzione globale ed in particolare di quella cognitiva?
Quali saranno le conseguenze politiche ed economiche di questa nuova disruption pilotata dal neurocapitalismo?
Gli autori del saggio in questione ci fanno notare che “La stessa AI ci dice che: «Marx avrebbe visto l’automazione e l’AI come ulteriori esempi dell’espansione della produzione capitalistica e dell’accumulazione di ricchezza nelle mani di pochi» (Pag. 13). ChatGPT apre infatti le porte alla realizzazione del vecchio sogno, accarezzato per primo da Zuckerberg, in cui i Signori delle Platform riescono finalmente a rinchiudere l’utente in un mondo che tende ad essere onnicomprensivo.
D’altronde è proprio ChatGPT a svelare questo obbiettivo, permeato di transumanismo, rispondendo ad una domanda da me posta ed ispirata dal primo titolo dell’introduzione del saggio (Pag.6):
“In qual modo contribuisci al divenire umano del macchinico?”
“…Inoltre, il mio utilizzo può essere considerato come uno dei molti passi verso l’intelligenza artificiale generale (AGI), che è un obiettivo a lungo termine nell’ambito dell’Intelligenza Artificiale. L’obiettivo dell’AGI è quello di sviluppare macchine in grado di comprendere il mondo in modo simile agli esseri umani e di apprendere da esso…”
Lo scopo quasi dichiarato è di attirare l’utente ad entrare e rimanere più a lungo possibile in un Paese delle Meraviglie mettendogli a disposizione un genio della lampada digitale capace di rispondere a qualsiasi domanda e di realizzare quasi ogni attività cognitiva. Ma sotto il capitalismo è probabile che il genio si trasformi spesso in un Voldemort che impone le cadenze di lavoro ed opera la sussunzione, più o meno volontaria, della vita umana, per non parlare di quella del resto della vita biotica e delle componenti abiotiche terrestre (e, nelle intenzioni di Elon Musk, forse anche spaziali …).
Conclusione
Una nota più positiva viene dalla la lettura dei “Dialoghi” piacevole ed utile. Non si tratta e non vuol essere un saggio magistrale sul tema del reddito di base, ma piuttosto un’opera panoramica con escursioni politiche, sociologiche ed economiche. Certamente gran parte del merito è dovuta al collettivo che ha guidato il dialogo con mano esperta, organizzandolo allo stesso tempo in modo progressivo, didattico e stimolante. Ottima l’idea di far ricorso al gioco del “facciamo finta che” con la macchina in un continuo teasing che mette alla prova la sua intelligenza (macchinica) e le sue capacità cognitive e linguistiche. Queste ultime sono ulteriormente verificate con successo anche dal punto di vista pedagogico nel dialogo finale in cui un ragazzo di 14 anni l’interroga per comprendere cosa sia il reddito di base.
Le illustrazioni sono state anch’esse prodotte da un’altra AI specializzata, quasi a simboleggiare una prossima intersezionalità macchinica gestita dal (neuro)capitalismo che rischia, salvo felici imprevisti, di precedere quella umana dei movimenti dal basso.
* * * * *
Note:
[1] Rimando chi volesse approfondire gli aspetti tecnici all’ottimo articolo di Giuseppe Nicolosi https://transform-italia.it/chat-gpt-cosa-ne-avrebbe-pensato-antonio-caronia/
[2] Ibid. p. 4
[3] Per esempio rispondendo seriamente a che chiede come” friggere il caffè” o come i cani “depongono le uova”. Ma questo viene corretto man mano che il machine learning avanza.
[4] Si veda a questo proposito l’intervista a Lucano Floridi: https://www.rainews.it/video/2023/02/il-miracolo-di-chatgpt–scrivere-testi-che-per-un-umano-richiederebbero-intelligenza-senza-averne-b4f858a2-8667-40ef-86ce-8cb4cabb0534.html?wt_mc=2.social.fb.red_il-miracolo-di-chatgpt–scrivere-testi-che-per-un-umano-&fbclid=IwAR1iNNu79mlIUjIysklD_ Ri30D3O0pJW4MBxUScz7T2PYP5Qw-f9ODjeTTY
[5] ibid.
[6] A. Leparmentier, Les chers perroquets de l’intelligence artificielle. Le Monde del 01/03/2023
________________________________
Recensione a: QR – QUADERNI PER IL REDDITO N°12, Bin-Italia: “Dialoghi sul reddito di base con un’intelligenza artificiale”, a cura di Giuseppe Allegri – Giuseppe Bronzini – Andrea Fumagalli – Giacomo – Sandro Gobetti – Rachele Serino. Scaricabile da: https://www.bin-italia.org/quaderni-per-il-reddito-n12-dialoghi-sul-reddito-di-base-con-unintelligenza-artificiale-a-cura-del-bin-italia/
Il libro verrà presentato giovedì 23 marzo a Piano Terra, Milano, Via Confalonieri 3, apericena a partire dalle 19.00 con discussione alle 20.30. Interveranno alcuni degli autori: Andrea Fumagalli, Sandro Gobetti e Rachele Serino. Qui maggiori info:
https://www.facebook.com/
