Intelligenze artificiali | Gli impossibili, possibili6 min read

Intelligenze artificiali | Gli impossibili, possibili6 min read

Reading Time: 4 minutes

Nella primavera del 1987 Joseph Weizenbaum, pioniere dell’informatica, tiene una conferenza sull’intelligenza artificiale, esortando chi lavora con il computer (hardware o software che sia) a farsi carico degli usi possibili (e impossibili) del proprio lavoro. È un discorso di fondamentale importanza ancora oggi, anche perché potrebbe essere stato pronunciato ieri, stamattina, domani pomeriggio.

È un po’ un peccato che di Weizenbaum si parli quasi solo per Eliza, il chatbot che parodiava la conversazione con uno psicoterapeuta rogersiano; è un peccato perché mette in secondo piano le vere preoccupazioni di questo scienzato geniale, che non erano tanto la riduzione del pensiero umano a un software, ma l’uso di questo software come arma di sterminio separata dal senso di colpa di chi lo progettava. Che cosa dice Weizenbaum? E perché parla di AI e di bombe nucleari? E di comandi vocali per farle esplodere? Nel 1987? Che noi ancora oggi non riusciamo a farci capire da Alexa? Per capire, davvero, le intelligenze artificiali è necessario vederle nel loro intero excursus storico: in piena guerra fredda, figlie del paradigma culturale, sociale e scientifico della bomba nucleare e di un clima deterministico, semplicistico, polarizzato: noi e loro. Israele e Palestina. I russi e gli americani. La MAD, Mutual Assured Destruction, la «distruzione reciproca garantita».

Al cuore della nostra teoria (di Morgenstern e Von Neumann) c’era la sua dimostrazione del cosiddetto teorema del minimax: von Neumann aveva dimostrato matematicamente che nei giochi a due giocatori c’è sempre una linea di condotta razionale, purché (e qui sta l’inghippo) i loro interessi siano diametralmente opposti.
Maniac – Benjamín Labatut

L’applicazione letterale della teoria dei giochi portata avanti da John von Neumann ancora oggi ci costringe alla ricerca della simmetria perfetta di potere e forze e ha creato la società in cui viviamo, la società in cui il computer, Internet, i social media e le AI sono state studiate, progettate, realizzate e diffuse. La polarizzazione si consolida in quegli anni e il codice binario, esattamente come l’alfabeto, è un’invenzione umana messa a punto in un periodo in cui “descrivere il funzionamento del cervello” era considerata una tesina estiva.

“Proponiamo che uno studio sull’intelligenza artificiale della durata di 2 mesi e su 10 uomini venga condotto durante l’estate del 1956 al Dartmouth College di Hanover, nel New Hampshire. Lo studio dovrà procedere sulla base della congettura che ogni aspetto dell’apprendimento o qualsiasi altra caratteristica dell’intelligenza possa in linea di principio essere descritto in modo così preciso da poter costruire una macchina per simularlo. Si tenterà di scoprire come far sì che le macchine utilizzino il linguaggio, formino astrazioni e concetti, risolvano tipi di problemi ora riservati agli esseri umani e migliorino se stesse. Riteniamo che si possa ottenere un progresso significativo in uno o più di questi problemi se un gruppo di scienziati accuratamente selezionati vi lavorerà insieme per un’estate.”

I problemi di oggi – il determinismo tecnologico, la riduzione dei comportamenti umani a funzioni tecniche, la disumanizzazione di molti processi e strutture e, come già detto, la stessa polarizzazione delle idee – nascono in quegli anni e raggiungono l’apice negli anni ’80, anni in cui, secondo Ece Temelkuran, attivista turca autrice di How to lose a country,

si affermò l’ordine mondiale. Fu quando al mondo fu promesso che la democrazia, quando ci fosse stato abbastanza capitalismo, avrebbe prosperato. Con un po’ di violenza qui e molta propaganda lì, venimmo costretti ad accettare che questo era l’ordine naturale delle cose.

Questo è il contesto storico in cui Weizenbaum pronuncia il discorso a cui sto facendo riferimento, che ha un titolo da tatuarsi sulle dita: Not without us. Dove “noi” sta prima di tutto per noi informatici, noi sviluppatori, noi ingegneri. E poi per noi umani. Afferma Weizembaum, che ho avuto la fortuna di studiare pochi anni dopo

Probabilmente la vera pandemia del nostro tempo (nda: del 1987) è la convinzione quasi universalmente condivisa che l’individuo sia impotente.

Ricorda qualcosa? A me parecchie, in particolare mi fa sospettare che la continua ridicolizzazione dei contenuti pubblicati dalle persone senza mediazioni sia parte di questa pandemia, per evitare che qualcuno possa rendersi conto che invece la libertà di espressione e di pubblicazione ci rendano, tutti, un po’ più potenti di prima.

Per me è evidente che il techlash – la rivolta contro la tecnologia degli ultimi decenni è – anche – un modo per convincere le masse che sono condizionate e manovrate, togliendo loro la possibilità di usare strumenti di libera espressione e azione. Dico anche perché c’è molto altro, soprattutto nella rivolta contro gli oligopolisti del digitale, per riprendere le parole dell’Economist “to be too big, anti-competitive, addictive and destructive to democracy”, in una parola, troppo neoliberiste. Questo non toglie, però, che un individuo, oggi, ha più scelte e più potere di un secolo fa, peccato non sappia cosa farsene, anche perché gli è stato suggerito, in mille modi diversi, che quel potere è inutile, divanesco, misero, infantile. Abbiamo avvelenato i pozzi e poi ci lamentiamo di avere sete. Ma sempre un potere è, anche solo di immaginazione, che è esattamente quello che ci manca oggi. Per Weizembaum non c’era bisogno di aspettare lo sviluppo tecnologico per creare un mondo più giusto, perché quello che serve è la volontà (politica). Volontà politica e personale che, a ogni giro di giostra, a ogni innovazione tecnologica, viene spenta convincendoci degli enormi pericoli sociali di questi strumenti, che vengono forniti e, contemporaneamente, disattivati.

Tornare a scegliere

Sempre in “Not Without us” Weizembaum cita lo scrittore attivista sopravvissuto all’Olocausto Elie Wiesel, che dice:

Dobbiamo credere che l’impossibile sia possibile.

E continua spiegando che questa convinzione deve andare in due direzioni, l’inimmaginabile, come annegare a Valencia e l’incredibile, come liberarsi della schiavituù. I campi di concentramento e la sconfitta di molte malattie. La distruzione di Gaza e il vaccino contro il Covid. Tornare a scegliere vuol dire liberarsi anche, una volta per tutte, dello spettro ottimismo-pessimismo, che sono entrambi pensieri magici che portano all’inazione. Questo anche perché, nel momento in cui ce lo chiediamo, scopriamo quanto sia difficile immaginare un impossibile che cambi le cose. Ci proviamo?

Il mio impossibile, possibile: un linguaggio empatico alla portata di tutti, con naturalezza.

Davide Fracasso
Prendendo ispirazione da L’uomo planetario di Edgar Morin, un cambiamento (impossibile?) sarebbe una consapevolezza collettiva e universale che “siamo tutti sulla stessa barca.” Una società in cui ogni persona senta profondamente di appartenere a una comunità globale. Oltre i confini, oltre l’idea di noi e loro. I problemi comuni e condivisi, e così le soluzioni.

Paolo Dell’Oca
Vorrei che tutti gli esseri umani trovassero ciascuna e ciascuno la propria felicità, in armonia con l’ambiente (comprensivo di fauna) e nel rispetto dei diritti e della dignità di ciascuno e ciascuna.

Filippo Pretolani
Smettere di categorizzare le cose come possibili vs impossibili per concentrarci sull’azione