L’altra faccia dell’algoritmo

di Stefano Moriggi

La profezia del Daily Me e la lezione del prof. Sunstein

C’era una volta il Daily Me… Ve lo ricordate? A dire il vero non c’è mai stato, anche se oggi qualcosa del genere esiste. Alt! Mi rendo conto che questo inizio potrebbe risultare enigmatico a quanti non abbiano avuto l’opportunità o la passione di seguire da vicino (o addirittura dall’interno) l’evoluzione di quelle tecnologie di cui negli ultimi decenni siamo diventati utenti cronici, scambiando e concedendo (a volte oltre la soglia della consapevolezza) informazioni e dati di natura pubblica e privata. Ma rimediamo all’istante, raccontando in poche righe l’intuizione di uno studioso che, una volta formulata, generò probabilmente più incredulità che preoccupazione. Quanto meno su larga scala.

Nel 1995, Nicholas Negroponte – esperto di tecnologia del Massachusetts Institute of Technology (MIT) di Boston – profetizzò, appunto, l’incombere del sopra citato Daily Me. A cosa si riferiva lo studioso americano? Alludeva al fatto che di lì a poco le tecnologie avrebbero sostanzialmente consentito a ciascun utente di confezionare il proprio quotidiano. Cercando e selezionando in rete sulla base dei propri interessi, delle proprie curiosità, dei propri passatempi piuttosto che dei propri orientamenti politici o religiosi, ogni fruitore della rete sarebbe stato in grado di “costruirsi” la propria informazione in un bacino di dati e notizie – quello digitale – sempre più vasto, sempre più ricco.
Credo bastino questi pochi cenni sulla visione di Negroponte per consentire a ognuno di riconoscervi qualcosa di familiare. Per certi versi la realtà è andata anche oltre l’immaginazione, seppur di un “addetto ai lavori”. A ben vedere, infatti, non dobbiamo nemmeno impegnarci nel rintracciare on line aggiornamenti e approfondimenti che intercettino i nostri desiderata, perché ormai le “macchine” lo fanno per noi – e, da molti punti di vista, anche meglio di noi.

Mi riferisco, ovviamente agli algoritmi. Ormai ne parlano tutti, ma pochi sanno davvero di che si tratta. In breve e senza scivolare in qualche impermeabile tecnicismo logico-matematico, ce la si potrebbe cavare con la rigorosa eleganza di Paolo Zellini, dicendo che, alla fine dei conti, l’algoritmo può essere descritto nei termini di “una sequenza di operazioni che deve soddisfare almeno due requisiti: a ogni passo della sequenza è già deciso, in modo deterministico, quale sarà il passo successivo; e la sequenza deve essere effettiva, cioè deve tendere a un risultato concreto, reale e virtualmente utile” (La dittatura del calcolo, Adelphi).

A questo tipo di processo va inoltre riconosciuta una sua “fisicità”: nel senso che richiede un certo tempo di esecuzione e occupa un certo spazio nella memoria del computer e costituisce un potenziamento, oltre che una protesi, della nostra capacità decisionale. La loro capacità di processare dati, incomparabilmente superiore a quella umana, da un lato – spiega ancora Zellini – “costituisce uno strumento utile alla società”; dall’altro, però, “rappresenta un rischio di sbilanciamento nel delicato rapporto tra categoricità e spontaneità, fra l’estranea imperiosità del meccanismo e la libertà della coscienza”.

In che senso? Torniamo al Daily Me… o meglio, a ciò che di tale profezia si sta verificando. Cass R. Sunstein in una sua recente fatica – #republic. La democrazia all’epoca dei social media (il Mulino) – fa notare ai suoi lettori che, per esempio, “Facebook conosce probabilmente le vostre convinzioni politiche… e suddivide i suoi utenti in categorie: fortemente conservatori, conservatori, moderati, liberal e fortemente liberal. E lo fa sulla base delle pagine che vi piacciono”. Ovvero, attraverso un algoritmo che analizza e categorizza le tracce lasciate dalle vostre visite o dai vostri like. In quest’ottica, prosegue Sunstein, “l’apprendimento automatico [leggi l’algoritmo] può essere utilizzato […] per creare distinzioni estremamente sottili” nella profilazione dei gusti e degli orientamenti degli utenti. Per cui proporre a ciascuno la tipologia di notizie o di informazioni gradite diventa un gioco da ragazzi nell’epoca del machine learning, ovvero delle “macchine in grado di imparare”.

Qualcuno potrebbe osservare – e non senza una qualche ragione – che tali dinamiche costituiscono anche un grande vantaggio per tutti noi. Dopotutto, come ha notato Mario Pireddu nel suo Algoritmi. Il software culturale che regge le nostre vite (Sossella Editore), “gli algoritmi si occupano di fornire rapidamente suggerimenti personalizzati a partire da milioni di prodotti disponibili”. Infatti, “grazie agli algoritmi chi, per esempio, fa acquisti on line scopre e acquista frequentemente prodotti nuovi e diversi rispetto a quelli che stava cercando, e questo sistema vale per la maggior parte dei siti e dei servizi che utilizziamo quotidianamente, anche quando non comportano l’acquisto diretto.” Basti pensare, a tal proposito ai video consigliati da YouTube.

In altre parole, gli algoritmi realizzano per noi – e meglio di quanto noi saremmo in grado di fare – il nostro Daily Me, proponendoci prodotti e informazioni di nostro gusto e interesse che, da soli, nel mare magnum della rete e delle sue offerte, con molta più difficoltà (e con molto più tempo) riusciremmo a scovare ed eventualmente ad acquistare. Una comodità, dopotutto. Ma in cambio di che cosa?
A prima vista, sembrerebbe che il prezzo di tale “servizio” consisterebbe nella concessione (non sempre consapevole) da parte dell’utente di una serie di informazioni su di sé a tutti i siti, le piattaforme e i social media che frequenta. Informazioni che – come si diceva – una volta processate, diventano i dati sulla base dei quali gli algoritmi calibrano con precisione sartoriale suggerimenti di acquisti piuttosto che proposte di contenuti o selezioni di notizie per questo o per quell’utente.

E questo prezzo siamo dunque disposti a pagarlo? Se ci limitassimo a osservare la disinvoltura, talvolta irresponsabile, con cui molti adulti si muovono on line, sembrerebbe di sì. A fronte di una ostentata diffidenza psicologica nei confronti dei device digitali, la realtà delle ricerche mostra invece il dilagare di un utilizzo incauto della rete, specie da parte degli adulti. Che diventa ancora più preoccupante quando si riflette sul fatto che molta della “maleducazione digitale” dei più piccoli (e dei più giovani) deriva proprio dai loro primi modelli, i genitori appunto…

Ma forse c’è anche dell’altro. Cosa avrebbero a che fare tutti questi ragionamenti con la “libertà di coscienza” a cui faceva cenno Paolo Zellini nel brano del suo libro sopra citato? Dopotutto, le “macchine” sembrerebbero aiutarci a scegliere e selezionare quello che ci piace e ci interessa in tempi e modi che vanno oltre le nostre capacità. E in questo senso parrebbero potenziare la nostra libertà di scelta.

Ecco, questo è il punto: la libertà di scelta. È proprio su tale concetto che Cass R. Sunstein ci invita a riflettere. Non vi è dubbio – spiega lo studioso della Harward Law School – che “la censura sia in effetti la minaccia più grave per la democrazia e la libertà. Ma – insiste Cass – concentrandosi esclusivamente sulla censura si perdono di vista alcuni altri aspetti” che un sistema di libera espressione ben funzionante dovrebbe soddisfare.

Analizzando infatti il crescente potere da parte dei singoli di filtrare dati e informazioni on line, e con esso anche la progressiva capacità da parte dei provider di assecondare ciascuno degli utenti sulla base di quello che su di loro hanno appreso, Sunstein cerca di mettere in guardia i suoi lettori rispetto a criticità più connesse all’incremento della libertà di scelta che non alla sua limitazione.

Ragionando in positivo, il giurista statunitense afferma che “in una democrazia che meriti tale appellativo, le vite – comprese quelle digitali – debbono essere strutturate in modo che le persone si imbattano spesso in prospettive o temi che non hanno selezionato”. Non a una norma allude Sunstein, ma ad un orizzonte educativo e un progetto di cittadinanza compatibili con un modello effettivamente democratico. Un modello (quello democratico) che, per reggere, deve anche fare i conti con la diffusa “tendenza all’omofilia” – ovvero, con la propensione di molti a chiudersi in orizzonti di dati, informazioni, prodotti e di altri individui che di fatto non prevedono (e talvolta escludono) un’esperienza o una proposta alternativa e diversa.

“Un mondo di scelte illimitate – prosegue Sunstein – è incomparabilmente migliore. Ma se gli individui con le stesse idee si rinchiudono in comunità autoreferenziali è a rischio la loro stessa libertà. Essi finiscono per vivere in prigioni da loro stessi progettate”. Un po’ come accade al protagonista del racconto berlinese di Kafka, La tana (1923).
Più semplicemente, un potenziamento degli strumenti di scelta e un aumento delle offerte (in contesti digitali, ma non solo) non costituiscono di per sé un corrispettivo incremento del grado di libertà degli individui. Al contrario, in assenza dell’opportunità e della capacità di fare esperienza dell’altro e del diverso, il rischio comune e diffuso è quello di veder collassare quella che sir Karl Popper avrebbe chiamato una open society in un agglomerato di echo chambers (camere di risonanza) – ossia di contesti autocentrati in cui il confronto con la diversità (che costituisce la base dell’esperienza educativa e della prassi democratica) rischia di venir meno proprio in parallelo a un incremento (digitale o meno) della libertà di scelta.

Ancora una volta una riflessione sulle tecnologie, se condotta in termini culturali e non meramente tecnici, rappresenta un’occasione per riflettere su noi stessi, sulle nostre facoltà e inclinazioni. Nel caso in oggetto, il potenziamento digitale dei nostri orizzonti di scelta ci impone di tornare a considerare l’importanza di “porre gli esseri umani in contatto con persone diverse da loro, e con modi di pensare e di agire differenti da quelli che sono loro familiari. […] Tali comunicazioni sono sempre state, e ora lo sono particolarmente, una delle massime fonti del progresso”. Così scriveva il filosofo John Stuart Mill nella Londra turbolenta del 1848. Più di un secolo e mezzo prima che il Daily Me diventasse realtà…