«Cosa accade quando una società deve prendere decisioni su problemi che sono più complessi degli strumenti abitualmente usati per discuterne?»
La questione diventa particolarmente importante quando guardiamo all'Intelligenza Artificiale.
Da una parte, viene raccontato che l'A.I. cambierà radicalmente il nostro modo di lavorare, studiare, comunicare e prendere decisioni; dall'altra, quando emergono rischi e paure, il dibattito tende rapidamente a trasformarsi in una contrapposizione:
A.I. buona o A.I. cattiva, progresso o minaccia, libertà o controllo, tecnologia o "umanità".
A mio parere qui vale la pena fermarsi, perché forse il problema non è soltanto: (a) «che cosa farà l'Intelligenza Artificiale», ma anche (b) «quanto siamo capaci di comprendere sistemi complessi senza ridurli a una "storia semplice"».
Il secondo punto riporta direttamente al tema delle bolle informative.

Quando un problema diventa troppo complesso, la mente cerca una storia semplice
Immaginiamo di dover spiegare un fenomeno complesso a qualcuno.

• Possiamo dire: «Ci sono molte variabili, alcune sono osservabili, altre no; le interazioni producono effetti non lineari (si verificano quando le relazioni tra 'cause-ingresso' ed 'effetti-uscita' non sono di tipo proporzionale) e quindi non è possibile conoscere con certezza l'evoluzione di un sistema».
• Oppure possiamo dire: «La colpa è di 'X'».

La seconda spiegazione è certamente più facile da comprendere: ha un responsabile, una causa, magari anche una soluzione. Il problema è che la realtà non sempre funziona così:
un sistema complesso può contenere moltissimi elementi che interagiscono tra loro, producendo comportamenti che non sono facilmente riconducibili al singolo elemento che li compone.
Un traffico urbano, un ecosistema, un mercato finanziario, una rete elettrica, Internet, una società e una rete di sistemi di Intelligenza Artificiale sono esempi, pur molto diversi fra loro, nei quali il comportamento complessivo dipende dalle interazioni.
In questi sistemi può accadere qualcosa di importante:
conoscere bene le singole parti non implica conoscere il comportamento dell'insieme.
È uno dei passaggi fondamentali dal pensiero lineare al pensiero sistemico.

Il paradosso dell'era dell'informazione
Viviamo in un'epoca nella quale disponiamo di una quantità di informazioni mai vista prima, eppure questa enorme disponibilità non garantisce affatto una maggiore comprensione.
Anzi, può accadere il contrario: più informazioni riceviamo, più diventa importante saper distinguere informazione da rumore (segnale non desiderato, casuale o di disturbo) 'fatto' da 'interpretazione', 'evidenza' da 'opinione', 'spiegazione' da 'narrazione', 'complessità reale' da 'falsa complessità costruita artificialmente'.
Questo introduce un paradosso:
«possedere più informazioni non significa necessariamente conoscere meglio la realtà»:
un individuo può essere letteralmente immerso nelle informazioni e, nello stesso tempo, vivere in un universo informativo estremamente ristretto. È il mondo della cosiddetta bolla informativa.

'Echo chamber' e 'filter bubble' non sono esattamente la stessa cosa
I due concetti vengono spesso utilizzati come sinonimi, ma è utile distinguerli.

• Una echo chamber, o “camera dell'eco”, è soprattutto un ambiente sociale nel quale le persone tendono a incontrare, ascoltare e rilanciare opinioni provenienti da persone nelle quali già ripongono fiducia.
• Una filter bubble, invece, riguarda maggiormente il modo in cui sistemi di personalizzazione e raccomandazione selezionano i contenuti che ciascun individuo vede.

Nel primo caso il problema è soprattutto sociale e relazionale, nel secondo è soprattutto tecnologico e algoritmico. Nella realtà, le due dinamiche possono alimentarsi reciprocamente.

• Ad esempio, si scelgono più facilmente persone che condividono le proprie idee. La piattaforma "osserva" ciò che più interessa e tende a proporre contenuti compatibili con il  comportamento dell'Utente $→$ Si reagisce a quei contenuti $→$ La piattaforma registra nuovamente la reazione $→$ Il processo continua ...

Non è quindi necessario immaginare un algoritmo che ci “rinchiuda” deliberatamente in una bolla, è sufficiente un meccanismo di selezione ripetuta - combinato con le nostre preferenze, le nostre abitudini e le nostre reazioni emotive.
La bolla può diventare così una proprietà emergente dell'interazione tra esseri umani e tecnologia.

La matematica può descrivere la polarizzazione
La polarizzazione non è soltanto una metafora giornalistica. Da diversi anni esistono modelli matematici di 'opinion dynamics' (campo di studio interdisciplinare che analizza come le convinzioni, le idee e i comportamenti si diffondono, cambiano o si stabilizzano all'interno di un gruppo sociale), cioè modelli che cercano di descrivere come cambiano le opinioni degli individui quando questi interagiscono all'interno di una rete.
Uno dei risultati più interessanti è che, partendo da una popolazione nella quale le opinioni sono inizialmente distribuite, il sistema può evolvere verso situazioni molto differenti: consenso, polarizzazione oppure frammentazione.
L'idea di fondo è intuitiva: immaginiamo che ogni persona abbia un'opinione rappresentabile su una scala. Due persone discutono e possono modificare la propria opinione, ma soltanto quando la distanza tra le rispettive posizioni non è troppo grande; esiste cioè una sorta di soglia di tolleranza.

• Se la differenza è piccola: “Non la pensiamo proprio allo stesso modo, ma possiamo parlarne”
  
• Se la differenza supera la soglia: “Non ha senso parlare con te”

Se molte persone smettono progressivamente di comunicare con chi ha opinioni troppo distanti, la rete sociale tende a suddividersi in gruppi.
Possono comparire 'cluster' (aggregati socio-informativi) relativamente omogenei.

Quando la rete diventa un insieme di tribù
La teoria delle reti offre un modo ancora più intuitivo per rappresentare questo fenomeno: immaginiamo milioni di persone come altrettanti nodi; con i collegamenti fra nodi che rappresentano relazioni, amicizie, scambi informativi o fiducia.
In una rete aperta esistono molti collegamenti anche fra persone differenti, ma se i collegamenti tra persone diverse diminuiscono e quelli interni ai gruppi aumentano, la rete comincia a separarsi ...
Dentro ciascun gruppo le informazioni circolano rapidamente; tra i gruppi, invece, circolano sempre meno. La rete diventa quindi più densa all'interno e più debole verso l'esterno.
Questa struttura può produrre un effetto psicologicamente molto potente: la percezione che “tutti la pensino come me”.
La bolla non è soltanto informativa: è psicologica

A questo punto il problema diventa ancora più interessante:
«perché una persona dovrebbe voler rimanere in una bolla?»
Una possibile risposta è sorprendentemente umana:   «perché la bolla è rassicurante».
La realtà è ambigua:

• le questioni importanti raramente possiedono una sola causa; le decisioni producono spesso conseguenze inattese; le informazioni possono essere incomplete; gli esperti possono essere in disaccordo; le probabilità possono sostituire le certezze.

Tutto questo ha un costo cognitivo: il cervello preferisce spesso una spiegazione che riduca l'incertezza. È il terreno nel quale entra in gioco il bisogno di chiusura cognitiva, la tendenza a preferire una risposta sufficientemente chiara e definitiva rispetto a una situazione ambigua che richiede ulteriore elaborazione.
La bolla fornisce esattamente questo: offre spiegazioni già confezionate, magari non vere, ma psicologicamente soddisfacenti.

Quando un'opinione diventa parte dell'identità
Un'opinione può smettere di essere semplicemente un'opinione e diventare una parte dell'identità sociale.

• Non dico più soltanto: “Credo che questa posizione sia corretta” Comincio a dire: “Io sono uno di quelli che la pensano così.”

È una differenza enorme: perché cambiare idea - a quel punto - non significa più soltanto modificare una convinzione, ma (può significare) mettere in discussione la propria appartenenza.

Il paradosso della smentita
Che cosa succede quando una persona immersa in una bolla riceve un'informazione che contraddice ciò in cui crede?

• La risposta non è, di solito: “Interessante, forse devo cambiare idea”;
• Può essere: “Questa informazione dimostra quanto siano manipolatori quelli dell'altra parte”.

La contraddizione viene quindi reinterpretata come una conferma.
Occorre però evitare una semplificazione: non tutte le persone reagiscono nello stesso modo e non ogni correzione provoca un irrigidimento.
La psicologia della persuasione è molto più complessa.
Il principio generale rimane tuttavia importante: la qualità dell'informazione non è sufficiente, da sola, a garantire che essa venga accettata.

Discernere prima di reagire
C'è una competenza ancora più profonda della semplice capacità di riconoscere una notizia falsa o distinguere un fatto da un'opinione: imparare a discernere: significa fermarsi, prima di reagire, cercando di capire «cosa sta accadendo dentro di noi». Perché davanti a un'informazione possiamo provare entusiasmo, paura, indignazione, sollievo, rabbia, entusiasmo oppure un'immediata sensazione di appartenenza.
Ma il fatto che una reazione sia intensa non è scontato che sia affidabile.
Poniamoci allora alcune semplici domande:

• «Questa informazione mi sta rendendo più curioso o più aggressivo?»
• «Mi sta aiutando a comprendere o mi sta spingendo a giudicare immediatamente?»
• «Mi sta aprendo al confronto o mi sta facendo chiudere nella mia posizione?»
• «Sto cercando di capire o soltanto di avere ragione?»

Il discernimento introduce così una piccola e decisiva pausa fra stimolo e risposta; in quella pausa osserviamo anche la direzione verso cui un certo pensiero sta conducendo:

• una convinzione può infatti dare sicurezza e, nello stesso tempo, renderci meno disponibili ad ascoltare;
• una notizia può indignare e, nello stesso tempo, spingerci a cercare maggiormente la verità;
• un dubbio può inquietare e, nello stesso tempo, rappresentare l'inizio di una comprensione più profonda.

Per questo, discernere non significa eliminare le emozioni, né pretendere di ragionare come macchine, ma imparare ad ascoltare ciò che accade dentro di noi senza esserne immediatamente governati. È una capacità preziosa nell'ambiente digitale, dove ogni secondo trascorso prima di cliccare, condividere o reagire può fare la differenza.
Dunque, uscire da una bolla non significa soltanto incontrare informazioni diverse, ma anche diventare capaci di «riconoscere il movimento interiore che ci porta ad accettare alcune informazioni e a respingerne altre».
Questa capacità, prima ancora di essere tecnologica o politica, è una forma di 'educazione alla libertà'.

Qui torna in gioco l'Intelligenza Artificiale
Tornando alla domanda iniziale «l'A.I. aggiunge un livello ulteriore di complessità?», non abbiamo più soltanto esseri umani che comunicano con altri esseri umani; ma anche esseri umani che comunicano attraverso sistemi algoritmici programmati per selezionare informazioni, apprendere dai comportamenti degli Utenti; sistemi A.I. capaci di produrre nuovi contenuti e interagire autonomamente con altri sistemi.
$⇒$  La rete diventa quindi sempre più ibrida ...

Il CONTROLLO non è una parola semplice
Quando diciamo “Dobbiamo controllare l'A.I.”, stiamo utilizzando una frase solo apparentemente chiara.  Ma cosa significa esattamente “controllare”?

• Significa impedire che faccia determinate cose? Prevedere sempre ciò che farà? Verificare che rispetti una regola? Dimostrare matematicamente che non potrà mai produrre un certo comportamento? Oppure predisporre meccanismi che limitino i danni quando il comportamento non previsto si verifica?

Sono problemi molto diversi.

• Una macchina isolata può essere relativamente facile da controllare; un sistema composto da milioni di elementi interconnessi, che interagiscono reciprocamente e modificano il proprio comportamento sulla base dell'ambiente, è un'altra cosa. In un sistema del genere il problema non è detto sia un “algoritmo impazzito”, ma l'emergere di un comportamento che nessun attore singolo aveva previsto.

Dove entra la complessità computazionale
A questo punto ritengo utile introdurre, senza tecnicismi eccessivi, il concetto di complessità computazionale. Non tutti i problemi hanno lo stesso costo di calcolo: alcuni possono essere risolti rapidamente anche quando le dimensioni dell'input (dati in ingresso) diventano molto grandi, altri diventano rapidamente difficili. Nella teoria della computazione esistono 'classi di problemi', ad es. quelli NP-hard, per i quali trovare una soluzione efficiente è considerato computazionalmente difficile in senso molto preciso.
Ciò non significa che “ogni sistema di A.I. è NP-hard”, né che “qualsiasi comportamento di una rete di A.I. richieda necessariamente un tempo esponenziale per essere previsto”. Sarebbe una semplificazione scorretta. Il punto è un altro: esistono problemi nei quali l'aumento delle variabili e delle interazioni può rendere rapidamente impraticabile la ricerca di una soluzione o la verifica di tutte le possibilità.
Esistono inoltre risultati ancora più radicali nella teoria della computazione, come l'indecidibilità del problema della fermata, che mostrano come per una vasta classe di programmi non esista un algoritmo generale capace di determinare sempre in anticipo se termineranno oppure continueranno indefinitamente.
Non è una dimostrazione del fatto che una futura A.I. sarà “incontrollabile”, ma qualcosa di più "sobrio" e, proprio per questo, più interessante:
la matematica ci ricorda che esistono limiti fondamentali a ciò che possiamo prevedere e verificare tramite procedure automatiche.

Una lezione importante: il problema non è soltanto politico
Davanti a una tecnologia potenzialmente rischiosa pensiamo naturalmente alla regolamentazione:

• «quali regole dobbiamo approvare? Quali comportamenti dobbiamo proibire? Quali controlli dobbiamo imporre? Chi deve vigilare?»

Sono domande indispensabili, ma non credo sufficienti.
Una legge può stabilire ciò che dovrebbe accadere, non può garantire da sola che un sistema estremamente complesso sia completamente prevedibile.
Un 'audit' può verificare un sistema rispetto ai criteri previsti, ma anche un sistema perfettamente conforme ai requisiti noti può trovarsi in condizioni che non erano state previste.
Da qui nasce una conclusione importante:
la 'governance' della tecnologia non può essere soltanto una questione giuridica, deve comprenderne anche una epistemologica, scientifica e sistemica.

La vera difficoltà potrebbe essere la nostra capacità di discuterne
Supponiamo di avere davanti un problema tecnologico estremamente complesso. Per affrontarlo servirebbero competenze diverse: informatica, matematica, psicologia, sociologia, economia, filosofia, diritto, politica.
Purtroppo il sistema informativo nel quale questo problema viene discusso tende solitamente a ridurre le questioni a slogan, premiando le reazioni emotive, privilegiando il conflitto, separando il pubblico in comunità e comprimendo problemi enormi in pochi secondi di attenzione. Si produce allora una situazione paradossale:
più il problema richiede capacità di ragionamento sistemico, più l'ambiente informativo tende a premiare il "ragionamento semplificato".

Dal “chi ha ragione?” al “come funziona il sistema?” 
Una discussione polarizzata tende a formulare domande come:
“Chi ha ragione?”, “Da che parte stai?”, “Chi è il buono?”, “Chi è il cattivo?”
Il pensiero sistemico propone domande differenti:

• "Quali sono gli elementi del sistema?"
• "Come interagiscono?"
• "Quali sono i meccanismi di retroazione?"
• "Che cosa succede quando cambia una variabile?"
• "Quali conseguenze inattese possono emergere?"
• "Quali sono i limiti della nostra capacità di previsione?

Nel primo caso cerchiamo un vincitore, nel secondo cerchiamo di capire il sistema.

Come si entra in una bolla senza farla diventare più resistente?
Immaginiamo di incontrare sui 'Social' una persona fermamente convinta che:

• «l'A.I. è una follia e deve essere vietata prima che distrugga tutto»

La risposta spontanea potrebbe essere:

• «Ti sbagli, non hai capito come funziona l'A.I.»

È probabilmente la risposta meno efficace.
Una strategia più intelligente consiste nel partire da ciò che condividiamo:

• «La preoccupazione per la sicurezza è assolutamente comprensibile».

Poi introduciamo una distinzione:

• «Il problema, però, potrebbe essere più complesso di quanto sembri: non riguarda soltanto un algoritmo che potrebbe “impazzire”, ma un sistema nel quale moltissime componenti interagiscono e nel quale nessuno può avere un controllo totale»

Infine, possiamo offrire una spiegazione:

• «È per questo che entrano in gioco la teoria dei sistemi, la complessità computazionale e lo studio delle dinamiche di rete».

La regola può essere sintetizzata così: duri con i fatti, morbidi con le persone.

La Scuola dovrebbe insegnare anche a non avere subito una risposta
Questa riflessione conduce inevitabilmente all'Educazione.
Un giovane dovrebbe imparare a riconoscere la differenza fra “Non conosco la risposta” e “Non esiste una risposta semplice a questa domanda”.
Saper dire

• «“Non lo so”, “Non abbiamo dati sufficienti”, “Dipende dalle condizioni”, “Esistono più scenari possibili” o “Questa conclusione è plausibile, ma non certa”»

dovrebbe essere considerato non un segno di debolezza, ma una componente fondamentale del pensiero critico.

Imparare a cambiare idea senza sentirsi sconfitti
Un'altra competenza educativa fondamentale potrebbe essere questa:
«imparare a separare l'errore dall'identità personale».

• Un ragazzo che pensa “Se cambio idea significa che ho perso” sarà naturalmente portato a difendere la propria posizione.
• Un ragazzo che pensa “Se cambiare idea significa che ho imparato qualcosa, allora posso permettermelo” è molto più libero.

La scienza funziona esattamente così: una teoria viene formulata, messa alla prova, confermata, modificata o smentita.
$⇒$ L'errore non è l'opposto dell'apprendimento, fa parte dell'apprendimento.

Un esercizio semplice: 'difendere l'opinione opposta'
Si prende un argomento polarizzante:
“L'Intelligenza Artificiale dovrebbe essere fermata dai governi”
Gli studenti vengono divisi in due gruppi. Ma con una regola: ciascun gruppo deve difendere la posizione opposta a quella che sostiene personalmente.
L'obiettivo non è vincere, è comprendere.
L'esercizio rompe, almeno temporaneamente, il legame fra opinione e identità costringendo la mente ad entrare nell'argomentazione dell'altro senza per forza adottarla.

Un secondo esercizio: 'confrontare due bolle'
Prendiamo due persone con posizioni molto differenti su un determinato tema. Chiediamo a ciascuna di annotare quali informazioni riceve più frequentemente, quali fonti considera affidabili, quali argomenti ritiene assurdi, quali figure considera autorevoli e quali parole suscitano immediatamente una reazione emotiva; poi confrontiamo i risultati.
Il punto non è stabilire chi abbia ragione, è osservare quanto diversi possano essere i mondi informativi nei quali vivono due persone che, in realtà, condividono lo stesso spazio fisico e sociale.

La vera alfabetizzazione digitale potrebbe essere qualcosa di più
Dire ai giovani “Attenzione alle fake news” non è sufficiente.
La competenza digitale del futuro dovrebbe comprendere almeno quattro domande:

• «Chi mi sta parlando?»
• «Perché mi sta mostrando proprio questo contenuto?»
• «Quale meccanismo decide ciò che vedo dopo?»
• «Che cosa non sto vedendo?»

Quest'ultima domanda è forse la più difficile, perché è molto semplice verificare un'informazione che abbiamo ricevuto.
È molto più difficile accorgersi di un'informazione che non ci è mai stata mostrata.

Dalla bolla informativa alla “bolla cognitiva”
La bolla informativa nasce nell'ambiente esterno, ma - con il tempo - può diventare una bolla cognitiva. Quando una persona riceve continuamente informazioni compatibili con le proprie convinzioni, quelle informazioni finiscono per modificare anche il modo nel quale interpreta ciò che accade.
Non è più necessario:

• che qualcuno dica: “Questo contenuto è falso”, la mente può semplicemente smettere di considerarlo plausibile;
• censurare una posizione, può bastare renderla invisibile;
•  impedire una domanda, può bastare fare in modo che nessuno la ponga.

È qui che la polarizzazione informativa diventa anche un problema epistemologico (questione che riguarda la natura, la validità, i limiti e i metodi della conoscenza, in particolare di quella scientifica): non riguarda soltanto ciò che pensiamo, ma ciò che siamo ancora capaci di pensare.

La sfida più importante dell'Intelligenza Artificiale
Il rischio dell'Intelligenza Artificiale non dovrebbe essere immaginato soltanto attraverso scenari spettacolari, ad esempio "macchine che improvvisamente decidono di distruggere l'umanità", poiché abbiamo una questione più sottile:
potremmo costruire sistemi sempre più potenti all'interno di una società sempre meno capace di discutere razionalmente i loro effetti.

• Una società polarizzata può avere enormi difficoltà a costruire una risposta comune, anche di fronte a un pericolo reale.
• Una società incapace di tollerare l'incertezza può pretendere risposte semplici a problemi che non le possiedono.
• Una società che trasforma ogni questione in una guerra fra fazioni può arrivare a considerare il proprio interlocutore più pericoloso del problema che sta cercando di affrontare.

... E una società che non comprende la complessità può facilmente confondere «controllare» con «credere (illudersi) di controllare».

La domanda da cui ripartire
Quindi, forse, la domanda più utile non è:

• «Come impediremo all'Intelligenza Artificiale di sfuggire al controllo?»

Si potrebbe formulare in un modo leggermente diverso:

• «Come possiamo diventare una società abbastanza matura da riconoscere ciò che può essere controllato, ciò che può essere soltanto governato e ciò che deve essere semplicemente compreso e monitorato?»

Questa distinzione è essenziale:
alcune cose possiamo controllarle; altre possiamo soltanto governarle attraverso regole, incentivi e responsabilità; altre ancora possiamo monitorarle e correggere progressivamente.
Accettare che esistano limiti alla conoscenza non significa arrendersi, significa «abbandonare l'illusione del controllo assoluto».

Oltre la bolla
La “bolla informativa” non si combatte semplicemente accumulando altre informazioni, bensì imparando a fare domande migliori. Non soltanto:

• “Qual è la mia posizione?”, ma: “Qual è il punto di vista che non sto considerando?”
• “Chi ha torto?”, ma: “Quale meccanismo produce questo comportamento?”
• “Chi dobbiamo fermare?”, ma: “Quale struttura rende possibile questo problema?”

E soprattutto: «Quali sono i limiti della nostra conoscenza?»
Quest'ultima domanda potrebbe essere una delle più importanti competenze del XXI secolo.
Perché in un mondo nel quale le macchine diventano sempre più capaci di produrre risposte, la qualità dell'umanità potrebbe dipendere sempre di più dalla nostra capacità di formulare domande, riconoscere l'incertezza, cambiare idea e comprendere sistemi che non possiamo ridurre a una semplice storia di 'buoni' e 'cattivi'.
$⇒$ Il primo passo per uscire dalla bolla è probabilmente il seguente:
«non cercare immediatamente una risposta che ci rassicuri, ma imparare a rimanere abbastanza a lungo dentro la complessità da poterla finalmente comprendere».

---

Per continuare il percorso
Chi desidera approfondire autonomamente, può partire da alcuni filoni di ricerca che si incrociano in questa mia riflessione:

• Opinion dynamics e bounded confidence — Per comprendere come le opinioni possono convergere, polarizzarsi o frammentarsi all'interno di una rete.
• Teoria dei grafi e sistemi dinamici — Per osservare come la struttura delle relazioni influenzi il comportamento complessivo.
• Psicologia del bisogno di chiusura cognitiva e identità sociale — Per comprendere perché una convinzione possa diventare anche un elemento di appartenenza.
• Teoria della computazione e complessità computazionale — Per conoscere i limiti matematici della soluzione e della previsione di determinati problemi, distinguendo attentamente fra difficoltà computazionale, imprevedibilità e indecidibilità.
• Pensiero sistemico e scienza della complessità — Per imparare a leggere i fenomeni non soltanto attraverso le singole cause, ma attraverso le relazioni e i meccanismi di retroazione.
• Educazione ai media e alfabetizzazione digitale — Per sviluppare la capacità di riconoscere non soltanto le informazioni false, ma anche i meccanismi che determinano quali informazioni arrivano fino a noi.

GRAZIE PER AVERE ACCEDUTO ALLA PAGINA