L’illusione di libertà tra algoritmi che non sono né infallibili né obiettivi

Con l’avvento del digitale le nostre vite sono cambiate in maniera radicale. Internet consente di avere accesso a pressoché tutto lo scibile umano in maniera universale. Ogniqualvolta usiamo il nostro indirizzo e-mail personale o facciamo un viaggio e immortaliamo i momenti più belli con decine o centinaia di foto scattate da smartphone sempre più simili a macchine fotografiche professionali, migliaia di server in cloud consumano corrente elettrica e spazio su hard disk ridondati in diverse parti del pianeta. Tutto, spesso, senza che l’utente spenda un quattrino. Ma, come dice un adagio americano di inizio del secolo scorso riferendosi alla prassi di molti bar di offrire gratuitamente agli avventori piccoli snack, spesso salati, in modo da stimolare il consumo di alcolici, “there is not such thing as a free lunch”.

È risaputo che i grandi colossi del digitale scelgano di offrire questi ed altri prodotti senza far pagare gli utenti perché in cambio ottengono preziosissimi dati sui loro comportamenti. 

Purché si sia consci che non pagare non voglia dire gratis, la rivoluzione che Google, Microsoft, e tanti altri tech giant hanno iniziato e continuano a portare avanti ha una portata senza precedenti in termini di democratizzazione dell’informazione e accesso a strumenti prima a vantaggio di pochi. Ogni giorno questi servizi permeano in maniera sempre più inconsapevole le nostre vite.

Quando organizziamo un viaggio cerchiamo un hotel su Booking e scegliamo dove cenare su Tripadvisor. Lo facciamo perché è comodo, pratico e funziona: l’algoritmo è potente e le recensioni degli altri utenti rafforzano la fiducia.

Quando facciamo una ricerca su Google abbiamo l’inconscia aspettativa di trovare ciò che cerchiamo tra i primi risultati e, se così non dovesse essere, è molto più frequente trovarsi rapidamente a rifare una ricerca con termini diversi piuttosto che spingersi nella periferia di pagina 2. Abbiamo così tanta fiducia nell’algoritmo da dubitare di noi stessi: quando qualcosa va storto probabilmente abbiamo cercato male. 

Gli algoritmi, nella percezione dei più, sono imparziali ed efficienti. Per questo la nostra fede in loro è cieca e, piuttosto che metterli in discussione, siamo disposti a mettere in discussione noi stessi. Funzionano in maniera quasi magica, impossibili da comprendere anche ai più esperti. Comunque funzionano e questo ci basta.

Un algoritmo però, quella black box imperscrutabile a cui ci affidiamo completamente, non è perfetto. Essendo costruito da esseri umani ha al suo interno, potenzialmente, tutti gli errori che un umano possa commettere e tutte le scelte che lo stesso umano abbia consapevolmente deciso di compiere.

Il machine learning e l’intelligenza artificiale non risolvono il problema: un algoritmo è tanto buono quanto il set di dati che viene utilizzato per addestrarlo e, di conseguenza, soggetto agli stessi limiti e bias precedenti. 

Immaginiamo un’azienda che, dovendo assumere del personale, scelga di utilizzare un algoritmo addestrato con migliaia di curricula di manager europei e americani di successo per identificare i candidati che hanno più probabilità di far carriera. Questo algoritmo tenderà a dare punteggi più alti a uomini bianchi. Questo non perché siano i candidati migliori ma perché sono quelli che oggi occupano con maggior frequenza le posizioni più importanti. Se non addestrato correttamente l’algoritmo discrimina e reitera lo status quo. L’opposto di quello che l’azienda del nostro esempio sperava di ottenere. Ancor peggio: difficilmente se ne potrà accorgere.

Gli algoritmi non sono infallibili. Non sono perfetti. Non sono obiettivi. Per errore o per scelta: per costruzione. 

Molto spesso questi grandi, e piccoli, giganti del web hanno posizioni considerevoli nel loro settore con quote di mercato prossime al 100%. Anche operando a fin di bene, l’impatto che possono avere sulle vite dei consumatori e su quelle di altre aziende è estremamente rilevante. 

Se per un errore tecnico, o per una scelta arbitraria, una di queste piattaforme digitali dovesse oscurare tutti i ristoranti il cui nome inizia con la lettera P o gli hotel che hanno la facciata azzurra, queste aziende oscuratevedrebbero il proprio fatturato crollare rapidamente, senza ben capire perché stia accadendo e senza grandi possibilità di appello. Questo pone certamente una questione economica.

Estremizzando il concetto, se una di queste aziende decidesse di cercare di influenzare una campagna elettorale in una direzione specifica, magari perché un determinato partito ha una posizione politica più affine all’azienda in questione, sarebbe estremamente difficile rilevarlo. Questo pone una questione sociale.

Questi algoritmi, queste scelte o errori, sono praticamente impossibili da controllare dall’esterno se non con evidenze empiriche. In un mondo sempre più controllato da algoritmi questo pone un rischio oggettivo difficilmente riconoscibile e regolabile.

Il problema è l’errata percezione di obiettività di questi algoritmi e della conseguente sensazione di autonomia e libertà di scelta da parte dei consumatori. 

Il tutto è amplificato da una posizione estremamente rilevante che queste aziende son riuscite a costruire nel tempo, complice la loro capacità di innovare fuori dagli schemi, di investire e di attrarre talenti. Sono aziende private, ma spesso rappresentano de facto l’intero mercato. È difficile regolarle perché mancano le competenze e la comprensione di ciò facciano realmente, ma anche perché non ci sono soluzioni facilmente applicabili. 

Questi business digitali non devono essere demonizzati, sono il motore di crescita dell’innovazione, impattano positivamente la vita di milioni di aziende e miliardi di persone ogni giorno. Hanno costruito terreno per nuovi modelli di business, consentono l’accesso universale all’informazione e alla conoscenza. Sono livellatori sociali e democratizzatori. Ci consentono, assieme alle infrastrutture, di lavorare da casa, collegarci con parenti o amici lontani, di fare business. Bisogna farne però un uso consapevole e bisogna trovare il quadro normativo che abiliti queste aziende a continuare ad innovare tutelando il mercato da danni e comportamenti scorretti. Impresa tutt’altro che facile.

Da consumatore è sempre meglio effettuare ricerche su più piattaforme per scegliere quale food delivery ordinare stasera in maniera tale da avere accesso alla massima offerta possibile. Comparare prezzi, qualità e livello di servizio offerto su diversi siti prima di fare un acquisto online. Insomma, essere un po’ meno comodi e un po’ più consapevoli.

D’altronde, ce lo hanno insegnato anche a scuola, il modo migliore per informarsi è leggere più fonti e poi formarsi un’opinione propria. Possibilmente critica.