Il computer dice no

Riassunto

Stamattina mi sono goduto il giro in bici su una pista ciclabile quasi deserta, con raggi di sole da cartolina che illuminavano la rugiada sui campi intorno a me. Dov'erano tutti gli altri ciclisti? Sospetto che c'entrino le popolari app del meteo. Mi colpisce quanto sia già grande il controllo dei computer sulla vita delle persone.

Testo completo

A quanto pare stamattina c'era la possibilità di pioggia, come indicava l'app meteo dell'iPhone. Anche se non ho incontrato nemmeno una goccia, quella minuscola icona di nuvola con la pioggia sul telefono ha convinto meno gente a uscire in bici.

Certo, lo capisco: a poche persone piace bagnarsi sulle proprie bici di lusso. Ma che fine ha fatto il guardare davvero fuori dalla finestra per vedere che tempo fa? Una rapida occhiata avrebbe mostrato a chiunque condizioni perfette per un giro. Prendi le tue decisioni in base all'app del meteo?

Che cos'è l'intelligenza artificiale (AI)?

Nonostante il recente ritorno nei ranghi del "buzzword bingo", i concetti di intelligenza artificiale e machine learning non sono poi così nuovi. L'idea di usare l'apprendimento per portare un sistema più semplice a un'intelligenza di livello umano risale almeno alla nozione di "macchina bambino" di Alan Turing, nel 1950. Invece di cercare di produrre un programma che simuli la mente adulta, perché non provare a produrne uno che simuli quella del bambino? Se poi lo si sottoponesse a un percorso educativo adeguato, si otterrebbe il cervello adulto.

Nel suo libro "Superintelligence", Nick Bostrom esplora a fondo i possibili percorsi verso la creazione di un'intelligenza artificiale. Cosa succede quando le macchine superano gli esseri umani in intelligenza generale? Gli agenti artificiali ci salveranno o ci distruggeranno? Persino Elon Musk è d'accordo con me che tutti dovrebbero leggere questo libro.

Anche se il consenso generale è che una vera intelligenza artificiale generale non esista ancora, a mio avviso la società nel suo complesso si sta allineando alla perfezione perché un'AI prenda il controllo. La metafora della rana bollita è un modo efficace di pensarci: la rana non percepisce il pericolo dell'acqua che viene portata a ebollizione lentamente. Non dovremmo permettere a nessuno di cuocerci, figuriamoci a un'AI!

Esempi del controllo dei computer oggi

Mentre mi godevo la pista ciclabile vuota stamattina, mi è venuto in mente che l'app del meteo non è l'unica a controllare il comportamento delle persone. Pensa ai seguenti esempi:

• dove vivono le persone: è facile capire perché le istituzioni finanziarie vogliano valutare il rischio di prestare denaro a qualcuno, ma i computer di oggi, calcolando il tuo punteggio di credito, controllano indirettamente cose come quale casa puoi comprare, dove vivrai, a quale scuola andranno i tuoi figli. Il machine learning è un tema caldo nel mondo del denaro e, senza che molti lo sappiano, quegli algoritmi non guardano solo i tuoi dati finanziari. Uno dei leader mondiali nelle valutazioni del credito, GDS Link, è franco in proposito: lo storico dei pagamenti di chi chiede un prestito è essenziale, ma comunque rappresenta appena poco più di un terzo del punteggio di credito.
• allerte meteo: la tua app del meteo è gelosa del potere che le allerte meteo hanno sulla società: intere nazioni possono essere paralizzate perché il computer del meteo indica "codice rosso". Tutti capiscono le ovvie ragioni di sicurezza. Ma ci si può chiedere quanta sofferenza umana venga in realtà causata da vacanze annullate, strade chiuse, treni fermi, scuole chiuse e servizi ospedalieri limitati.
• cosa vedono le persone: la riproduzione automatica sul sito di video preferito da tutti usa algoritmi per decidere il tuo prossimo video. Anche se scegli di proposito di guardare un video in particolare, dopo ti viene presentato automaticamente qualcos'altro. Lo stesso vale per app popolari come TikTok e Instagram.
• cosa ascoltano le persone: non credere che la riproduzione casuale sul tuo iPod o nell'app di Spotify sia davvero casuale. Questa spiegazione di Mattias Petter Johansson, ex ingegnere di Spotify, è una lettura interessante.
• cosa leggono le persone: Elon Musk capisce perché è importante rendere pubblici gli algoritmi dei newsfeed come quello di Twitter, perché determina cosa leggono le persone! Ma siccome non tutti capiscono il codice, penso che sarebbe solo una parte della soluzione.

Conclusione

Le nuove tecnologie spaventano sempre le persone. Quando sono comparse le prime biciclette, la gente dava loro la colpa di quasi tutto! Eppure ora sono integrate nella nostra vita in modo piuttosto equilibrato. Le persone conoscono i rischi e molte si comportano di conseguenza. I caschi e le luci per bici sono molto comuni. Alla fine mi aspetto lo stesso per le decisioni computerizzate: impareremo a gestirle nel modo giusto.

Nel frattempo dovremmo restare attivamente curiosi e goderci le meraviglie moderne della tecnologia, come lo straordinario sistema di AI DALL-E, che può creare immagini e arte originali e realistiche. Ci ho lavorato per creare le illustrazioni di questo articolo. La discussione sorta da poco su chi possieda le opere generate non mi sorprende affatto. I responsabili delle politiche farebbero bene a non ignorare le questioni più grandi legate all'intelligenza artificiale!