Possiamo fidarci dell’intelligenza artificiale alla guida?

Gli incidenti stradali sono la terza causa di morte nel mondo. Le ragioni, a leggere i report emessi periodicamente dall’Istat, sono da ricercare, in primis, nella distrazione, nel mancato rispetto della precedenza e nella velocità troppo elevata. Se osserviamo la situazione in prospettiva, però, possiamo dire che rispetto a 30 anni fa è migliorata. L’obbligo di indossare le cinture di sicurezza e la tecnologia sempre più avanzata dei veicoli hanno fatto registrare, nel complesso, un calo degli incidenti. Cosa si può fare ancora? La risposta potrebbe arrivare dai veicoli a guida autonoma. Si stima infatti che il loro uso su larga scala possa far scendere i sinistri dagli attuali 20 all’ora a meno di 2 al giorno in tutta Europa. L’uso di veicoli autonomi affidabili, quindi, potrebbe salvare milioni di vite ogni anno.

Intelligenza artificiale, futura alleata della guida

Non ci sono dubbi sul fatto che l’industria automobilistica sta puntando sulla guida autonoma grazie al grande contributo dell’intelligenza artificiale. Quest’ultima è ormai abbastanza matura per:

• riuscire a “imparare” come si guida;
• identificare gli oggetti che circondano il veicolo;
• capire quali azioni intraprendere per evitare incidenti.

Forse, però, non siamo ancora pronti a mettere la nostra auto, e la nostra vita, in mano a un sistema di intelligenza artificiale. In Europa la circolazione di macchine completamente autonome non è ancora permessa e le notizie di incidenti causati da veicoli autonomi, che ci arrivano soprattutto dagli Stati Uniti, sono sconfortanti e non fanno che renderci più scettici rispetto alla possibilità di affidarci all’intelligenza artificiale. Con il ricercatore Paolo Rech, nel nostro Dipartimento stiamo studiando il problema per accrescere la sicurezza e l’affidabilità dei sistemi a guida autonoma.

Questione di errori

Siamo abituati a pensare che i computer non sbaglino mai. Purtroppo non è sempre così. Gli algoritmi probabilistici, le reti neurali, arrivano a dare risposte corrette oltre il 90% delle volte. E, anche se fossero perfetti, l’hardware potrebbe presentare guasti dovuti, per esempio, a interferenze esterne, all’uso eccessivo o all’invecchiamento, alla temperatura o all’impatto con particelle cosmiche e neutroni. Questi eventi possono cambiare i valori memorizzati o il risultato delle operazioni svolte.
La storia lo racconta. Durante le elezioni del 2003 in Belgio, Maria Vindevoghel ricevette 4096 voti in più per un errore nel conteggio automatico causato da un neutrone. Nel 2008 un aereo della Quantas fece una brusca discesa perché il computer di bordo pensava di volare a 1024 metri più in alto dell’altitudine di crociera. Nel 2007, invece, un errore dei neutroni nel cruise control delle Toyota portò le macchine ad accelerare indefinitamente, causando incidenti anche fatali.

Le ricerche al DII: dalla teoria…

Se vogliamo un mondo di veicoli autonomi, non possiamo certo rischiare che i computer sbaglino. Ecco perché studiamo come le particelle cosmiche interferiscono con il sistema di guida autonoma. A questo scopo ci stanno venendo in aiuto alcuni esperimenti con gli acceleratori di particelle, nonché degli studi sull’architettura computazionale e l’algoritmo. Essi ci permettono di valutare le ragioni che portano una particella a far vedere alla rete neurale un oggetto che in realtà non esiste, e quindi a causare una brusca frenata, oppure a non vedere un pedone o un’altra auto.

…alla pratica: i prossimi passi

L’obiettivo a cui puntiamo è progettare delle soluzioni software e hardware per evitare che si manifestino eventi avversi. A questo proposito:
aggiungiamo i layer di controllo nella rete neurale;
eseguiamo due volte le operazioni più critiche, per essere sicuri che il risultato sia corretto;
controlliamo che non ci siano risultati irragionevoli nel calcolo.
“Ad oggi siamo in grado di identificare e correggere fino all’85% degli errori in un sistema di identificazione degli oggetti – spiega Paolo Rech –. Stiamo tuttavia lavorando al training delle reti neurali affinché l’intelligenza artificiale sia così intelligente da auto-correggersi quando sbaglia. La speranza (e la sfida), nei prossimi anni, è di riuscire a creare delle reti neurali che riescano a dare la giusta direzione al veicolo anche se i valori sono corrotti per l’impatto con le particelle cosmiche”.