Automotive

Uber: l’auto a guida autonoma uccise un pedone perché “decise” di non sterzare

I sensori dell’auto videro la persona, ma potrebbero aver contrassegnato il rilevamento come un “falso positivo”

Volvo Uber

Uber ha scoperto il motivo per cui una delle sue auto di prova della neonata flotta a guida autonoma colpì e uccise un pedone all’inizio dell’anno. Mentre l’azienda crede che la suite di sensori della vettura abbiano individuato la 49enne Elaine Herzberg mentre attraversava la strada di fronte alla Volvo XC90 modificata il 18 marzo, due fonti affermano che il software fu regolato in modo tale da rendere inutile l’intervento umano poiché i sistemi individuarono la persona come una sorta di “falso positivo”.

La ragione per cui il sistema farebbe questo, secondo il rapporto, è perché ci sono un certo numero di situazioni in cui i computer che gestiscono un’automobile autonoma potrebbero vedere qualcosa che pensano sia un ostacolo umano o di altro genere attribuendo un indice di corrispondenza: in quella situazione, i sistemi assegnarono una soglia così da far decidere al sistema che non fosse necessaria alcuna azione evasiva da parte di un essere umano.

Da quell’episodio, Uber ha sospeso i test e l’azienda sta ancora lavorando insieme al National Transportation Safety Board, che non ha ancora pubblicato una relazione preliminare sui progressi compiuti nelle sue indagini. Raggiunto da alcuni giornalisti, un portavoce di Uber ha rilasciato la seguente dichiarazione: “Stiamo collaborando attivamente con l’NTSB nelle loro indagini. Per rispetto di tale processo e della fiducia che abbiamo costruito con NTSB, non possiamo commentare l’incidente nello specifico. Nel frattempo, abbiamo avviato una revisione della sicurezza del nostro programma di veicoli a guida autonoma, e abbiamo chiesto l’ex presidente NTSB Christopher Hart di fornirci consigli per migliorare la nostra cultura generale della sicurezza. Stiamo esaminando tutto, dalla sicurezza del nostro sistema ai nostri processi di formazione per gli operatori dei veicoli, e speriamo di avere presto altre dichiarazioni da rilasciare”.