Si parla tanto di discriminazione tra umani ma, a quanto pare, anche le automobili discriminano diverse persone: un recente studio condotto congiuntamente dall'University College di Londra e dall'Università di Pechino ha sollevato preoccupazioni significative riguardo la difficoltà dei sensori delle auto a guida autonoma nel rilevare bambini e individui con carnagione più scura.
Oltre a incoraggiare a intraprendere uno specifico lavoro sui software, lo studio vuole anche sensibilizzare le istituzioni affinché vengano promulgate leggi volte a salvaguardare i diritti di tutti gli individui. Per quanto possa sembrare una banalità, infatti, il problema potrebbe assumere nei prossimi anni una rilevanza non banale, considerando il crescente numero di auto a guida autonoma.
Lo studio si basa su un'analisi di oltre ottomila immagini di situazioni quotidiane e rivela un'incidenza significativa di errori nella tecnologia di rilevamento, nota come "miss rate". La sorprendente scoperta è che questo problema è ancora più pronunciato tra le categorie demografiche già svantaggiate. I bambini, ad esempio, corrono un rischio del 19,57% superiore rispetto agli adulti di non essere rilevati da un veicolo a guida autonoma. E le persone con carnagione più scura affrontano un aumento del rischio del 7,52% rispetto a quelle con carnagione chiara.
Una delle principali cause di questa problematica risiede nei "bounding boxes", i quali sembrano incapaci di riconoscere con precisione alcune categorie di individui.
Il vero problema, rilevato dai ricercatori, è l’impiego di software monofase, maggiormente diffusi, che riconoscono più velocemente i soggetti della strada, ma con una minore accuratezza, mentre i software a due fase, lievemente più lenti nel riconoscimento, hanno una precisione superiore.
La criticità diventa ancora più evidente in condizioni sfavorevoli come il buio o la pioggia, quando il sistema di rilevamento già carente diventa ancora meno affidabile. E vale la pena notare che, anche in condizioni normali di luce e tempo, persiste una discriminazione di genere nell'efficacia del riconoscimento, con le donne a rischio di essere meno rilevate rispetto agli uomini.
Insomma, un compromesso tra velocità e precisione che, però, rischia di discriminare alcuni utenti della strada.
Come risolvere, allora? Le soluzioni proposte dai ricercatori, come l'adattamento automatico della luminosità delle immagini e l'utilizzo di sistemi di rilevamento a due fasi, sono sicuramente passi nella giusta direzione. Tuttavia, è imperativo che l'industria automobilistica e le autorità regolatorie affrontino queste questioni con una maggiore consapevolezza, in vista di un futuro sempre più “autonomo”.
