Il riconoscimento facciale di Uber non funziona bene. Il malfunzionamento è così diventato, suo malgrado, protagonista di uno scandalo mediatico dovuto alla falla nel sistema che, a quanto pare, impedisce all’App di identificare sempre in modo corretto i conducenti. Ma di che App si tratta?
Uber, l’azienda con sede a San Francisco che fornisce un servizio di trasporto automobilistico privato, ha ideato un’applicazione che permette di riconoscere i conducenti che si presentano come impiegati registrati nell’azienda ma che, in realtà, non lo sono. Insomma, un’App che identifica i “falsi driver”.
La funzionalità richiede ai conducenti di identificarsi con un selfie prima di essere attivi sul servizio, selfie che deve essere scattato prima di ogni corsa. L’app è “Real-Time ID Check”, un software di riconoscimento facciale progettato da Microsoft per confrontare il selfie del conducente con la sua foto nel file di Uber; dal momento in cui le due foto non dovessero coincidere, scatta il blocco dell’account.
Tutto regolare, a parte che per un problema: sono stati riscontrati diversi casi di identificazione erronea, cioè episodi per cui alcuni driver totalmente in regola si sono trovati con l’account bloccato e la sospensione del servizio da parte di Uber.
E così, Worker Info Exchange ha chiesto a Microsoft di sospendere l’uso del riconoscimento facciale all’azienda di trasporti, per impedire che accadano altri episodi simili.
Real-Time ID Check era stato lanciato nell’Aprile del 2020 e si era posto l’obiettivo di favorire migliori condizioni di sicurezza sul lavoro. Cosa che non sta riuscendo, ma questo era prevedibile. Scusate, ma la tecnologia non doveva migliorare le condizioni di lavoro? A quanto sembra pare, i problemi che sta creando sono maggiori dei contributi favorevoli.
In questo momento sono in corso indagini per verificare il tasso di errore dell’applicazione e, in generale, delle App per il riconoscimento facciale utilizzate sul lavoro. Tra i dati rilevanti che stanno venendo alla luce, uno studio del MIT del 2018 ha rilevato che il sistema di Microsoft può avere un tasso di errore fino al 20%, incrementato quando viene utilizzato per identificare le persone di colore.
Worker Info Exchange ha inoltre fatto richiesta al sindaco di Londra, città dove il malfunzionamento dell’App è stato particolarmente presente, di revisionare le revoche delle patenti di guida scattate a seguito del riconoscimento facciale erroneo. E così, un grande numero di driver che hanno ingiustamente perso la licenza presenteranno appello contro la revoca delle loro licenze.
Il colosso tecnologico ha inoltre dchiarato: "Sebbene nessuna tecnologia o processo sia perfetto e ci sia sempre spazio per il miglioramento, riteniamo che la tecnologia, combinata con il processo completo in atto per garantire un minimo di due revisioni manuali prima di qualsiasi decisione di rimuovere un conducente, sia equa e importante per la sicurezza della nostra piattaforma”.
Nessuna tecnologia è perfetta, questo è chiaro, il problema è un altro: perché i lavoratori hanno dovuto presentare appello nvece che essere difesi da Uber stesso, come avrebbe dovuto essere?
Ci auguriamo che Uber risolva il problema. Per il rispetto di chi lavora.
