20 agosto 2021 12:16

Gli algoritmi di face recognition hanno veramente un problema con le persone di colore?

L’altro giorno sono capitato per caso nella sezione People di Amazon Photo dove vengono raggruppate le foto caricate cercando di riconoscere i volti fotografati. Dopo essermi sorpreso e meravigliato di come avesse fatto a riconoscere e azzeccare i visi dei miei compagni di riding in MTB sempre coperti da casco, occhialoni e talvolta mentoniera (neanche la loro madre li avrebbe riconosciuti!) mi è balzato l’occhio sul volto di una signora di colore che ricordavo avessi fotografato nel lontano 2005 durante un viaggio in Africa. Possibile che le avessi scattato 21 foto ?!!

Cliccando sul dettaglio l’amara sorpresa… associati alla cuoca di un barbecue nel Mpumalanga si trovano foto di Oba Oba Martins (!!), di ranger e guide dal mascolino aspetto, di un bambino (maschio) di pochi anni fino a (la più plausibile) donne dal collo di giraffa.

Tempo fa lessi su un blog di Microsoft un mea-culpa da parte di alcuni developers di aver addestrato alcuni dei loro algoritmi di machine learning con troppe poche foto di black people e che quindi era un problema di numeri, mentre in questo interessante articolo di Wired riguardo a un test su un software di riconoscimento facciale usato dalle Polizie americane, australiane e francesi si dice:

“White males ... is the demographic that usually gives the lowest FMR (false match rate) Black females ... is the demographic that usually gives the highest FMR.”

In pratica viene confermato che il tasso di errore di un falso positivo su un soggetto femminile di colore è un ordine di grandezza maggiore (10x per farla breve) rispetto alla popolazione bianca.

Finché si tratta di frivolezze come il face-tagging delle nostre inutili foto ricordo, non ci sarebbe problema, ma se pensiamo alle implicazioni di carattere politico, polizesco, controllo frontiere, ecc. la cosa fa per lo meno riflettere.

Fortunatamente sembra che per l’etnia asiatica le cose non vadano così male visto che i miei amici giapponesi Toshie e Hiroshi sono stati riconosciuti perfino in un riflesso sfocato e con la mano davanti alla faccia!

È proprio la disparità di performance dell’algoritmo che fa pensare; ok che ci sarà un matching temporale (se ho riconosciuto quel volto in quella foto, in una scattata lo stesso giorno c’è più probabilità che quella persona ci sia ancora), ma che dire di questi abbinamenti azzeccati dell’amico Walter con e senza pizzetto e spesso con il cappuccio della muta?

O dell’amico Rob, riconoscibile se intento ad aggredire una chianina, ma molto meno se bardato di casco o in mezzo a gruppi di persone

Quindi sentimenti contrastanti… ammirazione (soprattutto come dev) per quando l’algoritmo funziona, ma molto timore e preoccupazione se si considera anche la sterminata potenza di calcolo (e di sample a disposizione) che hanno i vari AWS, Azure e Google Cloud.