Il software di riconoscimento facciale è prevenuto sulla base di studi di genere e razza

La tecnologia di riconoscimento facciale non è più un espediente. Viene sempre più utilizzato in modi più pedonali e non mostra segni di rallentamento. Oggi, oltre ad essere utilizzato per sbloccare i tuoi smartphone, il riconoscimento facciale è arrivato in ogni angolo. In effetti, la tecnologia viene utilizzata dagli agenti di polizia cinesi per identificare i sospetti.

Tuttavia, secondo una nuova ricerca del Media Lab del MIT, sembra che la tecnologia di riconoscimento facciale sia soggetta a pregiudizi basati sul genere e sulla razza. Joy Buolamwini, una ricercatrice presso il MIT Media Lab, ha creato un set di dati di 1.270 volti. Ha quindi testato l'accuratezza di tre sistemi di riconoscimento facciale di Microsoft, IBM e Megvii (un'azienda cinese). Sorprendentemente, il risultato ha mostrato imprecisioni nell'identificazione di genere.

Quando ai sistemi sono state mostrate le foto di maschi dalla pelle più chiara, è stato possibile identificarli abbastanza facilmente. Tuttavia, il sistema ha identificato erroneamente fino al 12% dei maschi dalla pelle più scura; e fino al 35% delle donne dalla pelle più scura.

"Nel complesso, i soggetti di sesso maschile sono stati classificati in modo più accurato rispetto ai soggetti di sesso femminile che replicavano i risultati precedenti (Ngan et al., 2015) e i soggetti più chiari sono stati classificati in modo più accurato rispetto agli individui più scuri. - Joy Buolamwini

A questo proposito, IBM ha affermato di aver costantemente migliorato il proprio software di analisi facciale e di essere "profondamente impegnata" in servizi "imparziali" e "trasparenti". Microsoft, d'altra parte, ha detto: "Abbiamo già adottato misure per migliorare l'accuratezza della nostra tecnologia di riconoscimento facciale "e che stava investendo nella ricerca" per riconoscere, comprendere e rimuovere i pregiudizi.E infine, Megvii non ha risposto.

Detto questo, questa non è la prima volta che la tecnologia di riconoscimento facciale si è dimostrata imprecisa. Nel 2015, Google è stato chiamato da un ingegnere del software quando l'app Foto ha identificato il suo amico nero come "gorilla".