Un studiu guvernamental din Statele Unite a dezvaluit ca multe sisteme de recunoastere faciala au prejudecati. Studiul a fost realizat de Institutul National de Standarde si Tehnologie din Statele Unite si releva faptul ca recunoasterea faciala e partinitoare si are prejudecati.
Ai putea crede ca, deoarece computerele nu simt stari, acestea nu sunt partinitoare, nu au prejudecati si ca sunt imune la asa ceva. Cu toate acestea, un computer este in esenta un instrument si actioneaza in modul in care oamenii l-au programat.
Drept urmare, uneori poate ca, din intamplare, dezvoltatorii dezvolta partinire si prejudecati in computere. Intr-un studiu recent realizat de guvernul SUA, s-a descoperit ca, in ceea ce priveste tehnologiile de recunoastere faciala, acestea tind sa aiba prejudecati fata de persoanele de culoare si fata de genul lor, identificand gresit mai des oamenii de culoare decat persoanele caucaziene.
Conform stirii: „In comparatii, echipa a vazut un numar mai mare de identificari gresite pentru oamenii asiatici si afro-americani, fata de imaginile cu caucazieni. Diferentele variau adesea cu un factor de 10 pana la 100, in functie de algoritmul individual”.
De exemplu, studiul a constatat ca tehnologia de recunoastere faciala a Microsoft are de aproape 10 ori mai multe identificari gresite pentru femeile de culoare decat pentru barbatii de culoare.
Intre timp, Microsoft a spus ca analizeaza noile constatari fata de recunoaterea faciala. Sa speram ca va realiza modificari. Nu este prima data cand tehnologia a fost acuzata pentru faptul ca are prejudecati.
De exemplu, nu cu mult timp in urma, s-a constatat ca algoritmul din spatele Apple Card oferea barbatilor o limita de credit mai ridicata in comparatie cu femeile.