Forțele de poliție din mai multe țări se folosesc de soft-uri de ”facial recognition” și spun că tehnologia este utilă în lupta contra infractorilor. Însă multe voci spun că tehnologia este periculoasă, poate fi folosită în mod abuziv, iar poliția ar trebui să aibă interdicție în a folosi aceste tehnologii. Unul dintre cercetătorii de frunte ai Google explică de ce tehnologia este periculoasă și subiectul este interesant în contextul în care se cere o reformă a poliției în SUA.
Timnit Gebru, lider al echipei Google pe tema folosirii etice a inteligenței artificiale, spune pentru New York Times că tehnologia este mult prea periculoasă în prezent, astfel încât să fie lăsată pe mâna forțelor de ordine.
Gebru explică în primul rând că sunt erori mari în identificarea fețelor persoanelor de culoare, iar asta înseamnă o rată de detecție mai mică pentru cei cu pielea mai închisă și, implicit, arestarea unor oameni nevinovați.
Și când identificarea se face în mod corect, tehnologia poate fi folosită în mod abuziv, cum s-a întâmplat la un protest din Baltimore unde poliția s-a folosit de imaginile colectate pentru a-i identifica pe participanți, comparând imaginile cu pozele de pe rețelele sociale.
Apoi mai este conceptul de ”automation bias” care se referă la faptul că, deși un polițist, văzând o imagine livrată de sistem, consideră că nu seamănă cu cea a suspectului, îl va aresta pe acel suspect doar fiindcă sistemele de recunoaștere spun că în proporție de 99% este persoana căutată. De multe ori detecțiile semnalate de sistem pentru persoanele de culoare sunt mult mai inexacte decât cele realizate de oamenii care se uită la poze și compară.
Gebru spune că, luate împreună, trei lucruri sunt periculoase când este vorba de recunoașterea facială: încrederea excesivă în tehnologie, tendința de a o folosi în mod impropriu și lipsa de transparență.
Cercetătoarea de la Google spune că nu trebuie să ne grăbim să ”îmbrățișăm” soluțiile tehnologice fără să fi discutat cu oamenii importanți din comunitate, cu cei care cer reforma poliției și evident, cu cei de la poliție.
Cum funcționează această tehnologie? Practic, tehnologia de recunoaștere facială se folosește de biometrie pentru a face o ”hartă” a feței fiecărui om și cel mai important aspect este geometria feței, fiindcă sunt măsurate cu exactitate distanțe (de exemplu dintre ochi sau dintre frunte și bărbie).
Din măsurători este creată o ”semnătură facială” (facial signature), practic o formulă matematică ce este comparată cu baza de date a fețelor cunoscute.
2
2
