Zostawcie w spokoju nasze twarze
Władze stanowe i lokalne od New Hampshire po San Francisco coraz częściej zakazują wykorzystania techniki rozpoznawania twarzy. Obawy, które budzi, mają solidne podstawy: stosowane algorytmy często się mylą, zwłaszcza w przypadku identyfikacji kobiet oraz osób o niebiałym kolorze skóry. A nawet gdyby technika ta została w istotny sposób udoskonalona, to rozpoznawanie twarzy i tak grozi poważnym naruszeniem prywatności aż po całkowity brak anonimowości. Niestety, zakazy wydawane przez władze lokalne mają niewielki wpływ na firmy, zaczynając od start-upów, a kończąc na wielkich korporacjach. Właśnie dlatego potrzebne są uregulowania federalne, które powinny pojawić się natychmiast.
Programy do automatycznego rozpoznawania twarzy mają oczywiście wiele zalet, na przykład wyznaczany na podstawie wyglądu identyfikator biometryczny pozwala właścicielowi smartfona spojrzeniem odblokować swoje urządzenie, a służbom odpowiedzialnym za bezpieczeństwo na lotnisku błyskawicznie zweryfikować tożsamość pasażera. Podstawą ich działania są algorytmy uczenia maszynowego, które do treningu wymagają zdjęć. Oprogramowanie analizuje kolejne wizerunki i wyszukuje cechy, które najskuteczniej pozwalają powiązać obraz i tożsamość. Im bogatszy jest zbiór danych, tym większa niezawodność programu.
Zbyt często się zdarza, że algorytmy są wykorzystywane przedwcześnie. Przykładem jest niedopracowany system sztucznej inteligencji do wynajdowania w tłumie przestępców, którego londyńska policja zaczęła używać, ignorując ostrzeżenia, że jego niezawodność wynosi zaledwie 19%. Ta niedokładność przekłada się na niesłuszne oskarżenia osób o popełnienie przestępstw, ich bezprawne śledzenie, uprzykrzanie im życia, a nawet aresztowanie. To poważny problem z zakresu praw człowieka, zwłaszcza, że algorytmy wyraźnie gorzej radzą sobie z rozpoznawaniem osób o niebiałym kolorze skóry. Kiedy w National Institute of Standards and Technology dokonano przeglądu prawie 200 systemów rozpoznawania twarzy, okazało się, że błędy zdarzają się od 10 do 100 razy częściej w przypadku Afroamerykanów i osób pochodzących z Azji Wschodniej. Kiedy programy miały rozpoznać określoną osobę w udostępnionym zbiorze zdjęć, największe prawdopodobieństwo błędu występowało dla czarnoskórej kobiety.
Część firm próbuje udoskonalić swoje systemy, zwiększając liczbę zdjęć osób kolorowych i kobiet, ale zdarza się, że łamią przy tym zasady etyki. Przykładem jest współpracująca z Google firma z Atlanty, która płaciła bezdomnym czarnoskórym osobom po kilka dolarów za ich wizerunek. Z kolei start-up Clearview AI naruszał reguły prywatności sieci społecznościowych, gromadząc bez pozwolenia wizerunki ich użytkowników. Takie przypadki pokazują, że niektóre firmy poniewczasie próbują rozwiązywać problemy, zamiast z pełną odpowiedzialnością planować działania.
Nawet jeżeli powstanie lepsze oprogramowanie, zdolne precyzyjnie rozpoznawać twarze niezależnie od płci i grupy etnicznej, to i tak technika będzie stanowić zagrożenie. Ponieważ algorytmy skanują obraz o wiele szybciej niż nasze oczy, rozpoznawanie twarzy daje możliwość stałego śledzenia społeczeństwa. To dzieje się już w Chinach, gdzie autorytarny rząd wykorzystuje technikę do prześladowania mniejszości etnicznej Ujgurów, a także śledzi ludzi. Systemy te można z łatwością wykorzystać tak, aby traktować każdego obywatela jako przestępcę, zabierając ludziom prywatność, ograniczając swobodę wyrażania się i powodując szkody psychiczne.
W państwach demokratycznych, takich jak Stany Zjednoczone, rząd musi chronić obywateli przed takimi zagrożeniami. Niestety, istniejące obecnie ograniczenia w zakresie techniki rozpoznawania twarzy stanowią niespójną gmatwaninę przepisów: są miejsca, gdzie nie obowiązują żadne ograniczenia w tym zakresie, czasem dotyczą tylko policji, czasem urzędników różnego szczebla.
Nie ma wątpliwości, że potrzebujemy uregulowań na poziomie federalnym. Należy żądać, aby setki istniejących już programów do rozpoznawania twarzy, z których wiele powstało w firmach prywatnych, zostało poddanych certyfikacji przez wyspecjalizowane agencje federalne. Muszą spełniać wysokie standardy wiarygodności dla wszystkich grup demograficznych i nawet wtedy rekomendacje programu powinny być weryfikowane przez ludzi przed ich realizacją. Techniki rozpoznawania twarzy należy też uwzględnić w bardziej ogólnych przepisach, które nałożą ograniczenia w zakresie technicznych środków inwigilacji, ponieważ trwają już prace zmierzające do identyfikacji ludzi na podstawie sposobu chodzenia, a nawet rytmu serca.
Amerykanie zawsze zdecydowanie bronili swojego prawa do prywatności. Techniki, które temu zagrażają, należy poddać kontroli.