AI nie zawsze prawidłowo rozpoznaje twarz
Teraz gigant wywiera wpływ na inne wielkie firmy, by zamiast określeń „mężczyzna" lub „kobieta" stosowały zwrot „osoba". Apel ze strony Google'a dotyczy trzech największych koncernów: Microsoftu, Amazona i IBM-u. Chodzi o to, by wykorzystując narzędzia sztucznej inteligencji (AI) do rozpoznawania twarzy, firmy zaprzestały używania tagów oznaczających płeć na rzecz określeń bardziej neutralnych.
Google, który w swoich algorytmach zmienił stosowne oznaczenia w lutym br., swoją decyzję uzasadnia tym, że nie zawsze na podstawie wyglądu można wywnioskować prawdziwą płeć. Błędne oznaczenia mogą według firmy wywoływać i zaostrzać konflikty, a także narażać wiele osób na nieprzyjemności.
Joy Buolamwini, informatyczka z MIT i ekspert od stronniczości AI, już w 2018 r. opublikowała badania, z których wynika, że narzędzia AI Microsoftu i IBM-u miały poważne problemy ze słusznym zakwalifikowaniem konkretnej osoby do danej płci, jeśli analizowały twarz kobiet o ciemnej karnacji. Dalsze prace nad tym zagadnieniem doprowadziły badaczkę do wniosków zaprezentowanych w zeszłym roku. Wynika z nich, że podobne problemy z oprogramowaniem ma również Amazon.
Firma zaprzeczyła, ale nacisk środowisk naukowych jest na tyle duży, że największe koncerny zastanawiają się, aczkolwiek niechętnie, nad zmianą polityki i innym oznaczeniem osób. Wiąże się to również z porzuceniem tagów identyfikujących rasę, pochodzenie czy niepełnosprawność, bo wszystkie te elementy mogą zostać błędnie rozpoznane przez programy identyfikujące twarz.
Sasha Costanza-Chock, profesor nadzwyczajny w MIT, dodaje, że klasyfikacje płci najbardziej narażają na pomyłki i przykre zdarzenia osoby trans i ciemnoskóre kobiety. To właśnie te grupy są najbardziej narażone na błędną klasyfikację. Jako jeden z przykładów profesor wskazała, że transseksualni kierowcy Ubera są blokowani w niektórych aplikacjach, ponieważ ich wygląd fizyczny nie pasuje już do zdjęć przechowywanych przez największe koncerny.
Opór ze strony przedsiębiorstw jest o tyle zrozumiały, że zbieranie tych danych ma ogromne znaczenie komercyjne, gdyż pozwala na tworzenie ofert bardziej dopasowanych do indywidualnych preferencji konkretnych osób.
fot. Gerd Altmann – Pixabay
