Sztuczna inteligencja Google nie będzie już oceniać płci. Czy uda się uniknąć uprzedzeń?

Już niedługo w algorytmie Google AI zostaną wprowadzone pewne zmiany. Do tej pory Cloud Vision API rozpoznawało płeć osoby na zdjęciu. Teraz zamiast etykiety „kobieta” lub „mężczyzna” zobaczymy podpis „osoba”. Skąd takie zmiany?

Zgodnie z wiadomością, która trafiła do developerów pracujących na narzędziach Google, dowiedzieliśmy się, że firma zdecydowała się na wprowadzenie zmian w swoim algorytmie sztucznej inteligencji. Dzięki temu ma on unikać „stronniczości” i nie kierować się uprzedzeniami.

Google AI nie będzie już oceniać płci

Do niedawna algorytm Google AI rozpoznawał, czy na zdjęciu była kobieta, czy mężczyzna. Funkcja mogła wydawać się bardzo fajna.

Prawda jest jednak taka, że skuteczność tego rozwiązania nie była zbyt dobra. Oczywiście każde zdjęcie poddane analizie można było później samodzielnie weryfikować. Dodatkowo algorytm pokazywał też prawdopodobieństwo procentowe.

Firma podjęła jednak decyzję o usunięciu informacji na temat płci osoby widocznej na zdjęciu. Niedługo nie zobaczymy już podpisu „kobieta”, czy „mężczyzna”. Zostanie to zastąpione bardzo ogólnym podpisem: „osoba”.

Firma ma świadomość tego, że algorytmy AI mogą się czasami mylić. Google chce jednak uniknąć wyników, które mogłyby być niezgodne z kulturowymi oraz społecznymi normami. Nie chodzi tu więc o samo rozpoznawanie płci osoby na zdjęciach, ale także o orientację seksualną, narodowość, czy przekonania politycznie i religijne.

Według Amerykanów nie da się tego określić wyłącznie po wyglądzie osoby na zdjęciu, a wprowadzona zmiana pomoże uniknąć wszelkich nieporozumień.

Dobrze, że Google ciągle pracuje nad swoimi algorytmami i dba o ich udoskonalenie. Wprowadzona zmiana sprawi, że nikt nie poczuje się urażony.

Źródło