AI ocenia stronniczo nasze twarze

Istnieje szeroki zakres badań, które koncentrują się na modelowaniu fizycznego wyglądu ludzkich twarzy. (..) Łączymy to z ludzkimi osądami i wykorzystujemy uczenie maszynowe, aby badać jak stronnicze są nasze pierwsze wrażenia na temat drugiej osobie – powiedział Jordan W. Suchow z School Of Business w Stevens.

Sychow i jego zespół poprosili kilka tysięcy ludzi o przedstawienie swoich pierwszych wrażeń z obserwacji ponad 1000 wygenerowanych syntetycznie twarzy. Obserwacje uszeregowano według kryteriów opisujących takie cechy jak stopień inteligencji, religijność, wzbudzanie zaufania czy towarzyskość. Odpowiedzi zostały następnie wykorzystane do trenowania sieci neuronowej. Sieć nauczyła się szybkich osądów ludzi wyłącznie na podstawie zdjęć ich twarzy. Oczywiście stała się przez to bardzo stronnicza w swojej ocenie.

Mając zdjęcie Twojej twarzy możemy przewidzieć jakie będą pierwsze wrażenia na Twój temat i jakie stereotypy będą na Ciebie rzutowały, gdy ktoś pierwszy raz zobaczy Twoją twarz – wyjaśnia Suchow.

Wiele ustaleń z trenowania modelu algorytmu jest zgodnych z powszechnymi intuicjami i pewnymi założeniami kulturowymi: na przykład ludzie w okularach są postrzegani jako bardziej inteligentni a ludzie często się uśmiechający są postrzegani jako godni zaufania. W innym przypadkach trudniej było zrozumieć dlaczego algorytm przypisywał daną cechę wybranej osobie. Zapewne było to spowodowane różnymi odpowiedziami badanej populacji tworzącej zbiór uczący algorytm.

Wytworzony algorytm nie dostarcza ukierunkowanej informacji zwrotnej ani nie wyjaśnia, dlaczego dany obraz wywołuje określoną ocenę. Ale mimo to może nam to pomóc zrozumieć, jak jesteśmy postrzegani – moglibyśmy przykładowo uszeregować serię zdjęć według tego, co sprawia, że wyglądamy w danej grupie ludzi na najbardziej godnego zaufania.

Opisywany algorytm został pierwotnie opracowany, aby pomóc badaczom psychologicznym w generowaniu obrazów twarzy do wykorzystania w eksperymentach dotyczących percepcji i poznania społecznego. Oczywiście algorytm może znaleźć zastosowania w świecie rzeczywistym. Ludzie starannie dbają o swoją publiczną osobowość, na przykład udostępniając tylko te zdjęcia, które według nich sprawiają, że wyglądają na najbardziej inteligentnych, pewnych siebie lub atrakcyjnych.

Szukając dalszych zastosowań możemy podać przykład gdzie algorytm może być używany do tworzenia odpowiednich zestawów zdjęć, sprawiając, że np. kandydat polityczny wydaje się bardziej godny zaufania a jego przeciwnik jest równocześnie nieinteligentny lub podejrzany.

Dzięki tej technologii można zrobić zdjęcie i stworzyć zmodyfikowaną wersję, mającą wywoływać pewne wrażenie. Z oczywistych powodów musimy uważać na sposób wykorzystania tej technologii – powiedział Suchow.

Ważne jest, aby pamiętać, że osądy, które modelujemy, nie ujawniają niczego o rzeczywistej osobowości czy kompetencjach danej osoby – wyjaśnił Suchow. To, co tutaj robimy, to badanie stereotypów ludzi i to jest coś, co wszyscy powinniśmy starać się lepiej zrozumieć.

Aby chronić swoją technologię, zespół badawczy uzyskał patent i obecnie tworzy startup, który ma licencjonować algorytm do wcześniej zatwierdzonych celów etycznych.

To, że wykorzystujemy sztuczną inteligencję aby dowiedzieć się czegoś o nas samych to bardzo dobra wiadomość. Człowiek jest bardzo złożoną istotą, od wielu lat staramy się poznać sami siebie. Rozwijane nieustannie model uczenia maszynowego oparte o sieci neuronowe mogą służyć do wytwarzania rozwiązań tłumaczących naszą naturę i pozwalających zrozumieć nasze decyzje i zachowania w różnych kontekstach.

Podsumowując ciekawi mnie analiza danych jakie na początku badania zebrał zespół naukowców. Chciałbym poznać odpowiedź na teoretycznie proste pytanie: „Jak bardzo stronniczo oceniamy innych?”.