„Biały bije czarnego”. YouTube „zgłupiał”!

Sztuczna inteligencja została zaprogramowana tak, aby w treściach zamieszczanych filmików, ich opisach i komentarzach wyszukiwać m.in. rasistowskie zwroty i określenia. Zalicza się do nich „biały bije czarnego”, o czym przekonał się chorwacki szachista Antonio Radic – pisze Rafał Christ na portalu spidersweb.pl.

Chorwacki szachista Antonio Radic z powodzeniem prowadził swój kanał na YouTube poświęcony grze. W czerwcu minionego roku z liczącego milion subskrypcji profilu Agadmatora zaczęły znikać filmiki. Powodem miało być łamanie regulaminu serwisu poprzez szkodliwą i obraźliwą zawartość. Sprawa okazuje się bardziej absurdalna niż można by przypuszczać.

Jak podaje portal Independent, Radic podejrzewał, że jego filmiki były usuwane przez używanie typowych szachowych zwrotów pokroju „biały bije czarnego”. Co prawda od dawna toczy się dyskusja na temat rasistowskich konotacji języka używanego przez szachistów, ale nie jest to jeszcze część poważnej społecznej dyskusji. Być może w przyszłości podzieli on los słowa „murzyn” i zostanie uznany za obraźliwy. Tak się jeszcze nie stało, a algorytm YouTube’a zachowuje się, jakby to było już za nami.

Algorytm YouTube działa na prostych zasadach. Analizuje wideo, jego opis i komentarze w poszukiwaniu określeń zakazanych, po czym próbuje nadać im odpowiedni kontekst. Niestety nadmiar podobnych terminów doprowadza go do błędnych wniosków. Udowodnił to Ashique KhudaBukhsh z CMU – informuje Rafał Christ.

Swoją teorię KhudaBukhsh przetestował korzystając z najnowszej wersji algorytmu. Za jego pomocą sprawdził 680 tys. komentarzy spod pięciu popularnych szachowych kanałów. Następnie ręcznie przejrzał 1000 wpisów, które zostały zakwalifikowane przez sztuczną inteligencję jako „szerzące nienawiść”. 82 proc. z nich zostało sklasyfikowanych błędnie, poprzez użycie słów „czarny”, „biały”, „zagrożenie”, „atak”, czyli zwrotów powszechnie używanych w żargonie szachowym.

Spidersweb.pl/RO

CZYTAJ TEŻ: NASA stawia na… produkcję elektrycznych samolotów!