Как искусственный интеллект счёл высказывания любителей настольной игры расистскими
Программы, использующие инструменты искусственного интеллекта, сочли высказывания любителей шахмат расистскими. Об этом сообщили исследователи из американского Университета Карнеги — Меллона. При помощи программного обеспечения, способного распознавать нетолерантные выражения, учёные проанализировали 680 тыс. комментариев интернет-пользователей на шахматную тематику. В результате искусственный интеллект счёл неуместным подавляющее большинство реплик, однако при последующей проверке людьми многие «оскорбительные» высказывания оказались обычным обменом мнениями между любителями популярной настольной игры.
Учёные из Университета Карнеги — Меллона (США) выяснили, что разговоры любителей шахмат в ряде случаев воспринимаются искусственным интеллектом как расистские высказывания. Об этом сообщила пресс-служба вуза.
Так, научный сотрудник Института языковых технологий этого университета Ашикур Худабухш и его коллега — инженер-исследователь Рупак Саркар — изучили 680 тыс. комментариев пользователей, оставленных на пяти популярных YouTube-каналах о шахматах. Они проанализировали эти высказывания с помощью двух современных классификаторов речи. Программное обеспечение, в котором применяются методы искусственного интеллекта (ИИ), провело идентификацию выражений, присущих так называемому «языку ненависти» — оскорбительных, нетолерантных высказываний, способствующих разжиганию межрасовой вражды.
В итоге программы ИИ обнаружили множество «оскорбительных» комментариев, однако при проверке людьми 1 тыс. случайно выбранных сообщений такого типа выяснилось, что 82% из них были рядовыми разговорами шахматистов про белые и чёрные фигуры, нападение друг на друга соперничающих сторон и методы защиты.
Игра в шахматы не впервые оказывается в центре внимания западной общественности в контексте проблемы расизма.
Так, в середине прошлого года, на пике активности движения за права афроамериканцев Black Lives Matter в США, разгорелся скандал, когда гроссмейстера Джона Адамса журналисты австралийского радио безуспешно попытались заставить отыскать в шахматах признаки расизма.
В то же время YouTube-канал популярного шахматного стримера Антонио Радича был заблокирован без объяснения причин после интервью с американским гроссмейстером японского происхождения Хикару Накамурой, где активно обсуждалось противостояние чёрных и белых фигур.
«Мы не знаем, какие инструменты использует YouTube, однако если для выявления расистских высказываний они полагаются на искусственный интеллект, то такое возможно», — отметил автор исследования Ашикур Худабухш, комментируя этот инцидент.
По его мнению, если подобное произошло с довольно известной личностью вроде Антонио Радича и получило огласку, то от таких ситуаций не застрахованы и рядовые пользователи, при этом для широкой общественности «цензура», скорее всего, останется незамеченной.
Кроме того, учёные описали похожий случай, связанный с несовершенством искусственного интеллекта. Исследователям было необходимо «научить» тренировочную программу дифференцировать собак согласно их темпераменту. Так, на серии тестовых снимков активные животные были часто запечатлены в движении на фоне зелёной листвы и травы. Однако искусственный интеллект регулярно ошибался, учитывая окружающую обстановку как критерий для оценки характера, и отмечал на фотографиях как активных даже инертных собак, которые просто лежали на газоне.