Как искусственный интеллект счёл высказывания любителей настольной игры расистскими

RT на русском 18 февраля 2021
Программы, использующие инструменты искусственного интеллекта, сочли высказывания любителей шахмат расистскими. Об этом сообщили исследователи из американского Университета Карнеги — Меллона. При помощи программного обеспечения, способного распознавать нетолерантные выражения, учёные проанализировали 680 тыс. комментариев интернет-пользователей на шахматную тематику. В результате искусственный интеллект счёл неуместным подавляющее большинство реплик, однако при последующей проверке людьми многие «оскорбительные» высказывания оказались обычным обменом мнениями между любителями популярной настольной игры.
Учёные из Университета Карнеги — Меллона (США) выяснили, что разговоры любителей шахмат в ряде случаев воспринимаются искусственным интеллектом как расистские высказывания. Об этом сообщила пресс-служба вуза.
Так, научный сотрудник Института языковых технологий этого университета Ашикур Худабухш и его коллега инженер-исследователь Рупак Саркар изучили 680 тыс. комментариев пользователей, оставленных на пяти популярных YouTube-каналах о шахматах. Они проанализировали эти высказывания с помощью двух современных классификаторов речи. Программное обеспечение, в котором применяются методы искусственного интеллекта (ИИ), провело идентификацию выражений, присущих так называемому языку ненависти — оскорбительным, нетолерантным высказываниям, способствующим разжиганию межрасовой вражды.
В итоге программы ИИ обнаружили множество «оскорбительных» комментариев, однако при проверке людьми 1 тыс. случайно выбранных сообщений такого типа выяснилось, что 82% из них были рядовыми разговорами шахматистов про белые и чёрные фигуры, нападение друг на друга соперничающих сторон и методы защиты.
Игра в шахматы не впервые оказывается в центре внимания западной общественности в контексте проблемы расизма.
Так, в середине прошлого года, на пике активности движения за права афроамериканцев Black Lives Matter в США, разгорелся скандал, когда гроссмейстера Джонаалисты австралийского радио безуспешно попытались заставить отыскать в шахматах признаки расизма.
В то же время YouTube-канал популярного шахматного стримера Антонио Радича после интервью с американским гроссмейстером японского происхождения Хикару Накамурой, где активно обсуждалось противостояние чёрных и белых фигур, был заблокирован без объяснения причин.
«Мы не знаем, какие инструменты использует YouTube, однако если для выявления расистских высказываний они полагаются на искусственный интеллект, то такое возможно», — отметил автор исследования Ашикур Худабухш, комментируя этот инцидент.
По его мнению, если подобное произошло с довольно известной личностью вроде Антонио Радича и получило огласку, то от таких ситуаций не застрахованы и рядовые пользователи, при этом для широкой общественности «цензура», скорее всего, останется незамеченной.
Кроме того, учёные описали похожий случай, связанный с несовершенством искусственного интеллекта. Исследователям было необходимо «научить» тренировочную программу дифференцировать собак согласно их темпераменту. Так, на серии тестовых снимков активные животные были часто запечатлены в движении на фоне зелёной листвы и травы. Однако искусственный интеллект регулярно ошибался, учитывая окружающую обстановку как критерий для оценки характера, и отмечал на фотографиях как активных даже инертных собак, которые просто лежали на газоне.
Комментарии
Шахматы , Джон Адамс , Хикару Накамура
Читайте также
Умерла мать Анатолия Карпова
40
Есипенко стал третьим на шахматном турнире в Вейк-ан-Зее
Последние новости
Белоруссия произвела пробную партию «Спутника V»
«Рома» в большинстве не сумела обыграть «Беневенто» в Серии А
Определите правителя России по событию с тестом RT