Время прочтения - 5 мин.
Популярный портал YouTube более года занимается тонкой настройкой мощного алгоритма, предлагающего зрителям просмотреть те или иные видео. В компании уверяют, что добились больших успехов и советуют пользователям исключительно проверенные клипы. За 12 месяцев внедрено 30 изменений, а 94% неприемлемого контента удаляется до того, как видео наберут по 10 просмотров, бодро рапортует дочерняя структура Alphabet.
Но с этими выводами не согласны авторы независимого исследования качества рекомендаций портала. По их мнению, алгоритм, пропускающий фейки и контент с сексуальным подтекстом, требует радикального усовершенствования.
Непростая задача развлекательных сервисов
Некоммерческая организация Mozilla Foundation сообщает: мощная рекомендательная система YouTube продолжает направлять зрителей на видео, в котором содержатся ложные утверждения и контент с сексуальным подтекстом. Более того, участники исследования назвали неприемлемыми 71% видео, предложенных именно алгоритмом платформы.
Хронология роста YouTube. В 2021 году у платформы более 2,3 млрд пользователей. Источник — Backlinko
Проблема действительно существует. С ней регулярно сталкивается Alphabet — материнская структура YouTube — в попытках максимально тщательно контролировать пользовательский контент.
Борьбу за чистоту публикаций ведут все социальные сети — от Twitter до Facebook. По иронии судьбы они добились известности и баснословных доходов, поощряя людей делиться имеющейся у них информацией.
Но теперь гигантам приходится отвечать на резонные вопросы регуляторов и общества, требующих обуздать поток раскалывающего мир, вводящего нас в заблуждение и откровенно опасного контента. При этом необходимо избежать скатывания в цензуру и удушения свободы слова.
В чем провинился YouTube
Стоит признать — серьезные обвинения Mozilla Foundation подкреплены выводами. Для крупнейшего в своем роде исследования, завершившегося в мае 2021 года, фонд привлек 37 000 добровольцев.
Эти люди на протяжении 10 месяцев использовали при просмотре YouTube специальное расширение для браузера, отслеживавшее их активность. Как только участник маркировал видео как «проблемное», программа фиксировала информацию о том, было ли оно рекомендовано зрителю или он нашел его сам.
Финальный вывод шокирует: «неприемлемыми» добровольцы сочли 71% рекомендаций сервиса. Более чем в 20% случаях речь идет о «дезинформации», в 10% — о «пропаганде ненависти», и в 7% — о «сексуальном подтексте». Чаще всего подобный контент система предлагает к просмотру жителям стран, где английский не входит в число популярных языков.
По данным Mozilla Foundation, YouTube позже удалил 200 роликов, забракованных участниками, но эти клипы успели суммарно набрать более 160 миллионов просмотров.
По словам представителя сервиса, через «сито» платформы проскальзывает часть неприемлемого — но менее 1% от всех просмотренных видео. За год компания внедрила 30 изменений ради решения актуальной проблемы. И теперь автоматизированная система обнаруживает 94% видео, нарушающих политику YouTube, удаляя большинство из них до того, как они наберут по 10 просмотров.
Сложнейший вызов
Неужели так трудно обеспечить чистоту и непорочность видео, генерирующего порталу $19,7 млрд валовой выручки в год? Да. И в этом убеждают цифры.
Лидеры YouTube-2021 по числу просмотров (в млрд). Источник — Statista
Ежесуточно пользователи сервиса просматривают более 1 млрд часов видео. Каждый день они загружают на платформу по 720 000 часов записей, причем 2/3 новинок до выхода в эфир просматривают не люди, а продвинутый алгоритм Whac-A-Mole (ради снижения затрат и оперативности публикации клипов).
Его постоянное совершенствование обеспечивают технологии машинного обучения: постепенно он становится умнее, мощнее и отлавливает все больше так называемого пограничного контента. С 2019 года точность алгоритма, по заявлениям Alphabet, возросла на 70%.
Кому верить — Mozilla или YouTube?
Представители фонда говорят, что алгоритм видеосервиса отличается изначально встроенным в него противоречием: система обязана рекомендовать все ролики к просмотру, но при этом должна отсеивать неприемлемые клипы из этого потока. Тут-то искусственный интеллект и дает сбой. Следовательно, он недееспособен и требует радикального пересмотра.
«Когда пользователи говорят — эти рекомендации нам не подходят, возникает вопрос — чьи интересы обслуживает этот алгоритм», — резюмируют авторы исследования.
Не стоит забывать, что Mozilla Foundation владеет браузером Firefox — одним из конкурентов Google Chrome — и он обеспечивает бюджет этой некоммерческой организации более чем на 50%.
Определенный конфликт интересов возможен, но поведение владельцев YouTube сложно назвать безукоризненным: в Alphabet считают систему рекомендации контента своей собственностью и принципов ее работы не раскрывают. А потому анализировать ее эффективность крайне сложно. И фонду следует отдать должное — как минимум за попытку приподнять завесу тайны над принципами работы популярнейшего портала.
Источники: WSJ, Mozilla Foundation, YouTube, Backlinko, Statista
Подпишись на наш телеграм канал
только самое важное и интересное