Администрация YouTube знает, что на просторах видеохостинга ежедневно появляются сотни, а то и тысячи крайне спорных видео: радикалы призывают убивать чернокожих, объявляют охоту на евреев и поют о любви к убийствам. Несмотря на регулярные отчеты об удалении подобных видео, проблем меньше не становится. «Лента.ру» разбиралась, почему самый популярный видеохостинг не спешит избавляться от расистов и чем их присутствие на площадке выгодно YouTube.
Кто жалуется?
В конце февраля пользователи обнаружили на YouTube весьма активный канал неонацистской группировки Atomwaffen Division. Ее члены «прославились» тем, что были замешаны сразу в нескольких убийствах евреев на территории Соединенных Штатов. Кажется, создатели канала даже не пытались шифроваться: в своих роликах они выкрикивают фразы про «газ для евреев» и призывают зрителей «начать расовую войну прямо сейчас». На фоне всего этого обычно звучат оружейные выстрелы.
За время существования канала (он был создан в июне 2017 года) пользователи многократно отправляли жалобы на неонацистскую страницу, однако от модераторов YouTube не было практически никакой реакции. Спустя какое-то время на роликах появилась плашка с предупреждением об «оскорбительном» контенте, но видео не удалили.
Тогда на проблему обратили внимание журналисты и потребовали у представителей платформы объяснений, почему неонацисты продолжают свободно пропагандировать убийства и насилие. «Мы считаем, что этот подход обеспечивает хороший баланс между предоставлением свободы выражать свое мнение и ограничением возможностей для продвижения спорного контента на YouTube», — ответили в администрации компании.
Скриншот: сайт Atomwaffen Division
В конце концов YouTube не смог устоять под натиском СМИ: журналисты ведущих американских изданий растиражировали эту историю до такой степени, что компании пришлось прислушаться к общественному мнению и заблокировать неонацистов. Теперь при попытке открыть экстремистский ролик пользователи видят сообщение, что учетная запись удалена «из-за многочисленных серьезных нарушений политики».
В середине марта еще одну серьезную проблему обнаружили журналисты «Би-би-си»: они выяснили, что модераторы почти не борются с экстремистскими песнями, клипами и композициями, в которых, как утверждают исследователи, пропагандируются убийства мусульман, евреев и других этнических групп.
Например, трек Fire Up the Ovens («Разожжем печи») восхваляет Холокост, ссылается на антисемитские теории заговора и содержит слова «мы любим убивать». Авторы других песен призывают сжечь весь турецкий народ, называют мусульман «сублюдьми» и используют куда более серьезные оскорбления по национальным признакам.
Журналисты обнаружили 99 подобных роликов, которые нарушали политику YouTube сразу по нескольким пунктам. В сумме все они собирали миллионы просмотров, а модераторы не видели в них никаких нарушений.
Журналисты «Би-би-си» сначала жаловались на ролики, отправляя репорты модераторам. Для пущей уверенности они добавляли тайм-коды с описаниями нарушений, однако большинство роликов остались на платформе. Тогда исследователи отправили список из сотни неонацистских песен напрямую разработчикам сервиса. Только после этого представители YouTube удалили весь спорный контент.
Еще одна кампания за строгую цензуру на YouTube развернулась в Швеции. В середине марта местные крупные газеты призвали администрацию удалить антисемитский пропагандистский фильм «Der Ewige Jude» («Вечный Жид»), выпущенный в нацистской Германии в 1940 году. Эта всемирно известная картина изучается как яркий пример исторической пропаганды. «Google, владеющий YouTube, помогает распространять материалы, пропагандирующие ненависть и насилие», — заявил сотрудник газеты Expressen Дэвид Баас.
Местные журналисты также отыскали на канале ролик под названием Granskning Sverige, автор которого называл имена и показывал фотографии известных евреев, живущих в Швеции, и многословно их оскорблял. «Как фигурирующий в этом списке человек я потрясена тем, что кому-то понадобилось столько времени, чтобы отреагировать на тот факт, что имена и другая информация о евреях каталогизируется», — расстроилась политический советник и писательница Анника Эрнрот-Ротштейн. В ролике ее называют «убийцей свободы» и «пособником террористического государства Израиль».
Старания общественности были вознаграждены: сотрудники YouTube удалили весь спорный контент, попутно рассказав об инновационных методах борьбы с экстремизмом на платформе.
А что YouTube?
В июне 2017 года YouTube объявил, что будет бороться с экстремистским контентом при помощи систем машинного обучения. По словам разработчиков, система ищет сходство с явно экстремистскими роликами, а затем удаляет их. Штат сотрудников, работающих с экстремистским контентом, увеличили до 10 тысяч человек.
Уже в конце года разработчики отчитались о «значительном прогрессе»: за полгода удалили более 150 тысяч экстремистских видеороликов. И хотя цифра не впечатляет и явно не соответствует реальному положению дел, кампанию признали успешной.
Не просто случайность
Однако журналистка издания The New York Times Зейнеп Туфекчи (Zeynep Tufekci) предположила, что модераторы не только сознательно саботируют борьбу со спорным контентом, но и настойчиво предлагают с ним ознакомиться. В доказательство этого она описала историю, произошедшую во время выборов президента США.
В 2016 году Зейнеп готовила статью о Дональде Трампе: ради поиска прямых цитат ей пришлось посмотреть тонну тематических роликов. Однажды девушка обратила внимание, что YouTube стал предлагать ей посмотреть ролики с отрицанием Холокоста и расистскими высказываниями. Более того, эти видео запускались автоматически.
Фото: Lucy Nicholson / Reuters
Заметив странное поведение видеохостинга, Туфекчи решила провести эксперимент: если в ее рекомендациях появились ролики ультраправой направленности, сможет ли она добиться противоположного результата?
Для этого журналистка создала новый YouTube-аккаунт и начала просматривать записи с Хиллари Клинтон и Берни Сандерсом — кандидатами в президенты США от демократов. К удивлению девушки, ее догадка подтвердилась. Спустя некоторое время раздел рекомендаций заполнили ролики с сомнительными конспирологическими теориями: доказательствами существования секретных правительственных учреждений и обвинениями властей США в трагедии 11 сентября. Как и в случае с Трампом, YouTube начал предлагать ролики по теме изначального запроса, но — пожестче.
Как оказалось, подобный трюк администрация сайта проделывает и с далекими от политики темами. Видео о вегетарианстве приводили к запуску роликов о веганах, а записи с обычного марафона незамедлительно заменялись роликами о беге на сверхмарафонские дистанции: YouTube постоянно повышает ставки.
Зачем YouTube это делает?
По мнению аналитиков, разработчики YouTube намеренно усовершенствовали систему таким образом, чтобы она всегда советовала посмотреть более радикальную сторону изначально искомого контента. Этот факт подтвердил бывший сотрудник компании Guillaume Chaslot, который до 2013 года работал над алгоритмом функции рекомендаций.
В расследовании газеты The Wall Street Journal программист заявил, что хостинг буквально скармливал пользователям радикальные левые или правые ролики, даже когда они искали нейтральные источники новостей. Например, если зритель просматривал ролики о прививке против гриппа, в рекомендациях обязательно появлялись записи о заговоре против вакцинации.
Судя по всему, разработчики поняли, что даже искусственная радикализация контента позитивно влияет на просмотры видеороликов. Пока люди изучают теории заговора, руководство компании получает прибыль за показы рекламы.
«То, что мы наблюдаем, — это вычислительная эксплуатация естественного человеческого желания: смотреть "за занавес", копать глубже там, где нас что-то привлекает. Когда мы смотрим ролик за роликом, нас сопровождает захватывающее ощущение того, что мы раскрываем секреты и постигаем глубокие истины. YouTube подводит зрителей к кроличьей норе экстремизма, в то время как Google фиксирует продажи рекламы», — резюмирует журналистка Зейнеп Туфекчи.
Сотрудница The New York Post также отметила, что дело принимает опасный оборот, так как миллионы людей обращаются к YouTube за поиском информации. Исследование о поведении подростков в соцсетях, проведенное в 2017 году, показало, что почти половина российских пользователей в возрасте от 14 до 17 лет предпочитают смотреть новости на YouTube, не используя поисковики или новостные сайты.