YouTube запрещал своим сотрудникам искать "опасные" видео на платформе

В течение многих лет YouTube игнорировал просьбы своих сотрудников обращать внимание и снимать токсичные видео из доступа. Это делалось в стремлении повысить вовлеченность. По словам более чем 20 бывших и нынешних сотрудников YouTube, сотрудники предлагали идеи по ограничению распространения видео, которые содержат тревожный, экстремистский контент и/или теории заговора, но руководство сервиса больше заинтересовано в активизации участия, чем в стремлении прислушаться к этим предупреждениям. В одном предложении был представлен способ сохранить контент, который «находился на грани» нарушения политики платформы, но удалить его из рекомендуемой вкладки. YouTube отклонил это предложение в 2016 году, сказал бывший сотрудник компании, и вместо этого продолжал рекомендовать видео, независимо от того, насколько они противоречивы. По словам сотрудников, внутренней целью компании было достичь 1 миллиард часов просмотров в день. Об этом сообщает  Информатор Tech, ссылаясь на Bloomberg. «Я могу с большой уверенностью сказать, что они были глубоко неправы», - заявил сотрудник. Сообщается, что сотрудникам, не входящим в группу модераторов, также не рекомендуется искать на YouTube токсичные видео, поскольку юристы заявили, что компания будет нести большую ответственность, если появится доказательство того, что сотрудники знали и признавали наличие этих видео. Штаб-квартира YouTube Сан-Бруно, Калифорния. По крайней мере пять старших сотрудников покинули YouTube из-за его нежелания заняться этим вопросом. Как рассказала другая бывшая сотрудница, генеральный директор YouTube Сьюзен Войчицки «никогда не станет держать руку на пульсе», заявив, что ее целью было просто «управлять компанией», а не бороться с натиском дезинформации и опасного контента. Представитель YouTube заявил, что компания начала действовать в конце 2016 года, а в 2017 уже демонетизировала каналы, которые рекламировали вредоносный контент. Однако только в конце прошлого года в ее команде «доверия и безопасности» было занято менее 20 сотрудников. В подробном отчете Bloomberg можно узнать больше подробностей о том, как сотрудники боролись за то, чтобы спорные видео не стали вирусными. «Нашей основной задачей было решение некоторых из самых сложных проблем с платформой», - заявила пресс-секретарь. «Мы предприняли ряд важных шагов, в том числе обновили нашу систему рекомендаций, чтобы предотвратить распространение вредоносной дезинформации, улучшили работу с новостями на YouTube, довели количество людей, сосредоточенных на проблемах контента в Google, до 10 000, инвестировали в машинное обучение, чтобы иметь возможность быстрее находить и удалять вредоносное содержимое, а также просматривать и обновлять нашу политику - только за 2018 год мы сделали более 30 обновлений политики платформы. И это не конец: ответственность остается нашим приоритетом номер один». В 2018 году YouTube попытался остановить распространение поддельных новостей и и теорий заговора на своей платформе с информационным блоком, и в этом году он начал удалять монетизацию из потенциально опасного контента. Тем не менее, даже если YouTube сможет воспрепятствовать распространению спорных видео, ему, в конечном счете, придется бороться с основной проблемой модерации контента, поскольку токсичный контент по-прежнему широко распространен на сайте. Напомним, что YouTube закрывает комментарии под видео с участием детей, а также YouTube Stories получит поддержку инструментов AR Effect.