Facebook объяснили, почему их ИИ не поймал прямую трансляцию новозеландского боевика

Крупнейшая в мире социальная сеть подверглась критике за неспособность технологии искусственного интеллекта автоматически обнаруживать видео с террористической атакой. В ответ Facebook сообщает, что их системы искусственного интеллекта не была подготовлена к новозеландской трагедии. В четверг в своем блоге Гай Розен, вице-президент по управлению продуктами, сказал, что для того, чтобы ИИ что-то узнал, ему нужно это показать. Например, вам могут понадобиться тысячи изображений наготы или террористической пропаганды, чтобы научить систему идентифицировать эти вещи. Об этом сообщает Информатор Tech, ссылаясь на Facebook. «Нам нужно будет предоставлять нашим системам большие объемы данных подобного контента, что сложно, так как эти события, к счастью, редки», - сказал Розен в своем посте. Кроме того, он отметил, что для системы сложно распознавать «визуально похожие» изображения, которые могут быть безвредными, как видеоигры в прямом эфире. «ИИ является невероятно важной частью борьбы с террористическим контентом на наших платформах, и хотя его эффективность продолжает повышаться, он никогда не будет идеальным», - сказал Розен. Проблемы Facebook с искусственным интеллектом также подчеркивают, как они опираются на отчеты пользователей. Социальная сеть не получила отчет пользователей во время прямой трансляции предполагаемого стрелка. После стрельбы в Крайстчерче, в результате которой погибли 50 человек, Facebook, Google и Twitter также должны были ответить на вопросы о том, как контролировать распространение подобного рода контента. В понедельник Facebook сообщил, что в прямом эфире его смотрели менее 200 зрителей, и что до того, как оно было снято, видео просмотрело около 4000 человек. Первый пользователь, сообщивший об этом видео, сделал это через 12 минут после окончания прямой трансляции. За первые 24 часа после события Facebook удалил 1,5 миллиона данных видео, 80 процентов из которых были заблокированы перед выходом в социальные сети. Некоторые эксперты по социальным сетям утверждают, что Facebook должен откладывать прямые трансляции, как это иногда делают телевизионные станции, но Розен считает, что это не решит проблему, потому что миллионы прямых трансляций в Facebook ведутся каждый день. В публикации в четверг также рассказывалось о шагах, которые Facebook по-прежнему планирует предпринять, в том числе о совершенствовании технологии ИИ, выяснении того, как быстрее получать пользовательские отчеты, и дальнейшей работе с Глобальным интернет-форумом по борьбе с терроризмом. Ранее мы сообщали о том, что Facebook держали в открытом доступе сотни миллионов паролей пользователей. Также писали про то, что Facebook добавляет в Messenger возможность отвечать в переписке на конкретное сообщение.

Станислав Валуйкин