Количество изображений, содержащих сцены насилия, за этот период выросло на платформе на 183%. Причиной тому в Facebook считают эскалацию войны в Сирии.
Кроме того, автоматические алгоритмы Facebook распознают лишь 38% постов, разжигающих ненависть. Оставшиеся 62% обнаруживаются благодаря жалобам пользователей. С другой стороны, компании удалось разработать алгоритмы, которые с вероятностью 99,5% определяют пропагандистские посты ИГИЛ, Аль-Каиды и других экстремистских группировок. За три месяца из соцсети было удалено 1,9 млн сообщений такого содержания. По словам главы отдела управления продуктами Facebook Гая Розена, методика будет совершенствоваться и в дальнейшем.
Все о свободе слова в Украине и мире (ОБНОВЛЯЕТСЯ)
Компания также отчиталась о своих данных по фейковым аккаунтам в соцсети. Таковыми на данный момент являются порядка 3-4% всех профилей, причем в первом квартале 2018 года были закрыты 583 млн аккаунтов-фейков.
Главной проблемой модерации по-прежнему остается необходимость заниматься ею вручную. Порой даже работники компании, на которых ложится львиная доля ответственности за удаление запрещенного контента, испытывают трудности с тем, где провести границу между разрешенным и экстремистским содержанием. Глава отдела обработки данных Facebook Алекс Шульц приводит в пример слова, которые являются оскорблением, когда их употребляет гомофоб, но приемлемы в среде самих гомосексуалов.
Напомним, в апреле журналисты BBC расспросили бывшую сотрудницу отдела модерации Facebook о том, как повлияла работа на ее психическое состояние.
