Загрузка ...Журналисты The Guardian провели расследование, чтобы выяснить, по каким принципам модераторы крупнейшей социальной сети удаляют пользовательский контент.
В распоряжении редакции оказались сотни буклетов, инструкций и прочих внутренних документов компании. Все они были предназначены для модераторов, отслеживающих пользовательский контент, связанный с насилием, жестокостью, грубостью, терроризмом, порнографией, расизмом и другими болезненными темами.
Среди инструкций есть весьма экзотические, например: “Как понять, что контент попадает в категорию “каннибализм”.
За всеми не уследить
Этико-правовые претензии преследуют компанию уже давно. С одной стороны, Facebook – настолько влиятельная социальная сеть, что ее уже давно можно включить в категорию “медиа”, несмотря на то, что своего контента она не создает.
Но если регулировать Facebook как СМИ, то это значит, что компания будет нести ответственность за все пользовательские материалы. А отследить каждый сомнительный пост — задача невыполнимая: сейчас в сети зарегистрировано 2 млрд пользователей.
По информации газеты, модераторы соцсети буквально тонут в объеме работы, и зачастую у них есть всего 10 секунд, чтобы принять решение, блокировать ли тот или иной пост.
Один из анонимных источников в Facebook сообщил газете, что компания не в состоянии контролировать контент, который появляется на ее сайте. По последним данным, одних только “фейковых” аккаунтов появляется 6,5 млн. в неделю.
Непонятно, что удалять
Сами модераторы жалуются на нечеткие инструкции, из-за которых решения зачастую принимаются на основе личного понимания ситуации.
Наиболее запутанные инструкции касаются контента сексуального характера. Например, если девушка выкладывает фото себя в двух ниточках купальника — это нормально. Но при этом фото по инструкции должно быть удалено, если 1) оно сделано в частной обстановке, 2) человек на нем обнажен, почти обнажен или сексуально активен, 3) очевидно, что фото выложено без согласия изображенного на нем человека. То есть если эту же самую фотографию девушки опубликовал у себя ее “бывший”, то этот пост следует блокировать.
Удалению, согласно внутренним правилам, также подлежат комментарии вроде “Застрелите уже этого Трампа”, потому что он — глава страны и просто гражданин, и защищен законом.
При этом можно оставить в комментариях инструкции по удушению человека, детально описав куда и сколько давить, и никто не будет ее удалять, поскольку в тексте не имеется в виду кто-то конкретный.
«Поубивал бы всех жирных детей» — это нормально
“Иди на х… и умри”, “Поубивал бы всех жирных детей”, “Надеюсь, что кто-нибудь перережет ей горло”, “Отрезал бы тебе язык” — тоже нормально, потому что не содержит прямой угрозы.
Однако если все то же самое подается в форме призыва (“Режь, жги и стань ужасом сионизма”), то такие комментарии или посты надо удалять.
Видео, на которых кого-то убивают, далеко не всегда подлежат удалению, потому что некоторые из них могут способствовать росту осведомленности населения, считает Facebook. Например, когда в них показываются зверства, которые некоторые правительства устраивают в своих странах.
Фото и видео, на которых унижают или бьют детей, не подлежат удалению, если характер изображения нельзя описать как садистский. Почему? На всякий случай, чтобы ребенка можно идентифицировать, если он пропал. Это способствует поискам.
То же относится к фото и видео издевательств над детьми из регионов, охваченных войной.
Фото истощенных детей в концлагерях, фото солдата в униформе Второй мировой, который издевается над детьми — разрешены.
Фото и видео убийства или негуманного отношения к животным не подлежат удалению. Если жестокость зашкаливает, это нужно отметить, чтобы не травмировать особенно чувствительных пользователей. Блокировка — только если есть элементы садизма.
Видео и фото процесса аборта разрешены, если в них не содержится наготы.
Если кто-то хочет перерезать себе вены в прямом эфире, Facebook это разрешает, потому что не намерен ущемлять права людей в депрессии.
Зато если у пользователя больше 100,000 фолловеров, то, по правилам компании, он автоматически становится публичной фигурой и теряет некоторые права на защиту своей анонимности.
В одном из документов сказано, что пользователи должны чувствовать себя комфортно, выражая ненависть и прочие негативные чувства в комментариях. Единственная причина для модератора присмотреться к агрессивным дискуссиям, — если там идет обсуждение какого-то конкретного сценария действий.