«Наши души становились черными»: криминальное чтиво

0

Как работают модераторы Facebook: испытывают панику после просмотра жестоких видео, шутят о самоубийстве, а в перерыве идут покурить, чтобы притупить эмоции

В течение трех недель девушка Хлоя проходила стажировку, где на нее обрушилась лавина постов с агрессией, сценами насилия и порно. Еще через несколько дней Хлое предстояло выйти на полную ставку контент-модератора Facebook…

Никто не пытался утешить
Когда Хлоя должна была проверить пост, она нажала кнопку play. Начал проигрываться ролик. На видео убивали человека, ему наносили один ударом ножом за другим, жертва кричала и умоляла о пощаде. Задача Хлои состояла в том, чтобы сообщить, следует ли удалить этот пост и почему. Она уже знала, что в правилах Facebook прописан запрет на размещение видеороликов, на которых запечатлено убийство человека.
Когда Хлоя объясняла это другим стажерам, ее голос начинал дрожать. Она не могла сосредоточиться, выбежала из комнаты и разрыдалась. Хлою никто не пытался утешить — это была работа, которую она выбрала сама. При этом прямого отношения к соцсети она не имела. Девушку наняла фирма Cognizant — один из многочисленных подрядчиков Facebook. Для Хлои и еще для 15 тысяч модераторов по всему миру — это был всего лишь очередной рабочий день…
После видео с убийством Хлоя некоторое время проплакала в комнате отдыха, но взяла себя в руки, испугавшись, что ее долгим отсутствием будут недовольны. Она недавно окончила колледж, однако перед ней не открывались радужные перспективы. Она отчаянно пыталась найти работу, когда подавала заявку в Cognizant. Став штатным модератором, Хлоя будет зарабатывать 15 долларов в час — на четыре доллара больше, чем минимальная оплата труда в американском штате Аризона. Это было лучшее из мест, куда ее могли бы взять.
Хлоя успокоилась и вернулась в кабинет, где остальные стажеры обсуждали новое жесткое видео. На нем расстреливали людей с дрона, тела жертв становились будто ватными, ноги подкашивались, и они падали на землю. Хлое снова пришлось выйти…
Сотрудникам Cognizant полагается бесплатная помощь психолога. Когда консультант выслушал Хлою, он объяснил ей, что у нее был приступ панической атаки. Он обещал, что ей станет легче, когда она закончит обучение и начнет полноценно работать. «Сфокусируйся на своем дыхании и не слишком вовлекайся в то, что смотришь», — посоветовал он.
По словам Боба Дункана, который отвечает в Cognizant за модерацию всего контента в Северной Америке, на собеседовании претендентам наглядно показывают, с чем им придется столкнуться. «Мы сразу демонстрируем им примеры того, что они могут увидеть, чтобы у них изначально сформировалось решение, подходит ли им такая работа», — говорит он.
О своей работе согласились рассказать около десятка бывших и нынешних сотрудников Cognizant в американском городе Феникс (штат Аризона). Все они подписали соглашения о неразглашении и обязались не рассказывать о том, что делают для Facebook и даже не признавать, что Facebook является клиентом Cognizant. Поэтому все имена изменены.

Ненавидеть и оскорблять по правилам
К концу 2018 года Facebook собрал команду из более чем 30 тысяч сотрудников, занимающихся вопросами безопасности, около половины из них были модераторами. Лишь немногие из последних являются штатными сотрудниками Facebook. Операционный вице-президент компании Элен Сильвер заявляла, что привлечение подрядчиков позволило Facebook действовать более глобально: модераторы контента работали круглосуточно, оценивая публикации на более чем 50 языках по всему миру. Использование подрядчиков имело еще одну выгоду для соцсести — это существенно дешевле.
Facebook вот уже много лет находится под гнетом критики по поводу модерации. Компания подвергалась нападкам за то, что сделала недостаточно, например, при распространении антигуманных высказываний в связи со всплеском новостей о геноциде мусульман-рохинджа в Мьянме. Facebook критиковали и за чрезмерное усердие — когда модератор удалил пост с Декларацией независимости США, но в итоге было сделано исключение из правил Facebook, которые запрещают использование фраз типа «индейцы-дикари».
Принципы Facebook состоят из двух частей: общедоступных и более обширных внутренних правил, которые содержат детальную информацию по сложным вопросам. Последние дополняются комментариями и рекомендациями по проблемам модерации. Плюс дискуссии, которые ведут модераторы во время работы между собой. Если случается событие, новости о котором информагентства обычно помечают как «молния», на модераторов обрушивается волна разного рода контента, и они должны за минуты определить, соответствует ли он правилам. Дополнительные рекомендации по сложным вопросам появляются почти ежедневно. Эти руководства публикуются в Workplace — корпоративной внутренней сети для работников.
Также Facebook обнародовал свои стандарты, с помощью которых пытается совладать с 2,3 миллиардами пользователей ежемесячно. Чтобы следовать им, огромная глобальная армия низкооплачиваемых работников старается последовательно их применять, несмотря на почти ежедневные изменения и уточнения. Например, Facebook обновил правила, согласно которым модераторы должны учитывать недавние романтические неурядицы при оценке сообщений, выражающих ненависть к определенному полу. «Я ненавижу всех мужчин» — нарушение политики соцсети. «Я только что рассталась со своим парнем и ненавижу всех мужчин» — теперь вполне допустимо.

Работают в четыре смены
Модератор Мигель приходит на дневную смену в 7 часов утра. Он один из примерно 300 человек, которые займут свои места в офисе в Фениксе. Сотрудники службы безопасности внимательно отслеживают входящих, чтобы не пропустить недовольных бывших сотрудников и неадекватных пользователей Facebook, которые мечтают объясниться с модераторами из-за удаленных постов.
Войдя в здание, Мигель первым делом направляется к шкафчикам, где сотрудники хранят свои вещи. Чтобы защитить конфиденциальность пользователей Facebook, чьи сообщения просматривают модераторы, те должны хранить свои телефоны под замком в течение рабочего дня. На столе запрещено держать и письменные принадлежности, чтобы сотрудник не мог записать личные данные кого-то из пользователей Facebook. Мелкие личные вещи, такие как крем для рук, должны лежать в прозрачных пластиковых пакетах, содержание которых могли бы видеть руководители.
Люди работают в четыре смены и, учитывая также сильную текучку кадров, ни у кого из модераторов нет постоянного рабочего места. Мигель просто находит свободный компьютер, входит в систему под своим логином, нажимает кнопку «возобновить рецензирование» и погружается в бесконечную ленту постов.
Перед Мигелем стоят две задачи. Во-первых, он должен определить, нарушает ли пост установленные стандарты. Затем нужно выбрать правильную причину, по которой опубликованное является нарушением. Если он точно распознает, что сообщение должно быть удалено, но выберет неверное обоснование, это повлияет на оценку его точности. Мигель тратит около 30 секунд на публикацию, а их перед его глазами за день проходят сотни.
Мигелю положены два 15-минутных перерыва и один 30-минутный — обеденный. Первое, с чем он сталкивается, — это длинные очереди в туалет. В офисе в Фениксе на сотни сотрудников только две кабинки в мужской комнате и три в женской. Со временем Cognizant разрешил сотрудникам пользоваться туалетом на другом этаже, но дорога туда и обратно съедает драгоценные минуты перерыва. Сотрудники Cognizant также имеют право на 9-минутный «оздоровительный перерыв», им можно воспользоваться, если модератор чувствует недомогание. В Фениксе руководство как-то раз запретило модератору-мусульманину использовать «оздоровительный перерыв» для молитвы. Все его коллеги были в недоумении от такого решения.

Спит с пистолетом под подушкой
Справляться со стрессом, полученным во время работы, помогают специальные консультанты и психологи, а также занятия йогой и медитация. Однако сотрудники говорили, что не считают такую поддержку адекватной.
Сотрудники Cognizant занимались сексом в офисных туалетах, на пожарной лестнице и в комнате для корящих матерей. А бывший модератор Ли рассказал, что курил марихуану во время рабочего дня практически ежедневно (употребление марихуаны легально в Аризоне). По его словам, в перерывах сотрудники выходят на улицу, чтобы затянуться косячком. А еще Ли вспоминает, что за всю свою жизнь не слышал столько грязных шуток, сколько на той работе. Сотрудники, пытаясь поднять себе настроение, соревновались, кто пошлет другому самый расистский или оскорбительный мем. «Наши души становились черными от того, что мы творили», — рассказывает он. В самые плохие дни обычно шутили насчет того, что пора бы пойти потусоваться на крышу. Черный юмор строился вокруг того, что в один прекрасный день кто-нибудь из сотрудников, не выдержав всего происходящего, обязательно сиганет вниз.
Многие модераторы говорят, что контент, который им приходится просматривать каждый день, постепенно меняет их мнение об окружающем мире. Кое-кто начинает задумываться о том, что теория о плоской Земле не лишена оснований, другой отрицал реальность Холокоста, третий носит с собой план эвакуации из дома и с работы и спит с пистолетом под подушкой.
Несколько модераторов говорили, что у них возникли симптомы вторичного травматического стресса — расстройства, которое может возникнуть в результате наблюдения травмы, пережитой другими людьми. Люди, получившие вторичный травматический стресс, часто страдают от приступов беспокойства, потери сна и чувства отчужденности. Помощь профессионального психолога, которую обеспечивает Cognizant, заканчивается в тот момент, когда сотрудник пишет заявление об увольнении.
Хлоя испытывала травматические симптомы в течение нескольких месяцев после увольнения с этой работы, где проработала, как и многие модераторы, примерно год. Однажды у нее началась паническая атака в кинотеатре, когда одна из сцен фильма напомнила ей то первое видео с убийством человека. В другой раз у нее случился приступ паники, когда она проснулась дома на диване от звука пулеметной очереди. Оказалось, кто-то из домочадцев громко включил телевизор.

«Facebook был бы просто ужасен»
Facebook в ответ на журналистский запрос, связанный с подготовкой этого материала, согласился организовать экскурсию по офису в Фениксе. Пресс-секретарь уверяла, что рассказанные бывшими модераторами истории не отражают реального положения вещей. По первому впечатлению, офис оказался более комфортным и благоустроенным, чем можно было себе представить.
После встречи с руководителями Cognizant и Facebook, состоялась беседа с действующими модераторами. Все они соглашались, что работа непростая и бывают трудности, но уверяли, что чувствуют себя в безопасности и надеются на карьерный рост в Cognizant, а возможно, даже в Facebook.
Руководитель модераторов — менеджер по имени Брэд — говорил, что большая часть контента, которую просматривают его подопечные, довольно безобидна. Он призывал не преувеличивать степень стресса и угрозы психологическому здоровью сотрудников. По его словам, то, чем он занимается сейчас, намного лучше его предыдущей работы в супермаркете, где ему часто приходилось иметь дело со скандальными клиентами. «Тут, по крайней мере, нет никого, кто орет мне прямо в лицо», — констатирует он.
Все модераторы, с которым журналистам удалось пообщаться, были едины в одном — они очень серьезно относились к своей работе и считали ее важной. «Если бы мы не делали эту работу, Facebook был бы просто ужасен, — говорит Ли. — И да, черт возьми, иногда мы принимаем неверные решения. Но пользователи не понимают, что за всем этим стоят живые люди».
Но Facebook скорее расскажет о своих достижениях в области искусственного интеллекта, чем о том, насколько сильна его зависимость от живых модераторов. Впрочем, учитывая пределы развития технологий и бесконечное разнообразие человеческой речи, тот день, когда социальная сеть избавится от этой зависимости, кажется очень далеким.
Сам процесс модерации контента наносит серьезный психологический урон многим сотрудникам. Фактически они работают на передовой, выполняя важную для гражданского общества функцию. Справляясь со стрессом, они выполняют свою работу так долго, как могут, а уходя, оказываются еще больше в тени, что обеспечивает договор о неразглашении. Фото: «Если бы мы не делали эту работу, Facebook был бы просто ужасен». С сайта info24.ru

Кейси Ньютон, The Verge (перевод Юлия Царенко) http://info24.ru

Поделиться.

Комментарии закрыты