Согласно попавшим в прессу рекомендациям для модераторов, Facebook должен был оценить почти 54 000 потенциальных случаев порнографии в целях мести и "sextortion" на сайте в течение одного месяца.
Цифры, которыми поделились сотрудники и которые попали в распоряжение изданию The Guardian, показывают, что в январе Facebook пришлось отключить более 14 000 учетных записей, связанных с этими видами сексуального насилия, и в 33 из рассмотренных случаев были задействованы дети.
В то же время сотрудники Facebook жалуются на то, что правила, касающиеся откровенного содержания, наиболее запутанные. В частности, определение "порно в отместку" (revenge porn) считает таковым публикацию фотографий обнаженных/почти обнаженных людей, которые не хотели бы, чтобы снимки видели другие. Цель публикации - поставить их в неловкое положение.
Чтобы быть признанным revenge porn, изображение должно быть произведено в частном пространстве, человек на фото должен быть обнаженным/почти обнаженным или сексуально активным, должно отсутствовать согласие изображенного человека. Последнее подтверждается мстительным комментарием (в подписи, комментарии или названии страницы) или независимым источником (СМИ, запись в системе онлайн-запросов от правоохранительных органов).
В компании Facebook признали, что "откровенное содержание" является высокоприоритетной областью, в которой используется программное обеспечение "сопоставление изображений", чтобы запретить явный контент, попадающий на сайт. Facebook также признал, что трудно провести границу между приемлемым и неприемлемым сексуальным содержанием.
Фото: theguardian.com
Порнография в Facebook стала проблемой после того, как на соцсеть обрушилась критика за удаление или неудаление тех или иных материалов. В частности, недавно таец транслировал на Facebook убийство 11-летней дочери. Резонанс вызвала и прямая трансляция Стива Стивенса, убившего старика в Кливленде, штат Огайо.
Однако социальная сеть с 2 млрд пользователей не может регулироваться теми же методами, что прежние ресурсы и СМИ. Программисты компании работают над алгоритмами, позволяющими отсекать нежелательный контент еще до публикации, но основная работа ложится на плечи модераторов, которые и будут решать, что делать с той или иной публикацией.
Ранее в Facebook заявили, что в течении 2018 года наймут три тысячи новых модераторов для борьбы с насилием в прямых эфирах.
Также среди внутренних правил соцсети стало известно, что модераторы Facebook вынуждены выполнять более 100 инструкций касательно того, что и как можно размещать пользователям на страницах. Так, на принятие решений по каждому случаю работнику соцсети выделяется около 10 секунд.