Правообладатель иллюстрацииGETTY IMAGES/REUTERSПредставитель компании Facebook заявил, что только за первые три месяца 2018 года в соцсети были удалены или получили предупреждения около 29 млн постов, нарушивших правила, запрещающие разжигание ненависти, публикацию сцен насилия и секса, а также пропаганду терроризма.
Это первый случай публикации руководством Facebook подробных данных о том, каких усилий от компании требует обеспечение соблюдения в соцсети этих правил.
Facebook также сообщил, что занимается разработкой компьютерные программ с использованием искусственного интеллекта, которые должны прийти на помощь 15 тысячам модераторов компании.
Однако из опубликованного отчета следует, что компьютерные программы пока способны распознавать далеко не все нарушения.
Например, автоматические алгоритмы распознали лишь 38% разжигающих ненависть постов. Это означает, что остальные 62% были обнаружены лишь потому, что о них сообщил кто-то из пользователей.
В то же время, как заявляет компания, разработанные ей программы заметили 99,5% пропагандистских постов в поддержку экстремистов «Исламского государства», «Аль-Каиды» (обе запрещены в России) и других связанных с ними группировок.
Данные, опубликованные компанией, свидетельствуют о том, что в первом квартале текущего года пользователи соцсети с большей вероятностью, чем в предыдущие три месяца, могли столкнуться с изображениями сцен насилия и обнаженной натуры.
Однако компания признается, что еще не разработала способ подобного сравнения в случае с разжиганием ненависти и пропагандой терроризма.
«Когда мы поймем, как это правильно делать, мы усовершенствуем нашу методику», — заявил глава отдела управления продуктами Facebook Гай Розен.
Насилие и секс
Facebook разбил запрещенный контент на несколько категорий:
- изображения сцен насилия;
- взрослая обнаженная натура и сцены секса;
- спам;
- разжигание ненависти;
- фейковые аккаунты.
Что касается последней категории, то, по оценкам компании, фейковыми являются 3-4% всех активных аккаунтов соцсети. Facebook заявил, что с января по март включительно были закрыты 583 млн фейковых аккаунтов.
Данные свидетельствуют о том, что количество изображений, содержащих сцены насилия, резко возросло — на 183% по сравнению с предыдущим периодом.
Facebook считает, что причиной этого стали появление более совершенной системы распознавания подобных изображений и эскалация насилия в Сирии.
В январе-мае из соцсети было удалено 1,9 млн сообщений экстремистского характера, это на 73% больше, чем в предыдущем квартале.
Опубликованные данные выглядят многообещающе для регулирующих органов, особенно в США и Великобритании, где власти призывали Facebook остановить распространение в соцсети материалов экстремистских группировок.
«Компания делает правильные шаги к четкому распознаванию того, что из публикуемого на их платформе контента попадает под защиту законного права на свободу выражения, а что нет», — говорит эксперт Центра изучения информационных технологий в интересах общества Института Калифорнии Бренди Ноннеке.
«Компании Facebook предстоит проделать огромную работу», — добавила она.
Нюансы и контекст
Сложность этой работы становится очевидной на примере постов, разжигающих ненависть — это категория, которую трудно контролировать при помощи автоматизированных процессов.
В январе-марте компания удалила 2,5 млн подобных постов — это на 56% больше, чем в октябре-декабре прошлого года.
С подавляющим большинством из них разбирались не алгоритмы, а модераторы, но даже они испытывали проблемы в определении того, что можно оставить, а что следует удалить.
«Здесь есть нюансы: важен контекст, который компьютерные технологии не в состоянии распознать, — говорит глава отдела обработки данных Алекс Шульц. — Так что в подобных случаях мы часто полагаемся на нашу команду специалистов, которые принимают окончательное решение о том, что должно быть удалено», — говорит он.
Шульц приводит пример использования некоторых слов, которые могут быть оскорблением, если звучат из уст гомофоба, но имеют другое значение, когда их употребляют сами геи.
Поэтому удалять посты только потому, что они содержат определенные слова, было бы неправильно.
«Но как вы узнаете, гей человек или нет, когда просматриваете данные его аккаунта?» — спрашивает он.
«В моем случае у меня это написано прямо в описании аккаунта. Я совершенно открытый гей, — говорит Шульц. — Но не все такие, и мы не всегда можем это знать. Это очень сложная проблема».
Тревожная выборка
Пытаясь понять, не упускают ли они что-нибудь важное, сотрудники компании сделали случайную выборку постов и посчитали, как часто встречаются нарушения правил размещения сообщений в соцсети.
Результаты оказались весьма тревожными.
Согласно выборке, 27 постов из каждых 10 тысяч содержали те или иные сцены насилия. Учитывая, что ежедневно в «Фейсбук» заходят полтора миллиарда пользователей, в соцсети могут каждый день появляться незамеченными модераторами десятки миллионов постов, содержащих сцены насилия.
Согласно все той же выборке, 7-10 постов из каждых 10 тысяч содержат обнаженную натуру или сцены секса.
Материалов, связанных с пропагандой терроризма, в этой выборке, по словам Шульца, оказало слишком мало. Что же касается разжигания ненависти, тот тут у компании «нет какой-либо надежной информации».
«Сейчас мы не можем подсчитать, как часто в «Фейсбуке» появляются посты, которые можно классифицировать как разжигание ненависти, потому что, когда мы просим наших представителей определить, содержит тот или иной пост ненависть или нет, перевести мнения в цифры оказывается довольно непросто», — говорит он.
«Мы совершаем ошибки, но стараемся усовершенствовать нашу систему оценок», — добавляет Алекс Шульц.
На что есть время
Однако Дотти Люкс, обвиняющая Facebook в неспособности эффективно бороться с нападками в соцсети на различные меньшинства, утверждает, что сложность такой задачи не является оправданием.
«У меня заканчивается терпение, когда я слышу оправдания вроде «это действительно очень трудно», потому что это далеко не новая проблема», — говорит она.
Там находят время, чтобы запустить приложения для знакомств, находят время, чтобы привязаться к моему банковскому счету, но у них нет времени на то, чтобы разобраться в собственных пользователях», — говорит Дотти Люкс.
