Влияние модерации онлайна на ненависть в офлайне

Одно из наиболее часто выдвигаемых обвинений в адрес платформ социальных сетей заключается в том, что они усиливают социальную напряженность. Контент, разжигающий ненависть, – обычное явление для соцсетей, и есть опасения, что такой контент может способствовать росту ненависти и в офлайне. Действительно, эмпирические данные свидетельствуют, что негативные настроения в соцсетях могут подпитывать реальное насилие в отношении беженцев, этнических и религиозных меньшинств. Эти данные согласуются с растущим числом исследований, показывающих, что социальные сети способны влиять на результаты во многих сферах реальной жизни – таких, как выборы, протесты, психическое здоровье.

Компании, владеющие платформами соцсетей, не сидят сложа руки и пытаются решить эти проблемы. Размещение публикаций, разжигающих ненависть, официально запрещено на всех основных онлайн-платформах. Несмотря на это, вопрос о том, как надлежит реализовывать политику модерации контента, остается весьма спорным: одни считают, что модерация применяется слишком слабо и недостаточно, в то время как другие, напротив, обеспокоены онлайн-цензурой.

Однако прежде чем решать, является ли политика модерации контента социально желательной, в первую очередь крайне важно понять, способна ли она уменьшать ненависть в онлайне и сокращать влияние хейтерских публикаций на реальную жизнь: именно реальные последствия такой политики могут быть главным компонентом размышлений о ее издержках и выгодах. В своем недавнем исследовании мы попытались предоставить некоторые первые доказательства по этому вопросу, используя в качестве квазиэксперимента крупное правовое изменение в Германии, произошедшее в 2017 г.

Укрощение онлайн-хейта

В 2017 г. парламент Германии принял широкомасштабный новый закон, направленный на снижение токсичности контента в социальных сетях, – закон «Об улучшении правоприменения в социальных сетях», Net Enforcement Act (NetzDG – Netzwerkdurchsetzungsgesetz; см. врез). Заявленная цель закона – «более эффективно бороться с преступлениями на почве ненависти, уголовно наказуемыми фейками и другим незаконным контентом в социальных сетях». Закон не ввел каких-либо новых правил – а четко указал, что правовые акты, которые касаются определенных видов оскорблений, разжигания ненависти и публичных подстрекательств к совершению преступлений и применяются в офлайн-мире, точно так же должны применяться по отношению к онлайн-миру социальных сетей.

Помимо требований к онлайн-платформам регулярно и публично отчитываться о том, что они предпринимают в ответ на жалобы на криминальный контент, закон позволяет правительству Германии штрафовать социальные сети на сумму до 50 млн евро, если они не удаляют такой контент в течение 24 часов.

Таким образом, NetzDG серьезнейшим образом повлиял на стимулы онлайн-платформ отслеживать и удалять разжигающий ненависть контент. Названный «ключевым тестом в борьбе с ненавистью в интернете», NetzDG представляет собой почти идеальный полигон для понимания эффекта более активной модерации хейтерского контента в социальных сетях, и именно это мы используем, чтобы проверить влияние такой модерации на уровень ненависти в онлайне и офлайне.

Введение NetzDG было мотивировано в том числе всплеском хейта в интернете в отношении беженцев, последовавшим за европейским кризисом беженцев 2015–2016 гг. Чтобы определить, какие люди больше всего подвергались воздействию онлайн-контента, направленного против беженцев, мы сосредоточились на пользователях – приверженцах ультраправой политической партии «Альтернатива для Германии» (AfD – Alternative für Deutschland). В третьем квартале 2017 г., когда NetzDG вступил в силу, AfD была третьей по величине партией в немецком парламенте, увеличив свое влияние за счет антииммигрантской риторики с особым акцентом на беженцах. Важно отметить, что AfD также имела (и до сих пор имеет) гораздо больше подписчиков в Facebook*, чем любая другая немецкая партия, что делало ее главным голосом в распространении контента против беженцев в социальных сетях.

Чтобы оценить влияние NetzDG на распространение хейтерских высказываний в онлайне, мы сравнили токсичность твитов о беженцах, отправленных последователями AfD, и других пользователей Twitter. Мы обнаруживаем явное снижение токсичности твитов последователей AfD, как только NetzDG вступил в силу, без сколь-либо четких тенденций до этого.

По нашим оценкам, NetzDG снизил относительную токсичность примерно на 8%. Этот вывод согласуется с недавними данными о том, что токсичность высказываний крайне правых немецких пользователей Twitter снизилась после NetzDG в сравнении с таковой у австрийских пользователей Twitter.

Офлайн-последствия онлайн-хейта

Выявленный нами результат предполагает, что NetzDG, вероятно, сделал онлайн-дискуссию о беженцах более цивилизованной. Еще более важный вопрос заключается в том, повлияло ли снижение онлайн-хейта на реальную жизнь: наше предыдущее исследование обнаружило связь между усилением настроений против беженцев в интернете и ростом преступлений против них.

Чтобы ответить на этот вопрос, мы изучаем влияние NetzDG на преступления на почве ненависти в отношении беженцев, используя различия на уровне муниципалитетов в подверженности населения ультраправому контенту в социальных сетях. Наша гипотеза заключается в том, что если NetzDG уменьшает количество хейтерских высказываний в онлайне, то можно было бы ожидать большего сокращения числа противоправных действий в отношении беженцев в тех районах, где больше людей подвергалось воздействию разжигающего ненависть контента.

Мы проверяем эту гипотезу, используя данные о популярности страницы AfD в Facebook* в разных муниципалитетах. Мы обнаруживаем непропорциональное снижение числа преступлений на почве ненависти против беженцев в муниципалитетах, где страница AfD более популярна: увеличение на одно стандартное отклонение числа подписчиков AfD в Facebook* на душу населения связано со снижением количества инцидентов против беженцев примерно на 1%.

При этом мы не обнаруживаем систематических изменений в количестве преступлений на почве ненависти в зависимости от охвата населения интернетом, от общего числа пользователей Facebook* в муниципалитете или от доли голосов за AfD. Это свидетельствует о том, что именно более строгая модерация контента соцсетей ультраправых влияет на снижение ненависти в офлайне.

Quo vadis, модерация контента?

Недавнее приобретение Twitter Илоном Маском возродило дискуссии о том, как платформы социальных сетей должны модерировать контент (см. врез ниже). И основное внимание уделяется тому, слишком ли мало или слишком ли много «свободы слова» или «ненавистничества» на этих платформах.

Опыт Германии с NetzDG – усиление цензуры ненавистнического контента, установленной государством, но выполняемой частными компаниями, – может служить примером. Очевидно, что усилия по удалению токсичного контента влекут за собой дополнительные расходы для платформ и правительства и что существуют оправданные опасения по поводу пристрастного ведения модерации и нарушения свободы выражения мнений. Тем не менее результаты нашего исследования показывают, что модерирование онлайн-контента действительно работает на снижение ненависти в соцсетях и ее последствий в реальной жизни.

* Деятельность Meta (соцсети Facebook и Instagram) запрещена в России как экстремистская.

Оригинал статьи опубликован на портале CEPR.org/VoxEU. Перевод, дополненный материалами из исследования, выполнен редакцией Econs.online.