Правительства во всем мире стремятся регулировать то, как компании социальных сетей борются с проблемным контентом на своих платформах, в особенности с языком ненависти, харассментом и дезинформацией.
Но несмотря на благие намерения, их предложения рискуют принести больше вреда, чем пользы, и им не удается решить истинную проблему — наличие чрезмерной власти у нескольких крупнейших компаний, чьи бизнес-модели по своей сути являются эксплуататорскими.
Аналитические документы АРТИКЛЬ 19 предлагают решение, которое не только защитит свободу выражения мнений и неприкосновенность частной жизни в Интернете, но и, наконец, предоставит всем нам жизнеспособную альтернативу технологическим гигантам.
В чем заключается проблема с платформами
Социальные сети являются для нас жизненно важным пространством для общения, обмена информацией и доступа к ней. Но поскольку бизнес-модели крупных платформ соцсетей основаны на привлечении нашего внимания и продаже его рекламодателям, их алгоритмы заточены под то, чтобы удерживать нашу вовлеченность как можно дольше, в том числе путем увеличения количества проблемного контента, такого как язык ненависти и дезинформация.
Правительства выступают с различными предложениями по решению этой проблемы. Тем не менее, вместо того чтобы бороться с несовершенствами бизнес-модели, многие из их так называемых путей решения сосредотачиваются на том, публикацию какого рода контента – а также наличие к нему доступа – следует и не следует разрешать людям в социальных сетях.
Это дает крупным платформам еще больше возможностей для контроля над тем, что мы видим, говорим и чем делимся в Интернете — с катастрофическими последствиями для общественных обсуждений, свободного потока информации и демократии как таковой.
Обсуждения социальных сетей неизменно омрачаются «регуляторной дилеммой» — мы не хотим государственного вмешательства, но нам нужно лучшее регулирование.
Как разрешить эту дилемму?
АРТИКЛЬ 19 разработал комплексное двухкомпонентное решение.
Решение АРТИКЛЬ 19
1. Как регулировать модерацию контента, одновременно защищая свободу выражения мнений
Прежде всего, в нашем аналитическом документе под названием «Регулирование регуляторов» излагается, каким образом правительства могут гарантировать, чтобы принимаемые ими меры по регулированию платформ соблюдали свободу выражения мнений пользователей, совершенствовали прозрачность платформ, их подотчетность и процесс принятия ими решений, а также – что крайне важно – избегали наделения того узкого круга компаний, доминирующих в цифровой сфере, еще большей властью.
Кто будет контролировать тех, кто нами управляет?:
Как регулировать процессы модерации контента, одновременно защищая свободу выражения мнений
Однако установление для социальных сетей стандартов, совместимых с правами человека, — это лишь часть проблемы.
В настоящее время лишь несколько платформ доминируют на рынках социальных сетей, эксплуатируют своих пользователей и нарушают наши права на неприкосновенность частной жизни, свободу выражения мнений и недискриминацию. И отсутствие жизнеспособных альтернатив ограничивает нас рамками этих эксплуатативных взаимоотношений.
Чтобы действительно устранить проблемы на рынках социальных сетей, мы должны бороться с чрезмерной рыночной властью нескольких огромных корпораций, которые их контролируют.
2. Как бороться с чрезмерной рыночной властью гигантов социальных сетей
Второй аналитический документ АРТИКЛЬ 19 – «Укрощение технологических гигантов» – рассказывает, как именно это сделать.
В нем излагается решение, которое стимулирует конкуренцию и трансформирует социальные сети – из закрытого пространства, контролируемого узким кругом эксплуататорских компаний и пронизанного ненавистническими высказываниями и дезинформацией, в открытое и разнообразное пространство, где мы будем иметь реальный выбор среди поставщиков услуг и сумеем выйти из эксплуатативных взаимоотношений.
Приручение технологических гигантов:
Как бороться с избыточным рыночным влиянием гигантов социальных сетей
В совокупности эти два предложения будут как защищать свободу выражения мнений, плюрализм и разнообразие медиа, так и приведут к созданию более открытых, справедливых и децентрализованных платформ, обеспечивающих свободный поток информации.
Это будет взаимовыгодным вариантом для всех – для пользователей социальных сетей, для менее крупных поставщиков услуг, а также для общества и демократии в целом.
Ответы на ключевые вопросы
Безусловно, отрадно, что правительства хотят бороться со злоупотреблениями, языком ненависти и другим проблемным контентом в сети — теми проблемами, неспособность решить которые неоднократно показывали крупнейшие платформы, проблемами, которые отпугивают многих пользователей.
Но пускай их намерения можно понять, в действительности многие из их предложений принесут больше вреда, чем пользы.
Все потому, что, хотя предложения правительств заявляются как работающие над регулированием платформ, на самом деле они скорее регулируют высказывания пользователей. По сути, правительства просят платформы контролировать нас и решать, какие высказывания являются «незаконными» или даже «законными, но вредоносными». Такие инициативы предоставят имеющемуся узкому кругу крупнейших компаний еще больше власти.
Документ АРТИКЛЬ 19 «Регулирование регуляторов» описывает, как правительства могут регулировать модерацию и курирование контента платформами, исходя из защиты прав пользователей.
Но модерация и курирование контента являются лишь частью проблемы. Правительствам также необходимо принимать меры в отношении чрезмерного рыночного влияния доминирующих технологических компаний.
Столь чрезмерное рыночное влияние играет существенную роль в проблемах в части свободы высказываний. Вот почему наши предложения предусматривают комплексное двухкомпонентное решение, которое не только предотвращает дальнейшую концентрацию такого влияния, но и является инновационным, поскольку позволит сформировать более открытые, справедливые и децентрализованные рынки социальных сетей.
Таким образом, два документа АРТИКЛЬ 19 представляют собой две стороны одной медали, и оба пути решения необходимы для защиты прав пользователей.
Во всем мире более трех четвертей людей в возрасте 13 лет и старше используют социальные сети, мы проводим в них в среднем 2,5 часа ежедневно.
Просто удалиться из соцсетей — не вариант для большинства из нас, ведь они являются неотъемлемой частью всех аспектов нашей жизни.
От поддержания связи с друзьями и семьей до совершения покупок, от отслеживания мировых новостей до участия в форумах и комьюнити, от получения образования до увлечений и хобби и от организации вечеринки по случаю дня рождения до обмена информацией о протестах – социальные сети стали цифровым эквивалентом зон отдыха, городских площадей и городских же советов.
Таким образом, предположение, что люди могут просто удалиться из социальных сетей, является точной зрения с очень привилегированной позицией. Для многих людей удаление станет сродни тому, чтобы остаться в изоляции от сообществ — и даже общества — и отрезать себя от базовых услуг.
И уж тем более мы не должны удаляться, учитывая, что не существует конкурирующего сервиса, на который можно было бы перейти, — что само по себе является результатом доминирования технологических гигантов на рынке.
Мы застряли меж двух огней.
Наш единственный выход из сложившейся ситуации — бороться с чрезмерной властью технологических гигантов.
Монополии любого рода вредны для общества. Они контролируют рынок, ограничивают нас до использования их товаров или услуг и не имеют стимула к совершенствованию — ведь у них отсутствует конкуренция и им нет альтернатив.
Ни одна организация — будь то частная или государственная — не должна контролировать поток информации в обществе. Тем не менее чрезмерное рыночное влияние крупных платформ социальных сетей в сочетании с их популярностью как источника информации и их властью над тем, какую информацию мы увидим, означает, что как раз такой контроль они и способны осуществлять.
Это делает из доминирующих платформ привратников – не только применительно к рынку (поскольку они могут устранять конкурентов и замыкать на себя пользователей), но и применительно к правам человека (поскольку они могут наделить нас правами на неприкосновенность частной жизни, свободу выражения мнений и прочими основополагающими правами человека или их ограничить).
Чтобы устранить эти проблемы, мы должны ослабить эту власть и держать ее под контролем.
В своем документе «Укрощение технологических гигантов» АРТИКЛЬ 19 предлагает уникальное решение обеих этих проблем: модерации и курирования контента на платформах социальных сетей, а также чрезмерного рыночного влияния компаний, ими владеющих.
Мы предлагаем разделить (или, как еще говорят, «разукрупнить») две услуги, которые крупные платформы в настоящее время предоставляют в виде единого пакета: (1) хостинг контента и (2) курирование контента.
В настоящее время платформы как осуществляют хостинг (размещение) нашего контента (т.е. мы можем создавать свои профили и делать публикации на их платформе), так и курируют этот контент (т.е. они используют свои собственные алгоритмы и модераторов для формирования нашей ленты, то есть того, что мы видим на их платформе). Они не дают нам выбора, предоставляя и хостинг, и курирование — две разные услуги — в рамках одного неделимого пакета услуг.
Но нет причин, по которым им необходимо быть неделимыми. Единственное, почему они все еще таковы, — это позволяет доминирующим компаниям исключать конкурентов, замыкать на себя пользователей и преумножать свои и без того невероятные прибыли (например, в 2021 году Meta получила прибыль в размере 39,37 миллиарда долларов).
Разделение этих двух сервисов будет означать, что крупные платформы по-прежнему смогут предоставлять хостинг для нашего контента (т.е. мы по-прежнему сможем использовать наши существующие профили на их платформах), но они будут должны разрешить сторонним компаниям заниматься его курированием (т.е. формировать наши новостные ленты). Таким образом сторонние поставщики услуг смогут конкурировать с технологическими гигантами в вопросах более разнообразного курирования информации, которую мы увидим, предлагая нам большие контроль и выбор и упраздняя имеющуюся монополию.
Это будет означать, что, скажем, Facebook должен будет поинтересоваться, хотим ли мы, чтобы курированием доступного нам контента занимался сам Facebook или же другая компания, выбор которой будет свободным. Тогда мы сможем выбрать ту, что уделяет первостепенное внимание конфиденциальности, или же ту, что специализируется на интересующей нас теме (будь то футбол, хип-хоп или изменение климата), и уже она будет курировать то, что мы видим в нашей ленте.
Конечно, некоторым пользователям захочется, чтобы Facebook продолжал как размещать, так и курировать их контент — и это также останется одним из вариантов. Решающий здесь фактор – это наличие у пользователя выбора.
Но текущая модель настолько выгодна для крупных платформ, что они не собираются менять ее добровольно. Вот почему предлагаемое АРТИКЛЬ 19 решение требует, чтобы его соблюдение и контроль над ним обеспечивали независимые и подотчетные регулирующие органы.Нам обязательно нужны как стандарты разделения услуг, так и стандарты в области прав человека, которых должны придерживаться все поставщики контента, от самых маленьких до самых крупных.
Как АРТИКЛЬ 19 объясняет в «Укрощении технологических гигантов», отделение хостинга контента от его курирования и предоставление доступа конкурентам будет иметь бесчисленные преимущества:
- Для частных лиц. Это, наконец, даст нам конкретные и жизнеспособные альтернативы схемам курирования контента, осуществляемым крупнейшими платформами. Мы сможем выбирать компанию для управления нашим контентом на основании различных критериев — скажем, того, насколько хорошо они защищают нашу конфиденциальность или предоставляют нам доступ к множеству точек зрения — то есть условий, необходимых для принятия осознанных решений и защиты демократии. И нам вовсе не придется отказываться от использования платформы – мы сможем сохранить наш существующий профиль, друзей и подписчиков;
- Для небольших поставщиков услуг. Это упростит им доступ к пользователям и поспособствует поддержанию между ними здоровой конкуренции за обеспечение курирования контента, которое будет лучше всего отвечать интересам пользователей, включая защиту нашей конфиденциальности и онлайн-высказываний;
- Для общества. Это приведет нас к гораздо более открытым, справедливым, разнообразным и децентрализованным рынкам социальных сетей, способным обеспечить свободный поток информации – во всех отношениях к более здоровой среде для свободы слова.
Другими словами, наше решение будет выигрышным для всех – для пользователей соцсетей, для небольших поставщиков услуг и для общества в целом.
В 2021 году Meta, которой принадлежат Facebook, Instagram, Messenger и WhatsApp, получила прибыль в размере 39,37 миллиарда долларов.
Это больше, чем ВВП более чем половины стран мира, и больше, чем совокупный ВВП 31 беднейшей страны.
Примерно 97% суммарного дохода Meta приходится на рекламу, то есть на монетизацию внимания пользователей и его продажу.
Мы работаем для них.
Мы работаем бесплатно.
А они зарабатывают свои миллиарды, вторгаясь в нашу частную жизнь, контролируя то, что мы можем видеть и говорить в Интернете, и усиливая конфликты, дезинформацию и язык ненависти.
Это не случайно. Такова вся их бизнес-модель.
Они намеренно создают эти проблемы, выгодные для них, но губительные для общества, притворяясь при этом, что делают мир лучше для всех нас.
Не пора ли им заплатить за решение проблем, ими созданных?
Вот почему АРТИКЛЬ 19 считает, что покрывать расходы по разделению хостинга контента и курирования контента должны крупнейшие платформы.
И вот почему правительства должны облагать налогом крупнейшие платформы для финансирования прочих наших решений, таких как предоставление пользователям доступа к механизмам разрешения споров, когда их контент неправомерно удаляется, и поддержка новых бизнес-моделей для платформ, которые создают общественную ценность, а не просто извлекают ее из нас.
Рекомендации
Разделить хостинг контента и его курирование и предоставить сторонним компаниям доступ к пользователям, чтобы те могли предложить им альтернативные услуги по курированию контента.
Это разделение услуг должно иметь форму функционального разделения. Другими словами, наше предложение не означает, что крупная платформа должна продать часть своего бизнеса, связанную с курированием контента. Платформа, предоставляющая услуги хостинга, должна по-прежнему иметь возможность предлагать свои услуги по курированию контента, чтобы пользователи могли свободно выбирать, какая компания будет предоставлять им эту услугу. Чтобы гарантировать реальный выбор, возможность оставить поставщиком услуги крупную платформу должна быть представлена пользователю в виде его активного выбора (так называемый «опт-ин»), вместо подключения по умолчанию.
Это разделение услуг должно иметь форму функционального разделения. Другими словами, наше предложение не означает, что крупная платформа должна продать часть своего бизнеса, связанную с курированием контента. Платформа, предоставляющая услуги хостинга, должна по-прежнему иметь возможность предлагать свои услуги по курированию контента, чтобы пользователи могли свободно выбирать, какая компания будет предоставлять им эту услугу. Чтобы гарантировать реальный выбор, возможность оставить поставщиком услуги крупную платформу должна быть представлена пользователю в виде его активного выбора (так называемый «опт-ин»), вместо подключения по умолчанию.
Прозрачность, подотчетность и защита прав человека должны стать основополагающими принципами любой схемы регулирования для платформ социальных сетей.
Регулирование должно включать обязательства по повышению прозрачности решений в отношении модерации контента и улучшению систем разрешения любых споров, которые эти решения могут повлечь.
Правительства не должны налагать на компании социальных сетей общее обязательство по мониторингу контента. Оно способно привести к усилению цензуры и заглушить слишком многие голоса.
Любая схема регулирования модерации контента должна:
- Быть строго ограничена по своему охвату. Она должна быть сосредоточена исключительно на незаконном (не на «законном, но вредоносном») контенте, не должна распространяться на частные сервисы обмена сообщениями и новостные организации, а ее меры должны применяться исключительно внутри страны, вводящей такое регулирование;
- Иметь четко определенные обязательства. Сюда относятся, в частности, обязательства по обеспечению прозрачности, защиты конфиденциальности и содействию медиаразнообразию. Она не должна включать целевых показателей или широкой и неопределенной «обязанности проявлять должную заботу» для предотвращения «вреда»;
- Быть соразмерной. Правительствам не следует принимать меры, которые, будучи призванными привлечь к ответственности крупные компании социальных сетей, фактически возлагают чрезмерное бремя на более мелкие сервисы;
- Обеспечивать доступ пользователей к эффективным средствам правовой защиты. Они должны включать внутренние механизмы подачи жалоб, доступ к средствам судебной защиты, а также альтернативные механизмы разрешения споров;
- Сохранять условный иммунитет от ответственности за сторонний контент, но уточнять его объем, а также процедуры уведомления и действия. Снятие или неправомерное ограничение иммунитета от ответственности стимулирует платформы удалять либо слишком малые, либо слишком большие объемы контента.
Укрощение технологических гигантов
Как бороться с избыточным рыночным влиянием гигантов социальных сетей
Регулирование регуляторов
Как регулировать процессы модерации контента, одновременно защищая свободу выражения мнений
Дополнительная информация
США: Бунт в Капитолии, Big Tech занимает позицию: но такова ли она как мы хотим?
Digital markets: Why competition is good for freedom of expression
Bridging the Gap: Local voices in content moderation
Twitter: What Elon Musk must do to protect free speech
International: Why Haugen’s Facebook testimony misses the point
