Приватні компанії здійснюють охорону ненависті в Інтернеті без незалежного нагляду чи регулювання, що має серйозні наслідки та створює ризики для основних прав та свобод людини. (Шаттерсткі)

Марш освітлених факелами збройних білих супрематистів нещодавно у Шарлоттсвіллі, штат Вірджинія, продовжує викликати дискусію про те, як слід регулювати групи ненависті. На тлі зростаючого громадського тиску після маршу, інтернет-компанії поспішили видалити зі своїх платформ веб-сайти, які підтримують насильницьку мову ненависті.

GoDaddy припинив свої доменні послуги до неонацистського веб-сайту The Daily Stormer, як це було зроблено Google. Cloudflare, компанія, яка захищає веб -сайти від онлайн -атак заборонений веб-сайт ненависті з його платформи. Росія наказала сайт заборонити від розміщення в країні.

Моє дослідження і моя книга Точки затримки: Глобальне приватне регулювання в Інтернеті продемонструвати, що багато інтернет-компаній вже вилучають вміст і забороняють користувачів "добровільно" - тобто за відсутності законодавства або будь-яких судових процесів. Великі посередники, включаючи Google, PayPal, GoDaddy, Twitter та Facebook, добровільно контролюють свої платформи щодо вмісту сексуального насильства над дітьми, екстремізму та незаконної торгівлі контрафактними товарами.

Багато людей зрозуміло вітають ці зусилля, спрямовані на припинення мови ворожнечі та іншого неприйнятного змісту. Однак зусилля інтернет-компаній як фактичних регуляторів мови викликають серйозні питання: як слід регулювати вміст в Інтернеті? Ким?

Я не підтримую білих супремацистів і не заперечую проти деякої поліції такої мови. Швидше, я кажу, що нам потрібно серйозно подумати, як регулювати вміст в Інтернеті, оскільки наступний випадок може бути не таким чітким.

Існують значні проблеми з покладанням на потужні компанії для контролю за Інтернетом, оскільки їх практика застосування тривожно непрозора та схильна до довільного тлумачення.

Тривожний прецедент

На тлі тверезого контрасту з аплодуванням інтернет -компаній за їхнє суспільне протистояння Daily Stormer, генеральний директор Cloudflare Меттью Принс запропонував нюансову, застережливу точку зору, попередивши, що відхід послуг від груп ненависті у відповідь на тиск громадськості створює тривожний прецедент у поліцейській роботі в Інтернеті .

В блог пояснюючи дії Cloudflare проти Daily Stormer, Принс стверджував, що компанія вважає належний процес "більш важливим принципом", ніж свобода слова. Належний процес, за його словами, означає, що "ви повинні знати правила, яких буде дотримуватися система, якщо ви братимете участь у цій системі". Це твердження чітко фіксує невід'ємні проблеми з посередниками, які фактично регулюють вміст та поведінку в Інтернеті.

Раніше цього року Shopify працівників і сотні тисячі людей закликав і клопотання платформа Інтернет-торгівлі, яка припиняє розміщувати ультраправий інтернет-магазин Breitbart Media. Поновлений виконавчий голова Стівен Беннон дзвінки Брейтбарт "платформа для праворуч." Так званий "alt-right" - термін, популяризований Річард Бертран Спенсер - охоплює поєднання білих верховенств, сепаратистів, неонацистів, фашистів, расистів, антисемітів, ісламофобських та популістських консервативних ідеологій.

Генеральний директор Shopify Тобіас Лютке заявив, що захищає свободу слова оскільки компанія з Оттави продовжувала розміщувати Інтернет -магазин Breitbart під загрозою працівники звільняються. Після публічного тиск і низову кампанію під назвою #DeleteShopify призвело до перевірки, яка виявила більше сумнівний бізнес, Shopify був примусовий прийняти "Прийнятна політика використання."

Контрастні приклади "Щоденного шторму" та його видалення інтернет-компаніями, а також непохитна підтримка "Брайтбарта" від Shopify демонструють крайність дилеми, яка обіцяє лише посилитися.

Довільна політика, регулювання

Інтернет-посередники можуть бути потужними регуляторами з найрізноманітніших питань, оскільки вони можуть діяти швидко і без судових наказів. Важливо, що вони мають право цензурувати будь-який вміст або забороняти користувачів згідно з умовами надання послуг.

PayPal залишає за собою право припинити свої послуги для користувачів “з будь-якої причини та в будь-який час, ”Мова, що відбивається в угодах про обслуговування більшості посередників. Таким чином, здатність довільного регулювання вписується у внутрішні правила посередників.

Принс попередив, що дія Cloudflare проти Daily Stormer створює прецедент для посередників до виступу поліції без судових наказів, які вимагають від них цього робити.

Ці посередники часто діють за вказівкою урядів, які віддають перевагу компаніям бути публічним (але в основному не підзвітним) обличчям регулювання Інтернету. Але ці фірми, як правило, погано підготовлені для того, щоб відрізнити законність від незаконності, спричиняючи неправомірне видалення та помилково націлившись на законну поведінку.

Не менш проблематично: процеси примусового виконання посередників часто є непрозорими, оскільки їх модератори вмісту довільно інтерпретують їхні складні внутрішні правила, що швидко змінюються. Ці проблеми ускладнюються все більшим використанням посередниками автоматизованих інструментів для виявлення та видалення проблемного вмісту на своїх платформах.

Існує також занепокоєння щодо так званого "скрадання місій", коли правила, які вперше були введені в дію проти жорстокого поводження з дітьми або тероризму-примітні каталізатори для застосування заходів-пізніше застосовуються до інших виразно менш шкідливих питань, таких як несанкціоноване завантаження вмісту, захищеного авторським правом.

Дистопічне майбутнє тут

Нормативні зусилля зазвичай розширюються від цензури насильницької мови ворожнечі до інших висловлювань, які деякі можуть вважати суперечливими, наприклад, те, що «Чорне життя має значення». Крім того, уряди у всьому світі регулярно тиснуть на посередників цензор і трек критики та політичні опоненти.

Коли великі посередники переходять до контролюючих органів, відповідальних за контроль за вмістом поліції від імені урядів або у відповідь на гучні протести, їх і без того значна влада зростає. Інтернет-компанії із США вже домінують у багатьох галузях промисловості, включаючи пошук, рекламу, реєстрацію доменів, оплату та соціальні медіа. Принц Cloudflare справедливо попередили що залежно від “кількох гігантських мереж”, “невелика кількість компаній значною мірою визначатиме, що може і що не може бути в Інтернеті”.

Це дистопічне майбутнє вже тут.

Зняття Daily Stormer, безсумнівно, робить світ кращим. Але чи дійсно ми хочемо, щоб такі компанії, як Facebook та Twitter, вирішували - незалежно, довільно і таємно - до якого вмісту ми можемо отримати доступ та поділитися?

Враховуючи ці, здавалося б, невирішені проблеми, що ми можемо зробити? По-перше, нам слід уникати управління на основі протестів або тиску ЗМІ. Натомість, нам потрібен чіткий набір правил щоб дати можливість посередникам реагувати послідовно, прозоро та з дотриманням належної процедури, як рекомендував Принс.

Урядам слід роз'яснити природу та, що важливо, обмеження регуляторних обов'язків посередників. Нарешті, ми повинні припинити керувати у відповідь на конкретні кризи - так звані „фейкові новини”, тероризм та групи ненависті - і натомість критично думати, як ми можемо і повинні керувати Інтернетом.

про автора

Наташа Тусіков, доцент кафедри кримінології, кафедра соціальних наук, Йоркський університет, Канада

Ця стаття перевидана з Бесіда за ліцензією Creative Commons. Читати оригінал статті.

Суміжні книги

at InnerSelf Market і Amazon