Як будь-хто, навіть ти, може стати Інтернет-тролем

Інтернет-тролі, за визначенням, руйнують, борються і часто неприємні своїми образливими або провокаційними повідомленнями в Інтернеті, призначеними для занепокоєння та засмучення.

Загальноприйняте припущення полягає в тому, що люди, які тролюють, відрізняються від нас усіх, що дає нам свободу звільняти їх та їх поведінку. Але нове дослідження свідчить про інше - за відповідних обставин будь-хто може стати тролем.

"Ми хотіли зрозуміти, чому тролінг так поширений сьогодні", - говорить Джастін Ченг, дослідник інформатики зі Стенфордського університету та головний автор нової статті. "Хоча загальновідомо, що тролі - це особливо соціопатичні особи, які час від часу виступають у розмовах, чи насправді саме ці люди тролюють інших?"

Поганий настрій

Чи є поведінка тролінгу вродженою характеристикою, чи ситуативні фактори можуть впливати на людей, щоб вони поводились як тролі? Щоб з’ясувати це, дослідники застосували комбінацію експериментів, аналізу даних та машинного навчання - і пристосувались до деяких простих факторів, які роблять середню людину більш імовірною.

Після попередніх досліджень асоціальної поведінки дослідники вирішили зосередитись на тому, як настрій та контекст впливають на те, що люди пишуть на дискусійному форумі. Вони провели експеримент із двох частин, на якому 667 випробуваних були набрані за допомогою краудсорсингової платформи.

У першій частині експерименту учасникам давали тест, який був або дуже легким, або дуже складним. Після проходження тестів усі випробовувані заповнювали опитувальник, який оцінював різні аспекти їхнього настрою, включаючи гнів, втому, депресію та напругу. Як і слід було очікувати, люди, які пройшли складний тест, були в гіршому настрої, ніж ті, хто пройшов легкий тест.


Innersele підписатися графіка


Потім усім учасникам було наказано прочитати статтю та взяти участь у розділі коментарів. Вони мали залишити принаймні один коментар, але могли залишити кілька коментарів, голосів проти і проти і могли відповісти на інші коментарі. Усі учасники бачили одну і ту ж статтю на одній платформі, створену виключно для експерименту, але деяким учасникам був наданий форум із трьома повідомленнями про тролів у верхній частині розділу коментарів. Інші побачили три нейтральні пости.

Два незалежні експерти оцінили, чи відповідають посади суб'єктів, які кваліфікуються як тролінг, як правило, у цьому дослідженні шляхом поєднання рекомендацій щодо розміщення, взятих з кількох дискусійних форумів. Наприклад, особисті напади та лайки свідчили про повідомлення тролів.

Близько 35 відсотків людей, які пройшли легкий тест і побачили нейтральні публікації, тоді розміщували власні коментарі тролів. Цей відсоток підскочив до 50 відсотків, якщо випробуваний або пройшов жорсткий тест, або побачив коментарі до тролінгу. Люди, які піддавались і важкому випробуванню, і постам тролів, проїжджали приблизно 68 відсотків часу.

Щоб пов’язати ці експериментальні ідеї з реальним світом, дослідники також проаналізували анонімні дані з розділу коментарів CNN протягом усього 2012 року. Дані складалися з 1,158,947 200,576 користувачів, 26,552,104 XNUMX обговорень та XNUMX XNUMX XNUMX публікацій, включаючи заборонених користувачів та публікації, видалені модераторами. У цій частині дослідження команда визначила повідомлення про тролів як такі, які члени спільноти позначили за зловживання.

'Спіраль негативу'

Неможливо було безпосередньо оцінити настрій коментаторів, але дослідники розглянули часову позначку публікацій, оскільки попередні дослідження показали, що час доби та день тижня відповідають настрою. Інциденти, коли голоси не приймали голосів, і повідомлення, позначені прапорами, тісно поєднувались із усталеними моделями негативного настрою. Такі випадки, як правило, зростають пізно вночі та на початку тижня, а також тоді, коли люди, найімовірніше, мають поганий настрій.

Дослідники додатково досліджували вплив настрою і виявили, що люди частіше випускають повідомлення, позначене прапором, якщо вони нещодавно були позначені або якщо вони брали участь в окремій дискусії, яка просто включала позначені дописи, написані іншими. Ці висновки справдились незалежно від того, яка стаття була пов’язана з обговоренням.

«Це спіраль негативу, - каже Юре Лесковець, доцент кафедри інформатики та старший автор статті. «Тільки одна людина, яка прокидається капризно, може створити іскру, і, завдяки контексту дискусії та голосування, ці іскри можуть виливатися в каскади поганої поведінки. Погані розмови призводять до поганих розмов. Люди, які не отримують голосів, повертаються більше, коментують більше і коментують ще гірше ".

Прогнозування позначених повідомлень

На завершальному етапі своїх досліджень команда створила алгоритм машинного навчання, завдання якого передбачити, чи буде позначено наступний допис, який автор написав.

Інформація, що надходить до алгоритму, включала мітку часу останнього допису автора, чи позначено останнє повідомлення, чи позначено попереднє повідомлення в обговоренні, загальну історію написання позначених дописів автора та анонімний ідентифікатор користувача автора .

Результати показали, що статус прапора попередньої публікації під час обговорення був найсильнішим провісником того, чи буде позначений наступний пост. Пов’язані з настроєм особливості, такі як час і попереднє позначення коментатора, були набагато менш передбачуваними. Історія користувача та ідентифікатор користувача, хоча і дещо передбачувані, все ж були значно менш інформативними, ніж контекст обговорення. Це означає, що, хоча деякі люди можуть бути постійно більш схильними до тролінгу, контекст, в якому ми розміщуємо повідомлення, швидше за все, призведе до тролінгу.

Тіньові заборони та періоди охолодження?

Між реальним життям, масштабним аналізом даних, експериментом та прогнозним завданням висновки були сильними та послідовними. Дослідники припускають, що контекст розмови та настрій можуть призвести до тролінгу. Вони вважають, що це може сприяти створенню кращих онлайнових дискусійних просторів.

"Розуміння того, що насправді визначає когось поводитися асоціально, є надзвичайно важливим, якщо ми хочемо покращити якість онлайн-дискусій", - говорить Крістіан Данеску-Нікулеску-Мізіл, доцент кафедри інформатики Корнельського університету та співавтор статті. "Погляд на основні причинно-наслідкові механізми може проінформувати про розробку систем, які заохочують більш цивільну дискусію в Інтернеті та можуть допомогти модераторам ефективніше пом'якшити тролінг".

Втручання для запобігання тролінгу можуть включати дискусійні форуми, які рекомендують період охолодження коментаторам, які щойно позначили допис, системи, які автоматично попереджають модераторів до допису, який, ймовірно, буде дописом тролів або "забороною в тіні", - приховуючи повідомлення тролів від нетрольських користувачів, не повідомляючи троля.

Дослідники вважають, що подібні дослідження - це лише початок роботи, який потрібен був якийсь час, оскільки Інтернет - далеко не всесвітнє село сердечних дискусій та дискусій, коли люди думали, що це стане.

"Зрештою, насправді це дослідження свідчить про те, що саме ми викликаємо ці поломки в обговоренні", - каже співавтор Майкл Бернштейн, доцент кафедри комп'ютерних наук у Стенфорді. “Багато сайтів новин видалили свої системи коментарів, оскільки вважають, що це суперечить реальним дискусіям і дискусіям. Розуміння нашого найкращого та найгіршого "я" тут є ключовим для повернення цих людей ".

Команда папір була опублікована в рамках майбутньої конференції 2017 року з питань комп’ютерної підтримки кооперативної роботи та соціальних обчислень.

джерело: Стенфордський університет

Суміжні книги

at InnerSelf Market і Amazon