“Невдача в житті. Іди бомби себе ".

Коментарі, подібні до цього, знайдені в статті CNN про те, як жінки сприймають себе, сьогодні поширені в Інтернеті, будь то Facebook, Reddit або веб-сайт новин. Така поведінка може варіюватися від ненормативної лексики та оклику до персональних нападів, сексуальних домагань або мов ненависті.

Нещодавнє Інтернет-опитування Pew виявив, що четверо з 10 людей в Інтернеті зазнавали переслідувань в Інтернеті, і набагато більше людей були свідками такої поведінки. Тролінг настільки шалений, що кілька веб-сайтів навіть вдаються до них повністю видаляючи коментарі.

Багато хто вважає, що тролінгом займається невелика, голосиста меншість соціопатичних людей. Ця віра зміцнилася не тільки в Росії media , але також і в минулих дослідженнях тролінгу, які зосереджувались на опитуваннях цих людей. Деякі дослідження навіть показали, що тролі мають схильність особистісні та біологічні риси, такі як садизм та схильність до надмірного стимулювання.

Але що, якщо всі тролі не є природженими тролями? Що якщо вони звичайні люди, як ми з вами? В наші дослідження, ми виявили, що на людей можна впливати на тролінг інших людей за належних обставин в Інтернет-спільноті. Проаналізувавши 16 мільйонів коментарів, зроблених на CNN.com, та провевши контрольований в Інтернеті експеримент, ми виявили два ключові фактори, які можуть призвести звичайних людей до тролля.

Що робить тролем?

Ми набрали 667 учасників через онлайн-платформу для краудсорсингу та попросили їх спершу взяти вікторину, а потім прочитати статтю та взяти участь в дискусії. Кожен учасник бачив одну і ту ж статтю, але для деяких було проведено обговорення, яке розпочалося з коментарів тролів, де інші побачили замість цього нейтральні коментарі. Тут тролінг визначався із використанням стандартних рекомендацій спільноти - наприклад, окликування, ненормативна лексика, расизм чи домагання. Заздалегідь проведена вікторина також була різноманітною, або легкою, або складною.

Наш аналіз коментарів на CNN.com допоміг перевірити та розширити ці експериментальні спостереження.

Перший фактор, який, здається, впливає на тролінг - це настрій людини. У нашому експерименті люди, які переживають негативні настрої, набагато частіше починали тролінг. Ми також виявили, що тролінг припливів та відпливів з часом доби та днем ​​тижня, синхронно з природні моделі настрою людини. Тролінг найчастіший пізно вночі, а найменш - вранці. Тролінг також досягає піку в понеділок, на початку робочого тижня.

Більше того, ми виявили, що негативний настрій може зберігатися і поза подіями, які спричинили ці почуття. Припустимо, що людина бере участь в дискусії, де інші люди писали коментарі тролів. Якщо ця людина продовжує брати участь у не пов’язаній дискусії, вона, швидше за все, теж троллиться в цій дискусії.

Другим фактором є контекст дискусії. Якщо дискусія починається з "коментаря тролів", тоді вона вдвічі частіше прослуховується іншими учасниками порівняно з дискусією, яка не починається коментарем троля.

Насправді ці коментарі тролів можуть складатися. Чим більше коментарів троль в дискусії, тим більша ймовірність того, що майбутні учасники також будуть вести дискусію. Загалом, ці результати показують, як початкові коментарі в дискусії створюють потужний, тривалий прецедент для подальшого тролінгу.

Ми задалися питанням, чи можна, використовуючи ці два фактори, передбачити, коли відбудеться тролінг. Використовуючи алгоритми машинного навчання, ми змогли передбачити, чи збирається людина тролювати приблизно 80 відсотків часу.

Цікаво, що настрій та контекст дискусії разом були набагато сильнішим показником тролінгу, ніж ідентифікація конкретних людей як тролів. Іншими словами, тролінг викликаний більше оточенням людини, ніж будь-яка властива їй риса.

Оскільки тролінг є ситуативним, і на звичайних людей можна впливати на тролінг, така поведінка може в кінцевому підсумку поширюватися від людини до людини. Окремий коментар троля в дискусії - можливо, написаний людиною, яка прокинулася з неправильної сторони ліжка, - може призвести до погіршення настрою серед інших учасників, а ще більше коментарів тролів в інших місцях. Оскільки ця негативна поведінка продовжує поширюватися, тролінг може в кінцевому підсумку стати нормою в громадах, якщо не зупинити його.

Боротьба назад

Незважаючи на ці протвережуючі результати, це дослідження може допомогти нам створити кращі онлайнові простори для публічного обговорення.

Розуміючи, що веде до тролінгу, ми тепер можемо краще передбачити, коли тролінг, ймовірно, відбудеться. Це може дозволити нам визначити потенційно суперечливі дискусії заздалегідь та попереджувально попередити модераторів, які потім можуть втрутитися в такі агресивні ситуації.

Алгоритми машинного навчання також можуть сортувати мільйони публікацій набагато швидше, ніж будь-яка людина. Навчаючи комп’ютери виявляти поведінку тролінгу, ми можемо виявляти та фільтрувати небажаний вміст із набагато більшою швидкістю.

Соціальні втручання також можуть зменшити тролінг. Якщо ми дозволимо людям відкликати нещодавно опубліковані коментарі, то, можливо, ми зможемо звести до мінімуму жаління щодо публікації у розпал часу. Зміна контексту дискусії шляхом визначення пріоритетів конструктивних коментарів може посилити сприйняття цивілізованості. Навіть просто закріплення публікації про правила спільноти у верхній частині сторінок обговорення допомагає, як нещодавній експеримент проведений на Reddit показав.

Тим не менше, для вирішення тролінгу потрібно зробити ще багато роботи. Розуміння ролі організованого тролінгу може обмежити деякі типи небажаної поведінки.

Тролінг також може відрізнятися за ступенем тяжкості, від лайки до цілеспрямованого знущання, що вимагає різних реакцій.

Важливо також диференціювати вплив коментаря троля від задуму автора: чи хотів троль нашкодити іншим, чи він просто намагався висловити іншу точку зору? Це може допомогти відокремити небажаних людей від тих, кому просто потрібна допомога в передачі своїх ідей.

Коли обговорення в Інтернеті руйнуються, винні не лише соціопати. Ми також винні. Багато «тролі» - це просто такі люди, як ми, у яких поганий день. Розуміння того, що ми відповідаємо як за надихаючі, так і для гнітючих розмов, які ми проводимо в Інтернеті, є ключовим фактором для проведення більш продуктивних онлайн-дискусій.

про автора

Джастін Ченг, докторант комп'ютерних наук, Стенфордський університет; Крістіан Данеску-Нікулеску-Мізіл, доцент інформатики, Корнельського університетута Майкл Бернштейн, доцент кафедри комп’ютерних наук, Стенфордський університет, Юре Лесковець зі Стенфордського університету також долучився до цієї статті.

Ця стаття була спочатку опублікована на Бесіда. Читати оригінал статті.

Суміжні книги

at InnerSelf Market і Amazon