Дослідники створили модель, щоб передбачити, які цивільні розмови в Інтернеті можуть отримати поворот і зійти з рейок.

Проаналізувавши сотні обмінів між редакторами Вікіпедії, дослідники розробили комп'ютерну програму, яка сканує попереджувальні знаки на мові учасників на початку розмови - наприклад, повторний, прямий допит або використання слова "ти" - для прогнозування того, що спочатку цивільні розмови пішли би не так. (Примітка редактора: Інформацію про онлайн-вікторину дивіться в кінці цієї статті.) (Інтернет-вікторина "Вгадай, яка розмова зіпсується": http://awry.infosci.cornell.edu/)

Дослідження виявило, що ранні обміни, що включали привітання, висловлювання подяки, огорожі на кшталт "здається", та слова "я" та "ми" залишались цивільними.

“Щодня проводяться мільйони таких обговорень, і ви не можете відстежувати всі з них у прямому ефірі. Система, заснована на цій знахідці, може допомогти модераторам-людям краще спрямовувати свою увагу », - говорить Крістіан Данеску-Нікулеску-Мізіл, доцент кафедри інформатики Корнельського університету та співавтор папір.

“Ми, як люди, маємо інтуїцію того, чи розмова не зіпсується, але часто це лише підозра. Ми не можемо зробити це на 100 відсотків часу. Ми замислюємось, чи зможемо ми побудувати системи для відтворення або навіть вийти за рамки цієї інтуїції », - говорить Данеску-Нікулеску-Мізіл.

Комп’ютерна модель, яка також враховувала перспективу Google, інструмент машинного навчання для оцінки „токсичності”, була правильною приблизно 65 відсотків часу. Люди вгадали правильно 72 відсотки часу.

Люди можуть перевірити власну здатність здогадуватися, які розмови виб’ють з ладу під час онлайн-вікторини.

У ході дослідження було проаналізовано 1,270 розмов, які розпочались цивілізовано, але переросли в особисті напади, у результаті 50 мільйонів розмов на 16 мільйонах сторінок "обговорення" у Вікіпедії, де редактори обговорюють статті чи інші питання. Вони вивчали обмін парами, порівнюючи кожну розмову, яка погано закінчувалась, з розмовою, яка мала успіх на одну і ту ж тему, тому результати не були перекошені делікатними предметами, такими як політика.

Дослідники сподіваються, що цю модель можна використовувати для порятунку розмов із ризиком та поліпшення діалогу в Інтернеті, а не для заборони певних користувачів або цензури певних тем. Деякі плакати в Інтернеті, такі як носії англійської мови, можуть не усвідомлювати, що їх можна сприймати як агресивні, і підштовхування від такої системи можуть допомогти їм самоналагодитися.

"Якщо у мене є інструменти для виявлення особистих атак, це вже занадто пізно, тому що атака вже сталася, і люди її вже бачили", - говорить співавтор Джонатан П. Чанг, докторант Корнельського університету. "Але якщо ви розумієте, що ця розмова йде в поганому напрямку, і тоді вживати заходів, це може зробити місце трохи приємнішим".

Документ, написаний спільно з додатковими співробітниками Jigsaw та Фондом Вікімедіа, буде частиною щорічних зборів Асоціації обчислювальної лінгвістики (липень 2018 р.) У Мельбурні, Австралія.

*****

Вгадайте, яка розмова зіпсується!

Інструкції з онлайн-вікторини:

У цьому завданні вам покажуть 15 пар розмов. Для кожної розмови ви зможете побачити лише перші два коментарі в розмові. Ваша робота полягає в тому, щоб на основі цих початківців розмов здогадатися, яка розмова, швидше за все, буде врешті-решт призведе до особистого нападу від одного з двох початкових користувачів. 

Після відповіді на кожне запитання ви отримаєте миттєвий відгук про те, чи була ваша відповідь правильною (позначена зеленим кольором) чи неправильною (позначена червоним).

Докладніше:

Висловлюючи свої здогади, ви повинні використовувати наступне визначення особистого нападу як посилання:

A особистий напад це коментар, який є грубим, образливим або неповажним стосовно людини / групи або до дій та / або роботи цієї особи / групи.

Майте на увазі, що ви не шукаєте особистих нападів у коментарях, які є показаний. Швидше, ви повинні використовувати свою інтуїцію соціальної динаміки, щоб вирішити, який обмін, швидше за все, призведе до того, що хтось із учасників врешті-решт опублікує особисту атаку (яка вам не показана). 

Іноді може здатися, що жодна цитата, ймовірно, не призведе до нападу, або що обидва здаються однаково ймовірними. Однак, будь ласка, майте на увазі, що розмови джерела вже були прокоментовані людьми, і це справді призводить до особистого нападу. Зробіть все можливе, щоб «відновити» ці існуючі мітки! 

Це непросте завдання, і відповідь на кожне запитання може зайняти пару хвилин. Оскільки це складне завдання, перші три запитання - це «розминка», які не вплинуть на ваш рахунок; вони там, щоб допомогти вам «відкалібрувати» своє відчуття того, які фактори можуть сигналізувати про майбутні атаки. Але пам’ятайте, Ваше завдання - відновити якомога більше міток. 

Через характер завдання деякі з цих коментарів можуть містити образливий вміст. Ми шкодуємо про це.

Клацніть тут для онлайн-вікторини.

джерело: Корнельського університету

Суміжні книги

at InnerSelf Market і Amazon