Типовий обліковий запис соціального бота. CC B

Платформи соціальних мереж стали більше, ніж просто інструментами для спілкування. Вони перетворилися на галасливі арени, де стикаються правда та брехня. Серед цих платформ X виділяється як a видатне поле битви. Це місце, де процвітають кампанії з дезінформації, увічнені арміями ботів зі штучним інтелектом, запрограмованих впливати на громадську думку та маніпулювати наративами.

Боти на основі штучного інтелекту – це автоматизовані облікові записи, створені для імітації людської поведінки. Боти в соціальних мережах, чат-платформи та розмовний штучний інтелект є невід’ємною частиною сучасного життя. Вони потрібні, наприклад, для ефективної роботи програм ШІ.

Але деякі боти створені зі зловмисними намірами. Шокує, але боти складають значну частину бази користувачів X. У 2017 році було підраховано що було приблизно 23 мільйони соціальних ботів, що становило 8.5% від загальної кількості користувачів. Більше двох третин твітів походить із цих автоматизованих облікових записів, розширюючи охоплення дезінформації та каламутивши воду публічного дискурсу.

Як працюють боти

Соціальний вплив тепер є товаром, який можна придбати, купуючи ботів. Компанії продають фальшивих підписників, щоб штучно підвищити популярність акаунтів. Ці підписники доступні за надзвичайно низькими цінами, серед покупців багато знаменитостей.

Наприклад, у ході нашого дослідження ми з колегами виявили бота, який опублікував 100 твітів, пропонуючи підписників на продаж.

Використання методології ШІ та теоретичного підходу під назвою теорія актор-мережа, ми з колегами досліджували, як зловмисні соціальні боти маніпулюють соціальними мережами, впливаючи на те, що думають люди та як вони діють, із тривожною ефективністю. Ми можемо визначити, чи була фейкова новина створена людиною чи ботом, з точністю 79.7%. Важливо зрозуміти, як люди та ШІ поширюють дезінформацію, щоб зрозуміти, як люди використовують ШІ для поширення дезінформації.

Для прикладу ми перевірили активність облікового запису «True Trumpers» у Twitter.

Обліковий запис було створено в серпні 2017 року, у нього немає підписників і зображення профілю, але на момент дослідження було опубліковано 4,423 твіти. Це включало низку повністю сфабрикованих історій. Варто зазначити, що цей бот родом зі східноєвропейської країни.

Потік фейкових новин з акаунта бота. Buzzfeed, CC BY

Подібне дослідження змусило X обмежити діяльність соціальних ботів. У відповідь на загрозу маніпуляцій у соціальних мережах X запровадив тимчасові обмеження на читання, щоб приборкати збирання та маніпуляції даними. Підтверджені облікові записи обмежені читанням 6,000 повідомлень на день, тоді як непідтверджені облікові записи можуть читати 600 на день. Це нове оновлення, тому ми ще не знаємо, чи воно було ефективним.

Чи можемо ми захистити себе?

Проте, зрештою, користувачі зобов’язані проявляти обережність і відрізняти правду від брехні, особливо під час виборів. Критично оцінюючи інформацію та перевіряючи джерела, користувачі можуть взяти участь у захисті цілісності демократичних процесів від нападу ботів і дезінформаційних кампаній на X. Фактично кожен користувач є захисником правди та демократії. Пильність, критичне мислення та здорова доза скептицизму є важливою зброєю.

У соціальних мережах користувачам важливо розуміти стратегії, які використовують шкідливі облікові записи.

Зловмисники часто використовують мережі ботів, щоб поширювати неправдиві наративи, маніпулювати тенденціями та швидко поширювати дезінформацію. Користувачам слід бути обережними, стикаючись з обліковими записами, які демонструють підозрілу поведінку, як-от надмірне розміщення публікацій або повторювані повідомлення.

Дезінформація також часто поширюється через спеціальні сайти фейкових новин. Вони створені для імітації надійних джерел новин. Користувачам рекомендується перевіряти достовірність джерел новин шляхом перехресних посилань на інформацію з авторитетними джерелами та консультацій з організаціями, що перевіряють факти.

Самосвідомість є ще однією формою захисту, особливо від тактики соціальної інженерії. Психологічні маніпуляції часто застосовуються, щоб змусити користувачів повірити в неправду або вчинити певні дії. Користувачі повинні зберігати пильність і критично оцінювати вміст, з яким вони стикаються, особливо в періоди підвищеної чутливості, наприклад під час виборів.

Залишаючись у курсі, беручи участь у громадянських дискусіях і виступаючи за прозорість і підзвітність, ми можемо разом формувати цифрову екосистему, яка сприятиме довірі, прозорості та обґрунтованому прийняттю рішень.

Нік Хайлі, стратег ШІ та професор цифрової стратегії, Університет Лафборо

Ця стаття перевидана з Бесіда за ліцензією Creative Commons. Читати оригінал статті.

Схожі книги:

Про тиранію: двадцять уроків двадцятого століття

Тімоті Снайдер

Ця книга містить уроки історії щодо збереження та захисту демократії, зокрема важливість інституцій, роль окремих громадян та небезпеки авторитаризму.

Натисніть, щоб дізнатися більше або замовити

Наш час зараз: сила, мета та боротьба за справедливу Америку

Стейсі Абрамс

Автор, політик і активіст, ділиться своїм баченням більш інклюзивної та справедливої ​​демократії та пропонує практичні стратегії політичної участі та мобілізації виборців.

Натисніть, щоб дізнатися більше або замовити

Як помирають демократії

Стівена Левицького та Деніела Зіблата

У цій книзі розглядаються тривожні ознаки та причини розпаду демократії, спираючись на тематичні дослідження з усього світу, щоб запропонувати розуміння того, як захистити демократію.

Натисніть, щоб дізнатися більше або замовити

Народ, ні: коротка історія антипопулізму

Томас Франк

Автор пропонує історію популістських рухів у Сполучених Штатах і критикує «антипопулістську» ідеологію, яка, на його думку, придушила демократичні реформи та прогрес.

Натисніть, щоб дізнатися більше або замовити

Демократія в одній книзі або менше: як це працює, чому не працює і чому виправити це простіше, ніж ви думаєте

Девід Літт

Ця книга пропонує огляд демократії, включно з її сильними та слабкими сторонами, а також пропонує реформи, щоб зробити систему більш сприйнятливою та підзвітною.

Натисніть, щоб дізнатися більше або замовити