Вільям Перуджині/Шуттерсток

З багатьох "серйозні ризики для суспільства та людства», які викликають занепокоєння технічних експертів щодо штучного інтелекту (ШІ), звичайні користувачі Інтернету знайомі з поширенням підроблених зображень.

Deepfakes – відео або фотографії, на яких чиєсь обличчя або тіло було змінено цифровим способом, щоб здавалося, що вони роблять те, чим вони не займаються – уже використовувалися для поширення політична дезінформація та фейкова порнографія.

Ці зображення зазвичай шкідливі та використовуються для дискредитації суб’єкта. Коли мова йде про глибоку фейкову порнографію, переважна більшість жертв - жінки. Generative AI – технологія, яка використовується для створення тексту, зображень і відео – є вже робить легше вчинити сексуальне насильство на основі зображення.

Новий звід законів у Великій Британії буде криміналізувати поширення глибокої фейкової порнографії. Але, приділяючи увагу штучному інтелекту та дипфейкам, ми не можемо забувати, як менш складні технології можуть використовуватися як інструмент зловживань із руйнівними наслідками для жертв.

Техніка і контроль

Коли я почав досліджувати технології насильницьких стосунків, дипфейки були лише плямою на горизонті. Моя робота була зосереджена на роль смартфонів у жорстокому поводженні з жінками, які втекли від контрольних відносин. Я виявив, що винуватці насильства в сім’ї використовували технології, щоб розширити сферу своєї влади та контролю над своїми партнерами, сучасний погляд на тактику насильства, яка використовувалася задовго до смартфони були в кожній кишені.

Мобільні телефони можна використовувати безпосередньо для моніторингу та контролю, використовуючи відстеження GPS або бомбардуючи жертву текстовими повідомленнями, відео та голосовими дзвінками. Один учасник моєї дослідження в 2019 році пояснила, як її образливий партнер використовував свій телефон для доступу до соціальних мереж, надсилаючи їй образливі фотографії через Instagram і постійні та образливі повідомлення WhatsApp.

Коли вона гуляла з друзями, він спочатку надсилав їй повідомлення, дзвонив, а потім постійно телефонував їй по відео, щоб перевірити, де вона і з ким. Коли учасниця вимкнула свій телефон, її тодішній партнер зв’язався з її друзями, засипавши їх повідомленнями та дзвінками.

Ця учасниця відчувала себе надто ніяково, щоб домовитися про зустріч зі своєю групою однолітків, тому перестала виходити. Інші люди в подібних ситуаціях можуть бути виключені з соціальних планів, якщо друзі хочуть уникнути контакту з кривдником свого друга. Така соціальна ізоляція є частою частиною домашнього насильства та важливим показником контролюючих стосунків.

За даними благодійної організації з питань домашнього насильства Refuge, більше 72% людей, які користуються його послугами, повідомляють про зловживання за допомогою технологій.

Мобільні телефони є шлюзом до інших гаджетів через «Інтернет речей» — пристроїв, підключених до Інтернету та здатних обмінюватися даними. Ці інструменти також можуть бути зброєю зловмисників. Наприклад, за допомогою мобільних телефонів змінити налаштування температури на побутовому термостаті, створюючи екстремальні значення від години до години.

Збентежені цим, люди шукають пояснень у свого партнера, щоб отримати відповідь, що це, мабуть, плід їхньої уяви. Техніка газового освітлення подібне змушує жертв сумніватися у власній розсудливості, що підриває їхню впевненість у власних судженнях.

Сучасний паноптикум

Одним натисканням кнопки мобільні телефони дозволяють здійснювати безпрецедентне стеження за іншими. У кишені зловмисника їх можна використовувати, щоб стежити за нинішніми та колишніми партнерами в будь-який час, у будь-якому місці та – за наявності дозволу – будь-де. Це дає правопорушникам a сила всемогутності, змушуючи жертв вірити, що за ними спостерігають, навіть якщо це не так.

Тут згадується робота філософа 18-го століття Джеремі Бентама, який ввів поняття «паноптикум». Бентам запропонував «ідеальну» тюремну систему, де в центрі розташована охоронна вежа, оточена окремими камерами.

Ізольовані один від одного, в’язні бачать лише вежу – постійне нагадування про те, що за ними постійно спостерігають, навіть якщо вони не бачать охоронця в ній. Бентам вважав, що така структура призведе до самоконтролю ув'язнених, доки зрештою не знадобляться замки чи ґрати.

Моє останнє дослідження показує, що мобільні телефони створили подібну динаміку в жорстоких стосунках. Телефони виконують роль вежі, а злочинці — охоронців у ній.

У цьому сучасному паноптикумі жертви можуть перебувати на вулиці, їх бачать незнайомці, друзі та родина. Проте через присутність телефону вони відчувають, що за ними все ще спостерігають і контролюють їхні образливі партнери.

Як сказав один учасник: «Ти відчуваєш, що немає свободи, навіть коли ти на вулиці. Ти почуваєшся, ніби ти десь замкнений, ти не маєш свободи, тобою хтось керує».

Ті, хто пережив насильство, продовжують стежити за собою, навіть коли кривдників немає. Вони діють так, як, на їхню думку, сподобаються (або принаймні не розлютять) кривдників.

Інші часто сприймають таку поведінку як дивну, і дуже легко відкидають її як параною, тривогу або більш серйозні проблеми з психічним здоров’ям. Основна увага приділяється поведінці жертви та ігнорується причина – жорстока чи злочинна поведінка партнера.

У міру вдосконалення технологій інструменти та стратегії, доступні зловмисникам, продовжуватимуть розвиватися. Це розширить охоплення злочинців і надасть нові можливості для стеження, газового освітлення та зловживань.

Поки технологічні компанії не врахують досвід жертв домашнього насильства та не вбудують механізми безпеки в дизайн своїх продуктів, насильство буде і надалі прихований на очах.

Тіріон Хавард, доцент кафедри соціальної роботи, London South Bank University

Ця стаття перевидана з Бесіда за ліцензією Creative Commons. Читати оригінал статті.