Нестійке поєднання дипфейків і політичних кампаній — вагомий привід бути насторожі. Шон Ентоні Едді Creative/E+ через Getty Images
Уявіть собі Жовтневий сюрприз Як ніхто інший: лише за тиждень до 5 листопада 2024 року відеозапис розкриває таємну зустріч Джо Байдена та Володимира Зеленського. Американський і український президенти погоджуються негайно ініціювати Україну в НАТО за «спеціальним протоколом про екстрене членство» і готуватися до ядерного удару по Росії. Раптом світ опинився на порозі Армагеддону.
Тоді як журналісти могли це зазначити такого протоколу не існує і користувачі соціальних мереж можуть помітити дивні якості відеоігор, інші можуть це відчути їхні найгірші страхи були підтверджені. Коли настане день виборів, ці стурбовані громадяни можуть дозволити відео вплинути на їхні голоси, не підозрюючи, що ними щойно зманіпулювала ситуація deepfake – подія, якої насправді ніколи не було.
Ситуаційні дипфейки являють собою наступний етап технологій, які вже похитнули уявлення глядачів про дійсність. У нашому дослідженні на Проект DeFake, мої колеги по Рочестерський технологічний інститут, Університет Міссісіпі, Університет штату Мічіган і я вивчати, як створюються діпфейки та які заходи можуть вжити виборці, щоб захиститися від них.
Уявіть події, яких ніколи не було
Дипфейк створюється, особливо коли хтось використовує інструмент штучного інтелекту глибоке навчання, маніпулювати або генерувати a особа, то голос або – з підвищенням великі мовні моделі як ChatGPT - розмовна мова. Їх можна об’єднати, щоб сформувати «ситуаційні глибокі фейки».
Основна ідея та технологія ситуаційного дипфейку такі ж, як і будь-якого іншого дипфейку, але з більш сміливою амбіцією: маніпулювати реальною подією або вигадати її з повітря. Приклади включають зображення Прогулянка злочинця Дональда Трампа та Трамп обіймає Ентоні Фаучі, ні того, ні іншого не сталося. Зйомку в обіймах рекламував a Twitter рахунку пов'язані з президентською кампанією суперника Трампа Рона ДеСантіса. Ан атака оголошення кампанії Джо Байдена 2024 року, опублікованої Національним комітетом Республіканської партії створений повністю за допомогою ШІ.
В Проект DeFake, Наші дослідження знайшли що дипфейки, включно з ситуаціями, як правило, створюються якоюсь сумішшю додавання одного носія до іншого; за допомогою відео щоб анімувати зображення або змінити інше відео, охрестили ляльководством; створення медіафайлу, як правило, використання генеративний ШІ; або деяка комбінація цих технік.
Щоб було зрозуміло, багато дипфейків ситуацій створюються з невинною метою. Наприклад, Журнал Infinite Odyssey створює підроблені кадри з фільмів, які ніколи не вироблялися or ніколи не могло існувати. Але навіть безневинні дипфейки дають привід для паузи, як у випадку з майже правдоподібними фейковими фотографіями, що зображують Посадка Аполлона на Місяць як фільм.
Підробка виборів
А тепер поставте себе в позицію того, хто намагається вплинути на майбутні вибори. Які можливі ситуації ви можете створити?
Для початку мало б значення, чи хочете ви схилити голосування до певного результату чи від нього. Можливо, ви б зобразили кандидата, який героїчно вчинив, витягнувши пішохода з дороги мчащої машини, або, навпаки, зробивши щось образливе чи злочинне. Формат ситуації deepfake також мав би значення. Замість відео це може бути фотографія, можливо, з розмиттям і кутами, які імітують камеру смартфона, або підроблений логотип інформаційного агентства.
Ваша цільова аудиторія буде ключовою. Замість того, щоб орієнтуватися на загальний електорат чи партійну базу, ви можете націлитися на прихильників теорії змови в ключових виборчих округах. Ви можете зобразити кандидата або членів його родини такими, що беруть участь у сатанинський ритуал, беручи участь у фестивалі в ексклюзивний і суперечливий Богемська гай, або маючи таємна зустріч з інопланетянином.
Якщо у вас є амбіції та можливості для цього, ви можете навіть спробувати підробити самі вибори. У червні 2023 року російські телерадіостанції зазнали хакерських атак передати повний наказ про мобілізацію по діпфейк президента Росії Володимира Путіна. Хоча це було б складніше зробити на виборах у США, в принципі, будь-яке інформаційне агентство може бути зламано для трансляції глибоких фейків своїх ведучих, які повідомляють про неправильні результати або програють кандидата.
Відстоюючи реальність
Існують різноманітні технологічні та психологічні способи виявлення дипфейків ситуації та захисту від них.
На технологічному фронті всі дипфейки містять деякі докази своєї справжньої природи. Деякі з цих сигналів може побачити людське око, як-от надто гладка шкіра, дивне освітлення чи архітектура, тоді як інші можуть бути можна виявити лише штучним інтелектом, що шукає підробки.
Ми будуємо DeFakeдетектор за допомогою штучного інтелекту для виявлення ознак дипфейків, і ми працюємо над тим, щоб підготувати його до виборів 2024 року. Але навіть якщо такий потужний детектор дипфейків, як наш, не вдасться розгорнути до дня виборів, є психологічні інструменти, якими ви, виборець, можете скористатися для виявлення дипфейків: попередні знання, цікавість і здоровий скептицизм.
Якщо ви зіткнулися з медіаконтентом про особу, місце чи подію, який здається вам нехарактерним, довіртеся своїм попереднім знанням. Наприклад, в a нещодавня містифікація про пожежу в Пентагоні, зображена будівля виглядає більше квадратною, ніж п’ятикутною, що може бути подарунком.
Однак намагайтеся не покладатися повністю на свої попередні знання, які можуть бути помилковими або неоднозначними. Ніколи не бійтеся дізнаватися більше з надійних джерел, як-от перевірених фактів, рецензованих академічних статей або інтерв’ю з авторитетними експертами.
Крім того, майте на увазі, що дипфейки можуть бути використані, щоб отримати переваги від того, ким ви є схильний вірити про особу, місце чи подію. Один із найкращих способів впоратися з цим – просто усвідомлюйте свої упередження і будьте трохи обережні щодо будь-якого медіаконтенту, який, здається, підтверджує їх.
Навіть якщо стане можливим створювати ідеальні ситуаційні дипфейки, те, наскільки правдоподібною є їх тема, ймовірно, залишиться їх ахіллесовою п’ятою. Отже, з технологічним рішенням чи без нього, ви все ще маєте силу захистити вибори від впливу фейкових подій.
про автора
Крістофер Шварц, Докторський науковий співробітник комп’ютерної безпеки, Рочестерський технологічний інститут
Ця стаття перевидана з Бесіда за ліцензією Creative Commons. Читати оригінал статті.
Схожі книги:
Про тиранію: двадцять уроків двадцятого століття
Тімоті Снайдер
Ця книга містить уроки історії щодо збереження та захисту демократії, зокрема важливість інституцій, роль окремих громадян та небезпеки авторитаризму.
Натисніть, щоб дізнатися більше або замовити
Наш час зараз: сила, мета та боротьба за справедливу Америку
Стейсі Абрамс
Автор, політик і активіст, ділиться своїм баченням більш інклюзивної та справедливої демократії та пропонує практичні стратегії політичної участі та мобілізації виборців.
Натисніть, щоб дізнатися більше або замовити
Як помирають демократії
Стівена Левицького та Деніела Зіблата
У цій книзі розглядаються тривожні ознаки та причини розпаду демократії, спираючись на тематичні дослідження з усього світу, щоб запропонувати розуміння того, як захистити демократію.
Натисніть, щоб дізнатися більше або замовити
Народ, ні: коротка історія антипопулізму
Томас Франк
Автор пропонує історію популістських рухів у Сполучених Штатах і критикує «антипопулістську» ідеологію, яка, на його думку, придушила демократичні реформи та прогрес.
Натисніть, щоб дізнатися більше або замовити
Демократія в одній книзі або менше: як це працює, чому не працює і чому виправити це простіше, ніж ви думаєте
Девід Літт
Ця книга пропонує огляд демократії, включно з її сильними та слабкими сторонами, а також пропонує реформи, щоб зробити систему більш сприйнятливою та підзвітною.
