глибокі підробки сіють сумнів 4 14
 Технологія, яка може створювати дипфейки, широко доступна. (Шаттерсткі)

На початку березня а Було розповсюджено маніпуляційне відео президента України Володимира Зеленського. У ньому цифрово згенерований Зеленський сказав Українській національній армії здатися. Відео було розповсюджено в Інтернеті, але його швидко розвінчали як дипфейк — гіперреалістичне, але фальшиве та маніпулюване відео, створене за допомогою штучного інтелекту.

Хоча російська дезінформація, здається, має обмежений вплив, цей тривожний приклад проілюстрував потенційні наслідки дипфейків.

Однак дипфейки успішно використовуються в допоміжних технологіях. Наприклад, люди, які страждають на хворобу Паркінсона, можуть використовувати клонування голосу для спілкування.

Deepfakes використовуються в освіті: ірландська компанія CereProc із синтезу мовлення створила синтетичний голос для Джона Ф. Кеннеді, повернувши його до життя, щоб виголосити свою історичну промову.

Innersele підписатися графіка

Але кожна монета має дві сторони. Дипфейки можуть бути гіперреалістичними і практично не помічається людським оком.

Таким чином, та ж технологія клонування голосу може бути використана для фішингу, наклепу та шантажу. Коли дипфейки навмисно використовуються для зміни громадської думки, розпалювання соціальних конфліктів і маніпулювання виборами, вони можуть підірвати демократію.

Дослідники з Вашингтонського університету створили дипфейк Барака Обами.

Викликаючи хаос

Deepfakes засновані на технології, відомій як генеративні змагальні мережі в якому два алгоритми навчають один одного створювати зображення.

Хоча технологія глибоких підробок може здатися складною, створити її досить просто. Існує безліч онлайн-додатків, таких як Заміна обличчя та ЗАТ Deepswap які можуть створити глибокі підробки за лічені хвилини.

Google Colaboratory — онлайн-сховище коду на кількох мовах програмування — містить приклади коду, який можна використовувати для створення підроблених зображень і відео. Завдяки такому доступному програмному забезпеченню легко побачити, як звичайні користувачі можуть завдати шкоди дипфейкам, не усвідомлюючи потенційних ризиків для безпеки.

Популярність додатків для заміни обличчя та онлайн-сервісів, як-от Глибока ностальгія показати, як швидко та широко дипфейки можуть бути прийняті широкою громадськістю. у 2019 році Було виявлено близько 15,000 XNUMX відео з використанням дипфейків. І очікується, що ця кількість буде зростати.

Deepfakes є ідеальним інструментом для дезінформаційних кампаній, оскільки вони створюють правдоподібні фейкові новини, для розкриття яких потрібен час. Між тим, збитки, завдані дипфейками, особливо ті, що впливають на репутацію людей, часто є довготривалими і незворотними.

Бачити – вірити?

Мабуть, найнебезпечнішим розгалуженням дипфейків є те, що вони піддаються дезінформації під час політичних кампаній.

Ми побачили це, коли Дональд Трамп назвав будь-яке невтішне висвітлення в ЗМІ «підроблені новини». Звинувачуючи своїх критиків у поширенні фейкових новин, Трамп зміг використати дезінформацію для захисту своїх правопорушень і як інструмент пропаганди.

Стратегія Трампа дозволяє йому підтримувати підтримку в середовищі, наповненому недовірою та дезінформацією, заявляючи, що «що правдиві події та історії є фейковими новинами або глибокими фейками».

Довіра до влади та ЗМІ підривається, створюючи атмосферу недовіри. А зі зростанням поширення дипфейків політики можуть легко заперечити вину в будь-яких виникаючих скандалах. Як можна підтвердити чиюсь особу на відео, якщо вони це заперечують?

Проте боротьба з дезінформацією завжди була викликом для демократій, оскільки вони намагаються підтримувати свободу слова. Партнерство між людиною та штучним інтелектом може допомогти подолати зростаючий ризик глибоких фейків, якщо люди перевіряють інформацію. Також можна було б розглянути питання про введення нового законодавства або застосування існуючих законів для покарання виробників дипфейків за фальсифікацію інформації та видавання себе за людей.

Багатодисциплінарні підходи міжнародних і національних урядів, приватних компаній та інших організацій є життєво важливими для захисту демократичних суспільств від неправдивої інформації.Бесіда

про автора

Се-Фун Лі, науковий асистент кафедри інформаційних досліджень, Університет Макгілла та Бенджамін CM Фунг, професор і кафедра дослідження Канади в галузі аналізу даних для кібербезпеки, Університет Макгілла

Ця стаття перевидана з Бесіда за ліцензією Creative Commons. Читати оригінал статті.