голосове шахрайство deepfake 7 18
 Клонувати чийсь голос легше, ніж будь-коли. D-Keine/iStock через Getty Images

Ви щойно повернулися додому після довгого робочого дня і збираєтеся сісти обідати, як раптом ваш телефон починає гудіти. На іншому кінці — кохана людина, можливо, батько, дитина чи друг дитинства, які благають вас негайно надіслати їм гроші.

Ви ставите їм запитання, намагаючись зрозуміти. У їхніх відповідях є щось невиразне, вони або розпливчасті, або нехарактерні, а іноді з’являється особлива затримка, майже так, ніби вони міркують надто повільно. Проте ви впевнені, що це точно говорить ваша кохана людина: це її голос, який ви чуєте, а ідентифікатор абонента показує її номер. Записуючи дивність їхньої паніки, ви сумлінно надсилаєте гроші на банківський рахунок, який вони вам надають.

Наступного дня ви передзвоните їм, щоб переконатися, що все гаразд. Ваш коханий поняття не має, про що ви говорите. Це тому, що вам ніколи не дзвонили – вас ошукали технології: голосовий дипфейк. Тисячі людей були обдурили таким чином у 2022 році.

Здатність клонувати голос людини стає все більш доступною для кожного, хто має комп’ютер.


Innersele підписатися графіка


 

As комп'ютерна безпека Дослідники, ми бачимо, що постійний прогрес у алгоритмах глибокого навчання, редагуванні та розробці аудіо, а також генерації синтетичного голосу означає, що стає все більш можливим переконливо імітувати голос людини.

Навіть гірше, чат-боти, такі як ChatGPT, починають генерувати реалістичні сценарії з адаптивними відповідями в реальному часі. за поєднання цих технологій із генерацією голосу, deepfake перетворюється на статичний запис на живий, реалістичний аватар, який може переконливо вести телефонну розмову.

Клонування голосу

Створити переконливий високоякісний дипфейк, будь то відео чи аудіо, не найпростіше. Це вимагає величезних художніх і технічних навичок, потужного апаратного забезпечення та досить потужного зразка цільового голосу.

Зростає кількість пропонованих послуг створювати голосові клони середньої та високої якості за окрему плату, а для деяких інструментів голосового дипфейку потрібен зразок лише хвилина, або навіть всього кілька секунд, щоб створити голосовий клон, який міг би бути достатньо переконливим, щоб обдурити когось. Однак, щоб переконати кохану людину – наприклад, використати в шахрайстві з виданням за іншу особу – ймовірно, знадобиться значно більша вибірка.

Дослідники змогли клонувати голоси лише за п’ять секунд запису.

 

Захист від шахрайства та дезінформації

З огляду на все сказане, ми в Проект DeFake з Рочестерського технологічного інституту, Університету Міссісіпі та Університету штату Мічиган та інші дослідники наполегливо працюють над тим, щоб мати змогу виявляти глибокі підробки відео та аудіо та обмежувати шкоду, яку вони завдають. Є також прості та щоденні дії, які ви можете зробити, щоб захистити себе.

Для початківців, голосовий фішинг, або «вішинг», шахрайства, подібні до описаного вище, є найімовірнішими голосовими дипфейками, з якими ви можете зіткнутися в повсякденному житті, як на роботі, так і вдома. У 2019 році ан енергетичну компанію було викрадено на 243,000 XNUMX доларів США коли злочинці зімітували голос керівника материнської компанії, щоб наказати працівнику переказати кошти постачальнику. У 2022 році людей було шахрайством викрадено приблизно 11 мільйонів доларів імітацією голосів, у тому числі близьких, особистих зв’язків.

Що ви можете зробити?

Будьте уважні до несподіваних дзвінків, навіть від людей, яких ви добре знаєте. Це не означає, що вам потрібно планувати кожен дзвінок, але це допоможе принаймні надіслати електронний лист або текстове повідомлення заздалегідь. Крім того, не покладайтеся на ідентифікатор абонента, оскільки це також можна підробити. Наприклад, якщо вам дзвонить хтось, який стверджує, що представляє ваш банк, покладіть трубку та зателефонуйте безпосередньо в банк, щоб підтвердити законність дзвінка. Обов’язково використовуйте номер, який ви записали, зберегли у списку контактів або можете знайти в Google.

Крім того, будьте обережні зі своєю особистою ідентифікаційною інформацією, як-от номер соціального страхування, домашня адреса, дата народження, номер телефону, по батькові та навіть імена ваших дітей і домашніх тварин. Шахраї можуть використовувати цю інформацію, щоб видати себе за вас перед банками, ріелторами та іншими, збагачуючись, доводячи вас до банкрутства або знищуючи ваш кредит.

Ось ще одна порада: пізнайте себе. Зокрема, знайте свої інтелектуальні та емоційні упередження та вразливі місця. Загалом це хороша життєва порада, але вона має ключове значення, щоб захистити себе від маніпулювання. Зазвичай шахраї намагаються викрити ваші фінансові тривоги, політичні прихильності чи інші схильності, якими б вони не були, а потім використовують їх.

Ця пильність також є гідним захистом від дезінформації за допомогою голосових дипфейків. Deepfakes можна використовувати, щоб скористатися перевагами вашого підтвердження упередженості, або те, що ви схильні вірити про когось.

Якщо ви чуєте, як важлива особа, чи то з вашої громади, чи з уряду, говорить щось, що або здається їй дуже нехарактерним, або підтверджує ваші найгірші підозри щодо неї, було б мудро бути обережними.Бесіда

Про авторів

Меттью Райт, професор комп’ютерної безпеки, Рочестерський технологічний інститут та Крістофер Шварц, Докторський науковий співробітник комп’ютерної безпеки, Рочестерський технологічний інститут

Ця стаття перевидана з Бесіда за ліцензією Creative Commons. Читати оригінал статті.