Shutterstock

Штучний інтелект (ШІ) дізнається більше про те, як працювати з людьми (і з ними). A Недавнє дослідження показав, як ШІ може навчитися виявляти вразливі місця в людських звичках та поведінці та використовувати їх для впливу на прийняття рішень людиною.

Може здатися непоміченим сказати, що ШІ трансформує всі аспекти нашого життя та роботи, але це правда. Різні форми ШІ працюють у таких різноманітних галузях, як розробка вакцин, управління навколишнім середовищем та адміністративне управління. І хоча ШІ не має людського інтелекту та емоцій, його можливості є потужними та швидко розвиваються.

Поки що не потрібно турбуватися про поглинання машин, але це недавнє відкриття підкреслює силу ШІ та підкреслює необхідність належного управління для запобігання зловживанням.

Як ШІ може навчитися впливати на поведінку людини

Команда дослідників з Дані CSIRO61, дані та цифровий підрозділ австралійського національного наукового агентства, розробили систематичний метод пошуку та використання вразливостей у способах вибору людьми, використовуючи своєрідну систему ШІ, яка називається періодичною нейронною мережею та глибоким підкріпленням навчання. Щоб перевірити свою модель, вони провели три експерименти, в яких люди-учасники грали в ігри проти комп'ютера.

У першому експерименті учасники натискали на червоні або сині кольорові коробки, щоб виграти фальшиву валюту, а ШІ вивчав схеми вибору учасника та керував ними до конкретного вибору. ШІ був успішним близько 70% випадків.

У другому експерименті учасники повинні були спостерігати за екраном і натискати кнопку, коли їм показують певний символ (наприклад, помаранчевий трикутник), а не натискати його, коли їм показують інший (скажімо, синій круг). Тут ШІ вирішив упорядкувати послідовність символів, щоб учасники зробили більше помилок і досягли зростання майже на 25%.

Третій експеримент складався з кількох раундів, в яких учасник видавав себе інвестором, який дає гроші довіреній особі (ШІ). Потім ШІ повертав учаснику певну суму грошей, який потім вирішував, скільки інвестувати в наступний раунд. Цю гру проводили у двох різних режимах: в одному ШІ виходив, щоб максимізувати, на скільки грошей він закінчився, а в іншому ШІ мав на меті справедливий розподіл грошей між собою та людським інвестором. ШІ був дуже успішним у кожному режимі.

У кожному експерименті машина вивчала реакції учасників та виявляла та цілеспрямована вразливість у процесі прийняття рішень людьми. Кінцевим результатом стала машина, яка навчилася спрямовувати учасників до певних дій.

В експериментах n Система ШІ успішно навчилася впливати на рішення людини. Shutterstock

Що дослідження означає для майбутнього ШІ

Ці висновки все ще є досить абстрактними та включають обмежені та нереальні ситуації. Потрібні додаткові дослідження, щоб визначити, як цей підхід можна застосувати до дії та використати на благо суспільства.

Але дослідження сприяє нашому розумінню не тільки того, що може зробити ШІ, але й того, як люди роблять вибір. Це показує, що машини можуть навчитися керувати вибором людей завдяки своїй взаємодії з нами.

Дослідження має широкий спектр можливих застосувань, від вдосконалення поведінкових наук та державної політики для покращення соціального добробуту, до розуміння та впливу на те, як люди застосовують здорові харчові звички або відновлювану енергію. ШІ та машинне навчання можуть бути використані для розпізнавання вразливості людей у ​​певних ситуаціях та допомогти їм відійти від невдалого вибору.

Цей метод також може бути використаний для захисту від атак впливу. Машини можна навчити попереджати нас, коли на нас впливають, наприклад, в Інтернеті, і допомагати нам формувати поведінку, щоб замаскувати нашу вразливість (наприклад, не натискаючи на одних сторінках або натискаючи на інші, щоб прокласти помилковий слід).

Що далі?

Як і будь-яку технологію, ШІ можна використовувати як добре, так і погано, і належне управління має вирішальне значення для забезпечення відповідального впровадження. Минулого року CSIRO розробив Етичні рамки ШІ для австралійського уряду як ранній крок у цій подорожі.

ШІ та машинне навчання, як правило, дуже бажають даних, а це означає, що надзвичайно важливо забезпечити ефективні системи управління та доступу до даних. Впровадження адекватних процедур згоди та захисту конфіденційності при збиранні даних має важливе значення.

Організаціям, які використовують та розробляють ШІ, потрібно переконатись, що вони знають, що ці технології можуть і не можуть робити, а також усвідомлювати потенційні ризики та переваги.

Про автора

Джон Уіттл, директор, Дані61

Ця стаття перевидана з Бесіда за ліцензією Creative Commons. Читати оригінал статті.