Агенти ШІ: Коли інструменти починають діяти від нашого імені

: By Алекс Джордан, InnerSelf.com

Ми не прокинулися одного дня та не передали кермо керування автоматам. Це сталося тихо, зручно по одній. Ваша електронна пошта відсортувала себе сама. Ваш календар навчився пропонувати час зустрічей. Ваш банк уже повідомив про шахрайство, перш ніж ви помітили стягнення. Це виглядало як корисні оновлення, а не передача влади. Але щось змінилося по дорозі, і більшість із нас цього не помітили.

У цій статті

Розуміння того, що насправді являють собою агенти штучного інтелекту та чим вони відрізняються від звичайного програмного забезпечення
Критична різниця між допомогою та делегуванням в автоматизованих системах
Чому оптимізація без мудрості створює передбачувані проблеми
Реальні приклади як етичного використання, так і нових зловживань
Практичні кроки для підтримки вашої агенції в автоматизованому світі

Системи, які зараз сортують, пропонують, а іноді й вирішують за нас, починалися як прості помічники. Спам-фільтри рятували нас від нескінченного мотлоху. Рекомендаційні системи вказували нам на книги, які могли б нам сподобатися. Помічники з планування знаходили час, який підходив усім. Кожне нововведення вирішувало реальну проблему. Кожне трохи спрощувало життя. І кожне навчило нас очікувати, що технології оброблятимуть дедалі складніші рішення за нас.

Ми зараз на тому етапі, коли системи не просто допомагають нам вирішувати — вони вирішують і діють. Вони не чекають на схвалення. Вони не завжди пояснюють свої дії. І вони працюють у таких масштабах і швидкостях, що людський нагляд здається дивним, навіть неможливим. Це сталося не тому, що ми зробили один великий вибір відмовитися від контролю. Це сталося тому, що ми зробили десять тисяч маленьких рішень, щоб прийняти зручність, не ставлячи під сумнів ціну.

Що насправді роблять ці системи

Агент штучного інтелекту відрізняється від програмного забезпечення, з яким ви виросли. Традиційні програми виконують інструкції. Вони чекають на вхідні дані, обробляють їх за встановленими правилами та зупиняються. Калькулятор не продовжує обчислення після того, як ви йдете. Текстовий процесор не починає писати самостійно. Ці інструменти інертні, доки їх не активують. Вони слуги, а не актори.

Агенти ШІ працюють по-іншому. Вони постійно спостерігають за своїм оточенням. Вони приймають рішення на основі того, що вони сприймають. Вони вживають заходів для досягнення цілей. І вони повторюють цей цикл без постійного керівництва людини. Визначальною рисою є не інтелект у людському розумінні, а ініціативність. Агент не просто відповідає на виклик. Він діє.

Уявіть собі термостат. Старий тип вимагав ручного налаштування, коли змінювалася температура. Розумний термостат спостерігає за закономірностями, вивчає ваші вподобання, прогнозує ваш графік і самостійно регулює опалення та охолодження. Він приймає рішення. Невеликі, але все ж таки рішення. Тепер масштабуйте це до систем, які торгують акціями, фільтрують заявки на роботу, модерують контент і керують ланцюгами поставок. Принцип той самий. Наслідки інші.

Різниця між допомогою та заміною

В автоматизації є моральний поворотний момент, який більшість обговорень ігнорує. Це різниця між використанням ШІ для формування ваших суджень та дозволами ШІ замінити ваші судження. Одне робить вас відповідальними. Інше дозволяє вам звільнитися від відповідальності.

Коли лікар використовує систему штучного інтелекту для аналізу медичних зображень, але все одно переглядає результати та ставить діагноз, це називається доповненням. Інструмент виявляє закономірності, які людина може пропустити. Людина інтегрує ці висновки з історією хвороби пацієнта, симптомами та клінічним досвідом. Відповідальність залишається очевидною. Але коли страхова компанія використовує алгоритм для схвалення або відхилення претензій, а люди-рецензенти перетворюються на «штампи», які рідко скасовують рекомендації системи, щось важливе змінилося. Поява людського нагляду маскує те, що фактично є алгоритмічною владою.

Делегування здається ефективним. Воно здається нейтральним. Воно відчувається як прогрес. Зрештою, чому люди повинні витрачати час на рішення, які машини можуть обробляти швидше та послідовніше? Відповідь полягає в тому, що послідовність — це не те саме, що правильність, а ефективність — це не те саме, що справедливість. Машини не мають жодної участі в грі. Вони не втрачають сон через помилки. Коли ми делегуємо судження системам, яким бракує судження, ми створюємо вакуум відповідальності. І цей вакуум заповнюється виправданнями. Алгоритм зробив це. Система помітила це. Ці фрази стали щитами від відповідальності.

Чому невпинна оптимізація нас підводить

Агенти штучного інтелекту – це оптимізатори. Їм ставлять цілі, і вони невпинно домагаються їх, часто набагато ефективніше, ніж люди. Це звучить як перевага, доки не подивитися на те, що насправді оптимізується. Алгоритми соціальних мереж оптимізують залученість, що на практиці означає посилення обурення та суперечок, оскільки це змушує людей гортати сторінки. Алгоритми найму оптимізують моделі успішних минулих наймів, а це означає, що вони відтворюють історичні упередження. Алгоритми ціноутворення оптимізують дохід, що може означати, що різні люди платять різні ціни за один і той самий продукт залежно від того, скільки, на думку системи, вони готові терпіти.

Проблема не в тому, що ці системи не працюють. Проблема в тому, що вони працюють саме так, як задумано. Вони роблять те, що їм сказали. Але цілі, які їм поставили, є неповними. Вони не враховують правду, справедливість, гідність чи довгострокове благополуччя, тому що ці речі важко виміряти, а ще важче закодувати. Тож системи максимізують те, що можна виміряти — кліки, конверсії, ефективність, прибуток — а те, що має найбільше значення, розглядається як зовнішні ефекти.

Саме люди повинні зважувати контекст і цінності. Ми повинні помічати, коли оптимізація завдає шкоди. Але коли системи працюють масштабно та швидко, таке людське судження стає непрактичним. На той час, коли ми помічаємо, що щось не так, алгоритм вже прийняв десять тисяч рішень. Те, що можна оптимізувати, не завжди те, що слід максимізувати. Це правда, яку машини не можуть осягнути, а люди постійно забувають.

Як ці системи використовуються неналежним чином

Більшість шкоди від агентів штучного інтелекту походить не від злого умислу. Вона виникає внаслідок неконтрольованих систем, які роблять саме те, для чого їх запрограмували, у масштабах і зі швидкістю, що посилюють кожен недолік. Одна людина, яка діє неетично, — це проблема. Одна система, яка дозволяє одному учаснику діяти так, ніби їх тисячі, — це криза.

Масштаб без відповідальності проявляється всюди. Боти, які маніпулюють розмовами в соціальних мережах, фейкові системи відгуків, автоматизований спам, який адаптується швидше, ніж фільтри можуть його вловити. Коли настають наслідки, захист завжди один і той самий: це зробила система. Я просто встановив параметри. Ці виправдання працюють, тому що відповідальність навмисно приховується.

Делегована шкода є особливо підступною, оскільки дозволяє установам уникати відповідальності, зберігаючи при цьому владу. Алгоритм відхиляє вашу заявку на кредит. Автоматизована система позначає вашу посаду як таку, що порушує стандарти спільноти. Інструмент найму відсіює вас ще до того, як людина побачить ваше резюме. Коли ви подаєте апеляцію, вам часто кажуть, що рішення залишається в силі, оскільки система справедлива та об'єктивна. Але справедливість — це не те саме, що послідовність, а об'єктивність — це міф, коли система була навчена на упереджених даних або розроблена для оптимізації неправильних цілей.

Найглибший ризик

Справжня небезпека полягає не в тому, що машини візьмуть на себе контроль. Річ у тім, що ми перестанемо намагатися це зробити. Люди адаптуються до систем навколо них. Коли рішення здаються автоматизованими та неминучими, питання зникають. Коли результати досягаються без видимої участі людини, відповідальність, здається, випаровується. Ми вчимо себе приймати те, що нам дають, замість того, щоб вимагати того, що правильно.

Ця закономірність знайома. Бюрократія вчить людей, що правила фіксовані, а винятків не існує. Монополії платформ вчать людей, що умови обслуговування не підлягають обговоренню. Фінансова автоматизація вчить людей, що ринки знаходяться поза людським впливом. Кожна система підриває відчуття важливості індивідуального вибору. А агенти штучного інтелекту, оскільки вони діють швидше та непрозоріше, ніж будь-що до них, прискорюють цей процес.

Агентство — це не стан за замовчуванням. Це те, що ви або практикуєте, або втрачаєте. Чим частіше ви покладаєтеся на системи, тим менш здатні ви стверджувати власну думку. Чим частіше ви приймаєте алгоритмічні результати беззаперечно, тим важче уявити, що все може бути інакше. Це найбільша небезпека. Не контроль з боку машин, а звикання не приймати рішень.

Що ви насправді можете зробити

Опір руйнуванню свободи дій не вимагає грандіозних жестів. Він вимагає щоденної практики. Почніть із сумнівів щодо невидимої автоматизації. Коли система приймає рішення, яке впливає на вас, запитайте себе, як воно працює і хто за нього відповідальний. Перш ніж довіряти автоматизованим результатам, запитайте себе, чи має результат сенс і чи система може не втрачати щось важливе. Віддавайте перевагу системам, які пояснюють себе, а не чорним скринькам, які вимагають довіри.

Залишайтеся залученими там, де це важливо. Не делегуйте рішення лише тому, що можете. Якщо інструмент пропонує писати ваші електронні листи, редагувати вашу роботу або надавати рекомендації від вашого імені, подумайте, чи варта ця зручність дистанції, яку вона створює між вами та завданням. А коли ви стикаєтеся з системами, які працюють без підзвітності, вимагайте кращого. Стримуйте алгоритмічні рішення. Вимагайте перевірки людиною. Відмовтеся визнавати, що відповідь системи є остаточною лише тому, що вона автоматизована.

Агентство — це практика, а не налаштування за замовчуванням. Щоразу, коли ви ставите під сумнів автоматизований результат, ви використовуєте здатність, яка атрофується від невикористання. Щоразу, коли ви наполягаєте на людській відповідальності, ви протистоїте нормалізації алгоритмічної влади. Ці невеликі акти свідомого вибору мають значення, тому що вони формують середовище, в якому орієнтуються всі інші.

Інструменти, які ми формуємо, або сили, що формують нас

Агенти ШІ – це інструменти, які ми розробляємо. Це перша істина. Але після розгортання вони змінюють поведінку та владу. Це друга істина. Обидва є реальними, і вдавати, що це не так, небезпечно. Питання не в тому, чи ці системи продовжуватимуть діяти. Вони продовжуватимуть. Питання в тому, чи залишатимуться люди відповідальними за те, що діє від їхнього імені.

Майбутнє будується прямо зараз через мільйон дрібних рішень про те, де автоматизувати, а де наполягати на людському судженні. Ці рішення не лише технічні. Вони моральні. Вони стосуються того, в якому світі ми хочемо жити і яку свободу дій ми хочемо зберегти. Шлях за замовчуванням очевидний. Більше автоматизації, менше нагляду, більша зручність, зменшення відповідальності. Цей шлях легкий, тому що він прибутковий та ефективний, і здається неминучим.

Але неминучість – це історія, яку ми розповідаємо собі, щоб уникнути дискомфорту вибору. Реальність така, що кожне розгортання агента ШІ – це вибір. Кожне прийняття алгоритмічного авторитету – це вибір. Кожен раз, коли ми знизуємо плечима і кажемо, що система вирішила – це вибір. І кожен вибір формує те, що буде далі. Тож питання не в тому, що робитиме ШІ. Питання в тому, які рішення ви все ще готові прийняти самі. Відповідь на це питання важливіша за будь-який алгоритм.