Зображення на Сьюзан Сіпріано
Від редактора:
Як підкреслюється в цій статті, розробка політичних кампаній, керованих ШІ, таких як гіпотетична машина під назвою Clogger, може серйозно підірвати чесність виборів. Завдяки автоматизації, спеціальному обміну повідомленнями та навчанню з підкріпленням ці машини мають потенціал маніпулювати та змінювати поведінку виборців у великих масштабах.
В епоху, коли штучний інтелект (ШІ) швидко розвивається, ми повинні залишатися пильними щодо потенційних загроз, які він становить для наших демократичних процесів. Поява кампаній, керованих ШІ, кидає виклик самій суті демократії. Замість того, щоб вибори визначалися силою ідей, політичних пропозицій і справжнього вибору виборців, ними могли б керувати машини, зосереджені виключно на перемозі. Контент, який переважатиме, надходитиме з мовних моделей ШІ без урахування правди чи політичних принципів. По суті, результати виборів будуть продиктовані штучним інтелектом, що підриває демократичний процес.
Щоб запобігти зростанню «клогократії» та позбавленню прав громадян, вкрай важливо, щоб ми вжили заходів. Покращений захист конфіденційності та жорсткі закони про конфіденційність даних можуть допомогти обмежити доступ машин штучного інтелекту до особистих даних, зменшуючи їхню ефективність у націлюванні та маніпулюванні людьми. Виборчим комісіям також слід розглянути заборону або суворе регулювання систем ШІ, призначених для впливу на виборців. Правила реалізації, які вимагають чітких застережень, коли повідомлення, згенеровані ШІ, використовуються в політичних кампаніях. Це може забезпечити прозорість і допомогти виборцям приймати обґрунтовані рішення.
Вкрай важливо, щоб ми активно вирішували ці виклики та забезпечували відповідальне використання можливостей ШІ для дотримання принципів демократії. Забезпечуючи чесність виборів і захищаючи свободу вибору, ми можемо орієнтуватися в складнощах штучного інтелекту та зберегти основи демократичного управління.
Як штучний інтелект міг взяти під контроль вибори – і підірвати демократію
Написано Архонт Фунг, професор громадянства та самоврядування, Гарвардська школа Кеннеді та Лоуренс Лессиг, професор права та лідерства, Гарвардський університет
Чи можуть організації використовувати мовні моделі штучного інтелекту, такі як ChatGPT, щоб спонукати виборців до певних дій?
Сенатор Джош Хоулі поставив це запитання генеральному директору OpenAI Сему Альтману в a 16 травня 2023 року, слухання в Сенаті США на штучний інтелект. Альтман відповів, що він справді стурбований тим, що деякі люди можуть використовувати мовні моделі, щоб маніпулювати, переконувати та брати участь у взаємодії один на один з виборцями.
Альтман не уточнив, але міг мати на увазі щось подібне до цього сценарію. Уявіть собі, незабаром політтехнологи розроблять машину під назвою Clogger – політичну кампанію в чорному ящику. Clogger невпинно переслідує лише одну мету: збільшити шанси на те, що його кандидат – кампанія, яка купує послуги Clogger Inc. – переможе на виборах.
Хоча такі платформи, як Facebook, Twitter і YouTube, використовують форми штучного інтелекту, щоб спонукати користувачів до витрачати більше часу на своїх сайтах штучний інтелект Clogger мав би іншу мету: змінити поведінку людей при голосуванні.
Як працював би Clogger
Як політолог і вчений-юрид які вивчають перетин технологій і демократії, ми вважаємо, що щось на кшталт Clogger могло б використовувати автоматизацію для різкого збільшення масштабів і, можливо, ефективності маніпуляції поведінкою та техніки мікротаргетування які політичні кампанії використовували з початку 2000-х років. Так як рекламодавці використовують вашу історію веб-перегляду та соціальні мережі щоб зараз індивідуально націлити комерційну та політичну рекламу, Клогер звернув би увагу на вас – і сотні мільйонів інших виборців – окремо.
Це запропонує три переваги в порівнянні з поточним найсучаснішим алгоритмом маніпулювання поведінкою. По-перше, його мовна модель створюватиме повідомлення — тексти, соціальні медіа та електронну пошту, можливо, включаючи зображення та відео — спеціально підібрані для вас. У той час як рекламодавці стратегічно розміщують відносно невелику кількість оголошень, мовні моделі, такі як ChatGPT, можуть генерувати незліченну кількість унікальних повідомлень особисто для вас – і мільйони для інших – протягом кампанії.
По-друге, Клогер використає техніку під назвою навчання щоб створити послідовність повідомлень, які дедалі частіше змінюють ваш голос. Навчання з підкріпленням — це підхід до машинного навчання методом проб і помилок, за якого комп’ютер виконує дії та отримує відгуки про те, що працює краще, щоб навчитися досягати мети. Машини, які можуть грати в го, шахи та багато відеоігор краще будь-якої людини використовували навчання з підкріпленням.
Як працює навчання з підкріпленням.
По-третє, протягом кампанії повідомлення Clogger можуть змінюватися, щоб враховувати ваші відповіді на попередні повідомлення машини та те, що вона дізналася про зміну думок інших. З часом Clogger зможе вести динамічні «розмови» з вами та мільйонами інших людей. Повідомлення Clogger були б схожі на оголошення, які слідкують за вами на різних веб-сайтах і в соціальних мережах.
Природа ШІ
Варто відзначити ще три особливості – або помилки.
По-перше, повідомлення, які надсилає Clogger, можуть мати, а можуть і не мати політичного змісту. Єдиною метою машини є максимізація частки голосів, і вона, ймовірно, розробить стратегії для досягнення цієї мети, про які б не подумав жоден учасник кампанії.
Однією з можливостей є надсилання ймовірним опонентам інформації про неполітичні пристрасті, які вони мають у спорті чи розвагах, щоб поховати політичні повідомлення, які вони отримують. Іншою можливістю є надсилання неприємних повідомлень – наприклад, реклами нетримання сечі – приурочених до повідомлень опонентів. А інший – маніпулювання групами друзів виборців у соціальних мережах, щоб створити відчуття, що їхні соціальні кола підтримують свого кандидата.
По-друге, Клогер не поважає правду. Дійсно, він не має способу дізнатися, що правда, а що хибність. Мовна модель «галюцинації» не є проблемою для цієї машини, оскільки її метою є змінити ваш голос, а не надати точну інформацію.
По-третє, тому що це a штучний інтелект типу чорної скриньки, люди не зможуть дізнатися, які стратегії він використовує.
Сфера зрозумілого ШІ має на меті відкрити чорну скриньку багатьох моделей машинного навчання, щоб люди могли зрозуміти, як вони працюють.
Клогократія
Якби республіканська президентська кампанія запровадила Clogger у 2024 році, демократична кампанія, ймовірно, була б змушена відповісти тим же, можливо, за допомогою подібної машини. Назвіть це Dogger. Якби керівники кампанії вважали ці машини ефективними, президентська боротьба цілком могла б звестися до Клоггера проти Доггера, і переможцем став би клієнт ефективнішої машини.
Політологи та експерти могли б багато сказати про те, чому той чи інший штучний інтелект переміг, але, ймовірно, ніхто б цього не знав. Президента буде обрано не тому, що його чи її політичні пропозиції чи політичні ідеї переконали більше американців, а тому, що він чи вона мали ефективніший ШІ. Контент, який переміг, надійшов би від ШІ, зосередженого виключно на перемозі, без власних політичних ідей, а не від кандидатів чи партій.
У цьому дуже важливому сенсі вибори виграла б машина, а не людина. Вибори більше не будуть демократичними, навіть якщо всі звичайні дії демократії – виступи, оголошення, повідомлення, голосування та підрахунок голосів – відбудуться.
Тоді обраний штучним інтелектом президент міг піти одним із двох шляхів. Він або вона могли б використовувати виборчу мантію для проведення політики Республіканської або Демократичної партії. Але оскільки ідеї партії, можливо, мали мало спільного з тим, чому люди проголосували саме так – Клоггера та Доггера не хвилюють політичні погляди – дії президента не обов’язково відображатимуть волю виборців. ШІ міг би маніпулювати виборцями, а не вільно обирати своїх політичних лідерів і політику.
Інший шлях полягає в тому, щоб президент дотримувався тих ідей, поведінки та політики, які, за прогнозами машини, максимізують шанси на переобрання. На цьому шляху президент не мав би жодної конкретної платформи чи порядку денного, окрім збереження влади. Дії президента, керовані Клогером, швидше за все будуть спрямовані на маніпулювання виборцями, а не на служіння їхнім справжнім інтересам чи навіть власній ідеології президента.
Уникнення клогократії
Можна було б уникнути маніпуляцій ШІ на виборах, якби кандидати, кампанії та консультанти відмовилися від використання такого політичного ШІ. Ми вважаємо, що це малоймовірно. Якби були розроблені політично ефективні чорні скриньки, спокуса використати їх була б майже непереборною. Дійсно, політичні консультанти цілком можуть використовувати ці інструменти відповідно до їхньої професійної відповідальності, щоб допомогти своїм кандидатам перемогти. І як тільки один кандидат використовує такий ефективний інструмент, навряд чи можна очікувати, що опоненти будуть чинити опір шляхом роззброєння в односторонньому порядку.
Посилений захист конфіденційності допомогло б. Clogger залежатиме від доступу до великої кількості особистих даних, щоб націлюватися на окремих людей, створювати повідомлення, спрямовані на переконання чи маніпулювання ними, а також відстежувати та перенацілювати їх протягом кампанії. Кожна частина цієї інформації, яку компанії чи політики заперечують машині, зробить її менш ефективною.
Суворі закони про конфіденційність даних можуть допомогти вберегти ШІ від маніпуляцій.
Інше рішення – за виборчими комісіями. Вони можуть спробувати заборонити або суворо регулювати ці машини. Є запеклі дебати про те, чи таке «реплікантська» мова, навіть якщо це політичний характер, можна регулювати. Традиція надзвичайної свободи слова в США спонукає багатьох провідних науковців стверджувати, що це неможливо.
Але немає причин автоматично поширювати захист Першої поправки на продукти цих машин. Нація цілком може вирішити надати машинам права, але це рішення має бути засноване на викликах сьогодення, не недоречне припущення що погляди Джеймса Медісона в 1789 році мали бути застосовані до ШІ.
Регулятори Європейського Союзу рухаються в цьому напрямку. Політики переглянули законопроект Європейського парламенту про штучний інтелект, щоб визначити «системи ШІ для впливу на виборців під час кампаній» як «високий ризик» і підлягає регулятивному контролю.
Один конституційно безпечніший, хоча й менший, крок, уже частково прийнятий Європейські регулятори Інтернету і в Каліфорнія, полягає в тому, щоб заборонити ботам видавати себе за людей. Наприклад, законодавство може вимагати, щоб повідомлення кампанії супроводжувалися застереженнями, якщо вміст, який вони містять, створюється машинами, а не людьми.
Це буде схоже на вимоги щодо відмови від відповідальності щодо реклами – «Оплачено Комітетом Конгресу Сема Джонса» – але змінено, щоб відобразити походження штучного інтелекту: «Цю рекламу, згенеровану ШІ, було оплачено Комітетом Конгресу Сема Джонса». Більш сильна версія може вимагати: «Це згенероване штучним інтелектом повідомлення надсилається вам Комітетом Конгресу Сема Джонса, оскільки Клогер передбачив, що це збільшить ваші шанси проголосувати за Сема Джонса на 0.0002%». Принаймні ми вважаємо, що виборці заслуговують знати, коли з ними розмовляє бот, і вони також повинні знати, чому.
Можливість такої системи, як Clogger, показує, що шлях до колективне позбавлення прав людини не може знадобитися якась надлюдина штучний загальний інтелект. Для цього можуть знадобитися просто активні учасники кампаній і консультанти, які мають нові потужні інструменти, які можуть ефективно натискати на численні кнопки мільйонів людей.
Про авторів
Архонт Фунг, професор громадянства та самоврядування, Гарвардська школа Кеннеді та Лоуренс Лессиг, професор права та лідерства, Гарвардський університет
Ця стаття перевидана з Бесіда за ліцензією Creative Commons. Читати оригінал статті.
Додаток редактора: потенціал штучного інтелекту захопити вибори та підірвати демократію є актуальною проблемою, яка вимагає нашої уваги. Як підкреслюється в цій статті, зростання політичних кампаній, керованих штучним інтелектом, таких як Clogger, може змінити результати виборів, коли машини впливатимуть на поведінку виборців у безпрецедентних масштабах. Наслідки такого зрушення були б далекосяжними, оскільки вибори визначалися б не волею народу, а ефективністю маніпуляцій ШІ.
Щоб запобігти цьому позбавленню прав громадян і захистити демократію, ми повинні вжити проактивних заходів. Надійний захист конфіденційності та правила, які обмежують вплив систем ШІ на вибори, мають вирішальне значення. Забезпечуючи прозорість, дотримуючись чітких застережень щодо контенту, створеного ШІ, і сприяючи відповідальному використанню ШІ, ми можемо підтримувати цілісність демократичних процесів і захищати фундаментальні цінності нашого суспільства.
Важливо, щоб ми залишалися пильними та спільно працювали, щоб долати виклики, які створює ШІ на виборах. Роблячи це, ми можемо зберегти демократичні ідеали, які лежать в основі наших суспільств, і забезпечити майбутнє, де потужність технологій узгоджується з інтересами та прагненнями людей.
Схожі книги:
Про тиранію: двадцять уроків двадцятого століття
Тімоті Снайдер
Ця книга містить уроки історії щодо збереження та захисту демократії, зокрема важливість інституцій, роль окремих громадян та небезпеки авторитаризму.
Натисніть, щоб дізнатися більше або замовити
Наш час зараз: сила, мета та боротьба за справедливу Америку
Стейсі Абрамс
Автор, політик і активіст, ділиться своїм баченням більш інклюзивної та справедливої демократії та пропонує практичні стратегії політичної участі та мобілізації виборців.
Натисніть, щоб дізнатися більше або замовити
Як помирають демократії
Стівена Левицького та Деніела Зіблата
У цій книзі розглядаються тривожні ознаки та причини розпаду демократії, спираючись на тематичні дослідження з усього світу, щоб запропонувати розуміння того, як захистити демократію.
Натисніть, щоб дізнатися більше або замовити
Народ, ні: коротка історія антипопулізму
Томас Франк
Автор пропонує історію популістських рухів у Сполучених Штатах і критикує «антипопулістську» ідеологію, яка, на його думку, придушила демократичні реформи та прогрес.
Натисніть, щоб дізнатися більше або замовити
Демократія в одній книзі або менше: як це працює, чому не працює і чому виправити це простіше, ніж ви думаєте
Девід Літт
Ця книга пропонує огляд демократії, включно з її сильними та слабкими сторонами, а також пропонує реформи, щоб зробити систему більш сприйнятливою та підзвітною.
