Майбутні історики цілком можуть вважати 2023 рік віхою в появі штучного інтелекту (ШІ). Але чи те майбутнє покаже утопічний, апокаліптичний or десь посередині чи хтось здогад.

У лютому ChatGPT встановив рекорд як найшвидший додаток 100 мільйонів користувачів. За нею послідували подібні «великомовні» моделі штучного інтелекту від Google, Amazon, Meta та інших великих технологічних фірм, які разом виглядають готовими трансформувати освіту, охорону здоров’я та багато інших наукомістких сфер.

Проте потенціал ШІ для шкоди підкреслив у травні зловісна заява за підписом провідних дослідників:

Пом’якшення ризику зникнення від штучного інтелекту повинно бути глобальним пріоритетом поряд з іншими ризиками суспільного масштабу, такими як пандемії та ядерна війна.

У листопаді, реагуючи на зростаюче занепокоєння щодо ризиків штучного інтелекту, 27 країн (включаючи Великобританію, США, Індію, Китай та Європейський Союз) пообіцяли співпрацю на першому саміті з безпеки штучного інтелекту в Блетчлі-парку в Англії, щоб забезпечити безпечний розвиток штучного інтелекту. для користь для всіх.

Щоб досягти цього, дослідники зосереджуються на ШІ вирівнювання – тобто як переконатися, що моделі ШІ відповідають людським цінностям, уподобанням і цілям. Але є проблема – ШІ ​​так званий «темна таємниця”: великомасштабні моделі настільки складні, що вони схожі на чорний ящик, який неможливо повністю зрозуміти.

Проблема чорної скриньки ШІ

Хоча прозорість і пояснюваність систем ШІ є важливі дослідницькі цілі, здається, що такі зусилля навряд чи впораються з шаленим темпом інновацій.

Метафора чорної скриньки пояснює, чому люди вірять у ШІ по всій карті. Прогнози варіюються від утопії до вимирання, і багато хто навіть вважає, що штучний загальний інтелект (AGI) незабаром досягнути чуйності.

Але ця невизначеність ускладнює проблему. Вирівнювання штучного інтелекту має бути вулицею з двостороннім рухом: ми повинні не лише переконатися, що моделі штучного інтелекту відповідають людським намірам, але й переконатися, що наші переконання щодо штучного інтелекту точні.

Це тому, що ми надзвичайно вправно створюємо майбутнє, яке узгоджується з цими переконаннями, навіть якщо ми про це не підозрюємо.

Так званий “ефекти очікування», або самоздійснювані пророцтва, добре відомі в психології. І дослідження показали, що маніпулювання переконаннями користувачів впливає не лише на те, як вони взаємодіяти з ШІ, але як ШІ адаптується до користувача.

Іншими словами, те, як наші переконання (свідомі чи несвідомі) впливають на ШІ, може потенційно збільшити ймовірність будь-якого результату, включно з катастрофічними.

ШІ, обчислення, логіка та арифметика

Нам потрібно досліджувати глибше, щоб зрозуміти основу штучного інтелекту – як Аліса в Країні Чудес, спустіться в кролячу нору і подивіться, куди це нас приведе.

По-перше, що таке ШІ? Він працює на комп’ютерах, як і автоматизовані обчислення. Від свого походження як "персептрон” – штучний нейрон, математично визначений у 1943 році нейрофізіологом Уоррен Маккаллок і логік Волтер Піттс – ШІ переплітається з когнітивними науками, неврологією та інформатикою.

Ця конвергенція умів, мізки та машини призвело до широко поширеної думки про те, що оскільки штучний інтелект обчислюється машиною, то природний інтелект (розум) має обчислюватися мозком.

Але що таке обчислення? Наприкінці 19 ст.матем Річард Дедекінд та Джузеппе Пеано запропонував набір аксіом, які визначив арифметику з точки зору логіки, і надихнула спроби обґрунтувати всю математику на безпечній основі формальна основа.

Хоча логік Курт Гедель Пізніше було доведено, що ця мета була недосяжний, його робота була відправною точкою для математика (і зламувача кодів) Алан Тьюринг. Його “Turing machine», абстрактний пристрій, здатний універсальне обчислення, є основою інформатики.

Глибинна структура сприйняття

Отже, обчислення ґрунтується на математичних ідеях, які сходять до спроб визначити арифметику в логіці. Але наші знання арифметики існують перед логікою. Якщо ми хочемо зрозуміти основу ШІ, нам потрібно піти далі і запитати, звідки походить сама арифметика.

Нещодавно ми з колегами показали, що арифметика базується на «глибока структура» сприйняття. Ця структура схожа на кольорові окуляри, які формують наше сприйняття певним чином, щоб наше сприйняття світу було впорядкованим і керованим.

Арифметика складається з набору елементів (чисел) і операцій (додавання, множення), які поєднують пари елементів, щоб отримати інший елемент. Ми запитали: чому з усіх можливостей числа є елементами, а додавання та множення операціями?

Ми показали математичний доказ що коли припускалося, що глибинна структура сприйняття обмежує можливості, результатом є арифметика. Іншими словами, коли наш розум дивиться на абстрактний світ крізь ті самі «кольорові окуляри», які формують наш досвід фізичного світу, він «бачить» числа та арифметику.

Оскільки арифметика є основою для математики, мається на увазі, що математика є відображенням розуму – вираженням у символах його фундаментальної природи та творчості.

Хоча глибинна структура сприйняття є спільною з іншими тваринами і тому є продуктом еволюції, тільки люди винайшли математику. Це наш найінтимніший витвір – і завдяки розвитку штучного інтелекту, мабуть, наш найзначніший.

Коперніканська революція розуму

Наш рахунок походження арифметики узгоджується з поглядами філософа XVIII століття Іммануїла Канта. За його словами, наші знання про світ структуровані «чистими інтуїціями» простору та часу, які існують до чуттєвого досвіду – аналогічно кольоровим окулярам, ​​які ми ніколи не можемо зняти.

Кант вимагав свого філософія була «коперніканська революція розуму». Подібним чином стародавні астрономи вважали, що Сонце обертається навколо Землі, тому що вони не знали про рух Землі, стверджував Кант, філософи, які вважали, що всі знання походять від чуттєвий досвід (Джон Локк і Девід Юм, наприклад) не звернули уваги на те, як розум формує сприйняття.

Хоча погляди Канта були сформовані природничі науки свого часу, вони довели має вплив на сучасну психологію.

Визнання того, що арифметика є a природний наслідок нашого сприйняття, і, отже, біологічно заснований, передбачає подібний кантіанський зсув у нашому розумінні обчислень.

Обчислення не є «зовні» або відокремленими від нас в абстрактному царстві математичної істини, а є властивими природі нашого розуму. Розум — це більше, ніж обчислення; мозок - це не комп'ютер. Навпаки, обчислення – основа штучного інтелекту – це, як і математика, символічне вираження природи та творчості розуму.

Прометеїв вогонь

Які наслідки для ШІ? По-перше, ШІ не є розумом і ніколи не стане розумним. Ідея, що ми можемо вийти за рамки нашої біологічної природи та досягти безсмертя, завантаживши свій розум у хмару, є лише фантазія.

Проте, якщо принципи розуму, на яких базується штучний інтелект, поділяють усе людство (і, ймовірно, також інші живі істоти), можливо, можна буде подолати обмеження нашого індивідуального розуму.

Оскільки обчислення є універсальними, ми можемо моделювати та створювати будь-які результати, які ми вибираємо, у наших все більш пов’язаних віртуальних і фізичних світах. Таким чином, ШІ дійсно наш Прометеїв вогонь, подарунок людству, вкрадений у богів, як у Грецька міфологія.

Як глобальна цивілізація ми, ймовірно, перебуваємо на поворотному етапі. ШІ не стане розумним і не вирішить вбити нас усіх. Але ми дуже здатні «апокаліпсисувати» себе за допомогою цього – очікування може створити реальність.

Зусилля, спрямовані на забезпечення узгодженості, безпеки та безпеки штучного інтелекту, є життєво важливими, але їх може бути недостатньо, якщо нам бракує обізнаності та колективної мудрості. Як Алісі, нам потрібно прокинутися від сну та визнати реальність і силу нашого розуму.

Рендольф Грейс, Професор психології, Університет Кентербері

Ця стаття перевидана з Бесіда за ліцензією Creative Commons. Читати оригінал статті.