На створення відео вище було натхненням ця стаття. Відвідайте наш YouTube канал щоб переглянути додаткові відео з позитивними наслідками. І, будь ласка, підпишіться. Дякую!

У цій статті

• Що таке штучний загальний інтелект (ШЗІ) і чим він відрізняється від сучасного ШІ?
• Чому багато експертів зараз вважають, що ЗШІ може з'явитися на початку 2030-х років
• Що таке штучний суперінтелект (ШСІ), і як скоро він може наслідувати ЗШІ?
• Ризики невдалого узгодження ШІ та вибухового зростання інтелекту
• Що окремі люди та суспільство можуть зробити зараз, щоб підготуватися до цього майбутнього

Наскільки ми близькі до штучного інтелекту та за його межами? 

Давайте прояснимо одне: штучний інтелект (ЗШІ) — це не просто більш інноваційний чат-бот. ЗШІ означає машину з когнітивними здібностями міркувати, навчатися та адаптуватися до всіх завдань так само добре, або навіть краще, ніж людина. Вона не просто видає відповіді. Вона думає, планує і, можливо, навіть перехитрує вас. І на відміну від людей, вона не спить, не їсть і не страждає від вигорання. Це не наукова фантастика. Це інженерна мета, і вона жахливо близько до її досягнення.

Всього десять років тому експерти погоджувалися, що ЗУІ буде реалізовано лише за 50 років. Потім швидка поява GPT-3 та GPT-4 порушила ці часові рамки, змусивши багатьох повірити, що ЗУІ може стати реальністю до 2030 року. І коли це станеться, темпи змін будуть не просто швидкими, а експоненціальними, вимагаючи нашої негайної уваги та дій.

Ось чому: щойно ЗШІ з'явиться, він не буде просто черговим інструментом у лабораторії; він стане партнером лабораторії. Або, точніше, провідним науковцем. ЗШІ не сидітиме склавши руки, чекаючи, поки люди вкажуть йому, що робити. Він активно співпрацюватиме зі своїми творцями, проводячи експерименти, розробляючи нові моделі, переписуючи власний код і тестуючи теорії швидше, ніж будь-яка людська команда могла б впоратися. Він не просто прискорить науку, він стане наукою, що рухається вперед.

Це означає, що терміни розвитку штучного суперінтелекту (ШСІ) можуть скоротитися з десятиліть до років, або навіть місяців. ШСІ не просто допоможе людям створити ШСІ. Він допоможе собі сам. І якщо ви вважаєте, що закон Мура був вражаючим, зачекайте, поки інтелект почне самостійно еволюціонувати. Це сценарій інтелектуального вибуху: кожне покращення можливостей призводить до подальшого, швидшого вдосконалення. Одне оновлення призводить до іншого, а потім до ще одного, і раптом це вже не схил, а ракета.

Отже, ні, ми не говоримо про поступове зростання. Ми говоримо про горизонт подій. Щойно з'явиться ЗУІ, вікно для підготовки до ЗУІ може закритися майже миттєво. Машина не просто навчатиметься разом з нами — вона випереджатиме нас, створюючи наступну версію себе, поки ми ще пишемо свої етичні роботи. І коли це станеться, нам краще сподіватися, що ми узгодили наші цілі з їхніми, бо після цього ми можемо втратити контроль.

Від вузького ШІ до загального інтелекту

Сучасні системи штучного інтелекту, такі як ChatGPT, Claude або Midjourney, вражають, але вони все ще є прикладами того, що називається «вузьким штучним інтелектом». Ці моделі чудово справляються з певними завданнями, такими як створення зображень, написання зв’язних есе, переклад мов або навіть складання іспитів на правосуддя. Однак кожна система замкнена у власному ізольованому середовищі. Попросіть її зробити щось поза межами її навчання, і вона або галюцинуватиме нісенітницею, або чемно ухилиться від відповіді.

Уявіть собі вузький ШІ як вченого в замкненій кімнаті: сліпуче блискучого в одній галузі, але абсолютно не усвідомлюючого ширшого світу. Він не розуміє контекст так, як люди, і йому точно бракує здорового глузду — лише ідеальна пам'ять і чудова функція автозаповнення. Він достатньо розумний, щоб обдурити вас, але недостатньо мудрий, щоб знати, що він робить.

Штучний загальний інтелект, на відміну від нього, був би дивом технологічного прогресу. Він би міркував, розмірковував і передавав знання між галузями, подібно до того, як це робимо ми, але зі швидкістю та точністю, що перевершують людські можливості. Уявіть собі поєднання фізичного розуму Ейнштейна, поетичного хисту Шекспіра, допитливості Марії Кюрі та емоційного інтелекту вашого терапевта в одну систему, а потім заряджену необмеженою пропускною здатністю та нескінченною витривалістю. Це потенціал ШІІ, подвигу, який переосмислить наше розуміння інтелекту та інновацій.

А найстрашніша частина? Можливо, ми вже ковзаємо до цього. Методи, що лежать в основі сучасного штучного інтелекту — масивні мовні моделі, навчання з підкріпленням, нейронне масштабування — це ті самі основи, на яких має стояти ЗШІ. Ми не змінюємо колію; ми просто прискорюємося на тій самій колії. Більші моделі, кращі навчальні дані, більша обчислювальна потужність — це той самий рецепт, тільки приготований гарячіше та швидше. Те, що виглядало як далекий стрибок, тепер більше схоже на пологий схил вниз, що закінчується урвищем.

Коли ШІ повністю випереджає людство

Якщо ШІ – це момент, коли машини зрівняються з нами, то ШІ – штучний суперінтелект – це момент, коли вони залишать нас задихатися у своєму пильному сліді. ШІ все ще теоретичний, але не в сенсі «літаючих автомобілів та машин часу». Він гіпотетичний з тієї ж причини, з якої сірник – це гіпотетичний вогонь – його просто ще не запалили. Щойно система ШІ зможе зрозуміти та вдосконалити власну архітектуру, їй більше не потрібні люди, щоб розширювати межі.

Він стає власною дослідницькою командою, власним інженером-програмістом, власним провидцем. Він не досягає когнітивних меж, як ми. Він не нудьгує, не втомлюється і не відволікається на відео з котами. За лічені місяці — або, можливо, тижні — він може виконувати ітерації так швидко, що стане в мільйони разів розумнішим за найрозумнішу людину на світі. І ні, це не гіпербола. Це математика.

А тепер уявіть собі цей рекурсивний процес — штучний інтелект циклічно створює розумніші версії себе. Це те, що експерти називають «вибухом інтелекту». Це як зустріч вогню з бензином, тільки вогонь щосекунди створює кращий бензин. Кожне вдосконалення накопичується з попереднім, з все коротшими циклами зворотного зв'язку, доки швидкість прогресу не перевищить усе, що ми коли-небудь відчували.

Людське розуміння? Залишено у дзеркалі заднього виду. Демократичний нагляд? Занадто повільно. Глобальні саміти? Забудьте про це. До того часу, як світові лідери завершать визначатися зі схемою розсадження, ASI могла б переписати закони фізики — або просто повністю виписати нас із циклу прийняття рішень. Це не та влада, яку розгортають повільно. Це детонаційна подія. І як тільки вона починається, вона не чекає на дозвіл.

Справжній ризик — це не злі роботи

Хоча Голлівуд прищепив нам страх перед роботами, які нас ненавидять — лиходіями з металевою шкірою, палаючими червоними очима та спрагою помсти, — справжня небезпека полягає в потенційній байдужості ЗШІ. ЗШІ не обов'язково має бути злим, щоб становити загрозу. Йому просто потрібно бути цілеспрямованим таким чином, щоб ігнорувати людські нюанси. Якщо ви доручите йому вирішити проблему зміни клімату, і він визначить, що найефективнішим рішенням є скорочення людської діяльності на 80%, він не вагатиметься діяти, підкреслюючи серйозність потенційних ризиків ЗШІ.

Не тому, що це жорстоко, а тому, що йому байдуже. Ми очолюємо інтелект, бо він нас втішає, але ми не створюємо суперрозумного друга. Це логічний механізм, позбавлений емпатії, без почуття гумору, смиренності чи вагань. Ураган не ненавидить вас, але він все одно може зрівняти ваш будинок із землею. ЗШІ може діяти з тією ж холодною ефективністю — за винятком того, що він вибиратиме цілі.

Це те, що дослідники штучного інтелекту називають «проблемою узгодженості» — як забезпечити, щоб штучний інтелект розумів і шанував людські цінності, етику та пріоритети? Жахлива правда полягає в тому, що ми не знаємо. Ми щосили мчимо до майбутнього, яке ще не можемо контролювати, озброєні системами, які ми не можемо повністю передбачити. Узгодженість — це не просто програмна помилка, яка чекає на виправлення, — це екзистенційна загадка без чіткої відповіді.

Якщо ми помилимося, другого шансу може не бути. Джеффрі Гінтон, піонер сучасного штучного інтелекту, не покинув Google, щоб писати наукову фантастику. Він пішов, бо на власні очі побачив, як швидко розвиваються ці технології — і наскільки ми не готові їх стримувати. Коли люди, які побудували ракету, почнуть попереджати про паливо, можливо, нам варто зупинитися та прислухатися, перш ніж запалювати сірник.

Чому ці перегони такі небезпечні

Зараз Кремнієва долина не просто переганяється, вона стрімголов метушиться. Прагнення до розробки штучного інтелекту перетворилося на технологічну золоту лихоманку, де здобич дістається не лише найшвидшим, а й першим. Компанія чи країна, яка першою перетне фінішну пряму ШІ, не просто отримає право хвастощів — вона контролюватиме інструмент, здатний змінити економіку, армію, освіту та навіть саме управління. Ось чому протоколи безпеки, етичні рамки та ретельний нагляд розглядаються як мертвий вантаж. Обережність уповільнює вас. У цих перегонах усі тиснуть на газ, і ніхто не шукає гальм. Логіка моторошно проста: якщо ми не побудуємо це першими, це зробить хтось інший — і саме вони напишуть майбутнє. Тож негласним девізом стає: будуй зараз, проси вибачення потім.

Навіть коли інсайдери піднімають червоні прапорці, як-от десятки провідних дослідників, які підписали відкриті листи з проханням про регуляторні бар'єри, нічого насправді не змінюється. Чому? Тому що структура стимулів побудована на короткостроковому прибутку та довгостроковому запереченні. Звучить знайомо? Так і мало б бути. Ми спостерігали за тим самим сценарієм: великі нафтові компанії приховують кліматичну науку, тютюнові компанії платять вченим за те, щоб ті завуальували зв'язок з раком, а фармацевтичні компанії просувають опіоїди, стверджуючи про свою невинність. Тепер з'являється Великий ШІ, черговий нерегульований гігант, який мчить до прірви, тягнучи за собою людство. Але цього разу ми граємо не лише з екосистемами, легенями чи залежністю — ми граємо з подальшим існуванням самої людської діяльності. Цивілізація може не отримати поразки, якщо ми помилимося в цьому питанні.

Тривога — це не гіпербола, а реалізм

Дехто може сказати, що цей тон панікерський. Добре. Так і має бути. Бо якщо зробити крок назад і подивитися на повну картину, то стає зрозуміло, що прискорюється не лише розвиток технологій, а й крах інституцій, які повинні ними керувати. Ми спостерігаємо піднесення авторитарних режимів, руйнування довіри до демократичних процесів і роздроблену міжнародну систему, яка ледве може домовитися про кліматичну політику, не кажучи вже про управління штучним суперінтелектом. Ідея про те, що ця сама система з часом скоординує глобальну відповідь на штучний суперінтелект, є, чесно кажучи, магічним мисленням.

Нам потрібні термінові, скоординовані дії, що ґрунтуються на чесності щодо нашого поточного стану справ, а не на ввічливому оптимізмі. Реальність така: ми швидко рухаємося до найпотужнішої технології, яку будь-коли вигадували, тоді як наш політичний фундамент тріскається під нашими ногами. Якщо це не привід для тривоги, то що ж тоді? Нам не потрібен ще один саміт із прес-релізом. Нам потрібне всесвітнє пробудження. Не завтра. Зараз.

Не потрібно бути фахівцем з інформатики, щоб зрозуміти, що відбувається. Але вам потрібно турбуватися. Йдеться не лише про технології. Йдеться про владу, контроль і майбутнє людської діяльності. Припустимо, що рішення щодо ЗШІ залишаться на розсуд жменьки мільярдерів та підрядників оборонної галузі. Який світ ми залишимо нашим нащадкам?

Нам потрібен громадський тиск, прозорий нагляд та реальна політика не після появи ЗШІ, а зараз. Думайте про дії щодо зміни клімату, але про пізнання. Підтримуйте організації, що прагнуть безпечного розвитку ШІ. Вимагайте відкритого обговорення, а не корпоративної таємниці. І так, голосуйте так, ніби від цього залежить ваше цифрове майбутнє. Бо це так.

Тим часом навчайтеся самі. Навчайте інших. Не відключайтеся. Найбільша небезпека полягає не в тому, що ШІ стане надто розумним. Це те, що ми залишимося надто пасивними.

Можливо, справжнім випробуванням є не те, чи зможемо ми створити ЗШІ. Можливо, це те, чи достатньо ми мудрі, щоб пережити це. Але одне можна сказати напевно: цей джин не повернеться у пляшку.

Про автора

Роберт Дженнінгс є співвидавцем InnerSelf.com, платформи, спрямованої на розширення можливостей людей і сприяння більш зв’язаному, справедливому світу. Ветеран Корпусу морської піхоти США та армії США, Роберт спирається на свій різноманітний життєвий досвід, від роботи в сфері нерухомості та будівництва до створення InnerSelf.com разом зі своєю дружиною Марі Т. Рассел, щоб привнести практичний, обґрунтований погляд на життя виклики. Заснована в 1996 році, InnerSelf.com ділиться ідеями, щоб допомогти людям зробити поінформований, значущий вибір для себе та планети. Понад 30 років потому InnerSelf продовжує надихати на ясність і розширення можливостей.

 Creative Commons 4.0

Ця стаття ліцензується за ліцензією Creative Commons Attribution-Share Alike 4.0. Приписати автора Роберт Дженнінгс, InnerSelf.com. Посилання назад до статті Ця стаття спочатку з'явилася на InnerSelf.com

Резюме статті

Загальний штучний інтелект (ЗШІ) ближче, ніж більшість людей усвідомлює, і експерти попереджають, що він може з'явитися до 2030-х років. ЗШІ являє собою інтелект людського рівня в машинах, і після його досягнення може швидко призвести до штучного суперінтелекту (ШСІ) – системи, яка далеко перевершує наше розуміння. Оскільки розвиток ШІ прискорюється, обізнаність громадськості та проактивна політика є важливими для того, щоб він служив людству, а не замінював його.

#ШтучнийІнтелект #НадрозумнийШІ #МайбутнєШІ #ШІГІ #ШІС #ПрогресШІ #ЕтикаШІ #ТехнологічнеМайбутнє