Навіть через 17 років після 2001 року скафандри є громіздкішими за це. Метью Дж. Коттер / Flickr, CC BY-SA

Перегляд а Показ 50-річчя "2001: Космічна одісея", я виявив себе, а математик та інформатик дослідження якого включає роботи, пов’язані зі штучним інтелектом, порівняння бачення історії майбутнього із сучасним світом.

Фільм був створений завдяки співпраці з письменником наукової фантастики Артуром К. Кларком та режисером Стенлі Кубріком, натхненним романом Кларка "Кінець дитинства" та його менш відомою новелою "Страж". Вражаючий твір спекулятивної фантастики, він змальовує - з точки зору іноді надію, а інколи - обережність - майбутнє контакту з інопланетянами, міжпланетних подорожей, свідомих машин і навіть наступного великого еволюційного стрибка людства.

Найбільш очевидний спосіб, коли 2018 рік не досяг бачення «2001», - це космічні подорожі. Люди ще не регулярно відвідують космічні станції, не роблять нічого примітного на одній з декількох баз Місяця і не подорожують на інші планети. Але Кубрік і Кларк потрапили в очі, уявляючи можливості, проблеми та проблеми майбутнього штучного інтелекту.

Відкриття '2001: Космічна одісея:

{youtube}https://youtu.be/WufKsOhkTL8{/youtube}

Що можуть комп’ютери?

Головну драму фільму можна багато в чому розглядати як битву на смерть між людиною та комп'ютером. Штучний інтелект "2001" втілений у HAL, всезнаючій обчислювальній присутності, мозку космічного корабля Discovery One - і, мабуть, найвідомішому персонажі фільму. HAL знаменує собою вершину обчислювальних досягнень: самосвідомий, здавалося б, безпомилковий пристрій і всюдисуща присутність на кораблі, завжди слухаючи, завжди спостерігаючи.

HAL є не просто технологічним помічником екіпажу, а скоріше - за висловом командира місії Дейва Боумена - шостого члена екіпажу. Люди взаємодіють з HAL, розмовляючи з ним, і він відповідає розміреним чоловічим голосом, десь між суворим, але ще поблажливим батьком і добросовісною медсестрою. HAL - це Alexa і Siri - але набагато краще. HAL має повний контроль над кораблем, а також, як виявляється, є єдиним членом екіпажу, який знає справжню мету місії.

Етика в машині

Напруга третьої дії фільму обертається навколо Боумена та його члена по команді Френка Пула, які дедалі більше усвідомлюють, що HAL не працює, і виявлення цих підозр HAL. Дейв і Френк хочуть витягнути штепсель на невдалому комп'ютері, тоді як самосвідомий HAL хоче жити. Всі хочуть виконати місію.

Людина проти машини:

{youtube}https://youtu.be/qDrDUmuUBTo{/youtube}

Шаховий матч "життя або смерть" між людьми та HAL пропонує попередники деяких сьогоднішніх питань щодо поширеності та застосування штучного інтелекту у повсякденному житті людей.

Перш за все - це питання про те, наскільки людям слід керувати штучно розумними машинами, незалежно від того, наскільки “розумними” можуть бути системи. Контроль Discovery від HAL схожий на глибоку космічну версію мережевого будинку майбутнього або автомобіля без водія. Громадяни, політиків, експерти та дослідники все ще вивчають ступінь, до якої автоматизація могла - або повинна - вивести людей із циклу. Деякі міркування стосуються відносно простих питань про надійність машин, але інші питання є більш тонкими.

Дії обчислювальної машини продиктовані рішеннями, закодованими людьми в алгоритмах, що керують пристроями. Алгоритми, як правило, мають якусь кількісно вимірювану мету, до досягнення якої кожна з її дій повинна прогресувати виграти гру шашок, шахів або Go. Подібно до того, як система ШІ аналізує положення ігрових фігур на дошці, вона також може виміряти ефективність складу or енергоспоживання центру обробки даних.

Але що відбувається, коли a моральна чи етична дилема виникає на шляху до мети? Для самосвідомого HAL виконання місії - і збереження життя - виграє, якщо виміряти його з життям екіпажу. А як щодо автомобіля без водія? Є місія самокерованого автомобіля, наприклад, якнайшвидше доставити пасажира з одного місця в інше - або щоб уникнути вбивства пішоходів? Коли хтось стає перед автономним транспортним засобом, ці цілі суперечать. Це може здатися очевидним "вибором", який потрібно запрограмувати, але що, якщо машині потрібно “Обирати” між двома різними сценаріями, кожен з яких спричинив би смерть людини?

Під наглядом

В одній класичній сцені Дейв і Френк заходять у частину космічної станції, де, на їх думку, HAL не може їх почути, щоб обговорити свої сумніви щодо функціонування HAL та його здатності контролювати корабель і керувати місією. Вони поширюють ідею закрити його. Вони мало знають, що камери HAL можуть їх бачити: Комп’ютер читає їхні губи через вікно стручка і дізнається про їх плани.

HAL читає губи:

{youtube}https://youtu.be/1s-PiIbzbhw{/youtube}

У сучасному світі версія цієї сцени трапляється цілий день щодня. Більшість з нас ефективно постійно контролюється через наш майже завжди на телефонах або корпоративні та державні спостереження за реальною та онлайн-діяльністю. Межа між приватним та державним стає і залишається дедалі нечіткішою.

Відносини персонажів у фільмі змусили мене багато замислюватися над тим, як люди та машини можуть співіснувати, а то й розвиватися разом. У більшій частині фільму навіть люди розмовляють між собою безтурботно, без особливого тону чи емоцій - як вони можуть говорити з машиною, або як машина може говорити з ними. Знаменита сцена смерті HAL - на якій Дейв методично роз’єднує свої логічні зв’язки - змусила мене задуматися, чи не отримають коли-небудь інтелектуальні машини щось рівнозначне правам людини.

Кларк вважав цілком можливим, що час перебування людей на Землі був лише "коротке місце відпочинкуІ що визрівання та еволюція виду обов’язково виведуть людей далеко за межі цієї планети. "2001" закінчується оптимістично, перекидаючи людину через "Зоряні ворота", щоб відзначити відродження раси. Щоб зробити це насправді, люди потребуватимуть того, як найкраще використовувати машини та пристрої, які вони будують, і переконатися, що ми не дозволяємо цим машинам керувати нами.

про автора

Даніель Н. Рокмор, професор, кафедра математики, обчислювальної техніки та інформатики, Коледж Дартмут

Ця стаття перевидана з Бесіда за ліцензією Creative Commons. Читати оригінал статті.

Суміжні книги

at InnerSelf Market і Amazon