Фото: Норберт Еплі, Швейцарія (Користувач: Noebu)

У 2016 році автономні машини стали основними. Автономні транспортні засоби Uber стала повсюдною в районах, де я живу в Пітсбурзі, і коротко в Сан-Франциско. Міністерство транспорту США видало нові нормативні вказівки для них. Незліченна документи та стовпців обговорювали, як самокеруються машини Повинен вирішити етичні труднощі коли щось піде не так. І, на жаль, 2016 рік також відбувся перший летальний результат за участю автономного транспортного засобу.

Автономні технології швидко поширюються за межі транспортного сектору, в охорона здоров'я, передова кіберзахист і навіть автономна зброя. У 2017 році нам доведеться вирішити, чи можна довіряти цим технологіям. Це буде набагато складніше, ніж ми могли б очікувати.

Довіра є складною та різноманітною, але також ключовою частиною нашого життя. Ми часто довіряємо технологіям на основі передбачуваності: Я довіряю чомусь, якщо знаю, що це буде робити в конкретній ситуації, навіть якщо не знаю, чому. Наприклад, я довіряю своєму комп’ютеру, бо знаю, як він буде функціонувати, зокрема, коли він вийде з ладу. Я перестаю довіряти, якщо воно починає поводитися інакше або на подив.

Навпаки, моя довіра до дружини базується на розуміння її переконань, цінностей та особистості. Взагалі кажучи, міжособистісна довіра не передбачає знання, що саме буде робити інша людина - моя дружина мене, звичайно, часом дивує! - а швидше, чому вони поводяться так, як поводяться. І звичайно, ми можемо довіряти комусь (чи чомусь) в обох напрямках, якщо знаємо і те, що вони будуть робити, і чому.

Я досліджував можливі основи нашої довіри до самокерованих автомобілів та інших автономних технологій як з етичної, так і з психологічної точки зору. Це пристрої, тому передбачуваність може здатися ключовою. Однак через їх автономність нам потрібно враховувати важливість і цінність - і виклик - навчання довіряти їм так, як ми довіряємо іншим людям.

Автономність та передбачуваність

Ми хочемо, щоб наші технології, включаючи самокеровані машини, поводились так, як ми можемо передбачити та очікувати. Звичайно, ці системи можуть бути досить чутливими до контексту, включаючи інші транспортні засоби, пішоходів, погодні умови тощо. Загалом, однак, ми можемо очікувати, що самокерований автомобіль, який неодноразово розміщується в одному і тому ж середовищі, повинен, мабуть, поводитися однаково кожного разу. Але в якому сенсі ці високо передбачувані машини будуть автономними, а не просто автоматичними?

Там є було багато різний спроби до визначати автономії, але всі вони мають спільне: автономні системи можуть приймати власні (по суті) рішення та плани, а отже, можуть діяти інакше, ніж очікувалося.

Насправді, однією з причин використання автономії (на відміну від автоматизації) є саме те, що ці системи можуть проводити несподівані та дивовижні, хоча і виправдані, дії. Наприклад, AlphaGo DeepMind виграв другу гру своєї недавньої серії Go проти Лі Седола, частково завдяки крок, який жоден людський гравець ніколи не зробив би, але тим не менше був правильним кроком. Але ті самі сюрпризи ускладнюють встановлення довіри, заснованої на передбачуваності. Міцна довіра, заснована виключно на передбачуваності, можливо, можлива лише для автоматизованих або автоматичних систем, саме тому, що вони передбачувані (за умови, що система функціонує нормально).

Охоплюючи сюрпризи

Звичайно, інші люди часто нас дивують, і все ж ми можемо довіряти їм до надзвичайної міри, навіть надаючи їм владу над життям і смертю над собою. Солдати довіряють своїм товаришам у складних, ворожих умовах; пацієнт довіряє своєму хірургу висічення пухлини; і в більш повсякденному житті моя дружина довіряє мені, щоб я їхав безпечно. Ця міжособистісна довіра дозволяє нам прийняти сюрпризи, тож, можливо, ми могли б розвинути щось на зразок міжособистісної довіри до самокерованих автомобілів?

Загалом, міжособистісна довіра вимагає розуміння того, чому хтось діяв певним чином, навіть якщо ви не можете передбачити точне рішення. Моя дружина може точно не знати, як я їду, але вона знає, які міркування я використовую, коли їду за кермом. І насправді відносно легко зрозуміти, чому хтось щось робить, саме тому, що всі ми думаємо і міркуємо приблизно однаково, хоча і з різними «сирими інгредієнтами» - нашими переконаннями, бажаннями та досвідом.

Насправді ми постійно і несвідомо робимо висновки про переконання та бажання інших людей, базуючись на їхніх діях, багато в чому, припускаючи, що вони думають, міркують і приймають рішення приблизно так, як ми. Всі ці умовиводи та міркування, засновані на нашому спільному (людському) пізнанні, дозволяють нам зрозуміти чужі причини і тим самим з часом побудувати міжособистісну довіру.

Мислення як люди?

Автономні технології - зокрема, самохідні машини - не думають і не приймають рішення як люди. Зусилля були докладені і тим, і іншим Минуле та останній, розробляти комп’ютерні системи, які думають і міркують, як люди. Однак однією послідовною темою машинного навчання за останні два десятиліття були величезні здобутки саме завдяки тому, що наші системи штучного інтелекту не вимагали функціонування, схожого на людину. Натомість алгоритми та системи машинного навчання, такі як AlphaGo, часто змогли перевершують людських експертів зосереджуючись на конкретних, локалізованих проблемах, а потім вирішуючи їх зовсім інакше, ніж люди.

Як наслідок, спроби інтерпретувати автономну технологію з точки зору людських переконань та бажань можуть вражати. Коли водій-людина бачить м’яч на дорозі, більшість з нас автоматично значно уповільнює рух, щоб уникнути наїзду на дитину, яка, можливо, переслідує його. Якщо ми їдемо в автономному автомобілі і бачимо, як на вулицю котиться куля, ми очікуємо, що машина його впізнає і буде готова зупинитися для бігаючих дітей. Однак машина може бачити лише перешкоду, якої слід уникати. Якщо воно крутить без уповільнення, люди на борту можуть занепокоїтися - і дитині може загрожувати.

Наші умовиводи про "переконання" та "бажання" самокерованого автомобіля майже напевно будуть помилковими у важливих аспектах, саме тому, що в машині немає жодних переконань чи бажань, схожих на людину. Ми не можемо розвинути міжособистісну довіру до самокерованого автомобіля, просто спостерігаючи за тим, як він їде, оскільки ми не будемо правильно робити висновок про причини його дій.

Звичайно, споживачі суспільства чи ринку можуть масово наполягати на тому, щоб самокеровані машини мали людські (психологічні) особливості, саме для того, щоб ми могли зрозуміти та розвинути міжособистісну довіру до них. Ця стратегія надала б абсолютно нового значення “дизайн, орієнтований на людину, ”Оскільки системи повинні бути розроблені спеціально, щоб їх дії інтерпретувались людьми. Але це також вимагало б включення роману алгоритми та методи в самокерованому автомобілі, що все являє собою значну зміну від сучасних стратегій досліджень та розробок для самокерованих автомобілів та інших автономних технологій.

Самохідні автомобілі мають потенціал кардинально змінити нашу транспортну інфраструктуру багатьма вигідними способами, але лише в тому випадку, якщо ми зможемо довіряти їм достатньо, щоб насправді ними користуватися. І за іронією долі, саме особливість, яка робить самокеровані машини цінними - їх гнучке, автономне прийняття рішень у різних ситуаціях - саме те, що ускладнює довіру до них.

автори

Девід Денкс, професор філософії та психології, Університет Карнегі-Меллона

Ця стаття була спочатку опублікована на Бесіда. Читати оригінал статті.

Схожі книги:

at InnerSelf Market і Amazon