Чому штучний інтелект не повинен дозволяти замінити недосконалість людської емпатії

В основі розвитку ШІ лежить пошук досконалості. І це може бути настільки ж небезпечним для людства, як і той, що вийшов з філософських та псевдонаукових ідей 19-го та початку 20-го століть і призвів до жахів колоніалізму, світової війни та Голокосту. Замість людської «господаря раси» ми могли б отримати машинну.

Якщо це здається крайнім, розгляньте антилюдський перфекціонізм, який уже є центральним для ринку праці. Тут технологія штучного інтелекту є наступним кроком у передумові максимальної продуктивності, яка замінила індивідуальну майстерність на заводській виробничій лінії. Ці масштабні зміни в продуктивності праці та способі нашої роботи створили можливості та загрози, які тепер повинні ускладнюватися “четверта промислова революція”, В якому ШІ додатково замінює працівників.

Кілька останні дослідження прогнозують, що протягом десятиліття автоматизація замінить половину нинішніх робочих місць. Отже, принаймні при цьому переході до нової оцифрованої економіки багато людей втратять засоби до існування. Навіть якщо ми припустимо, що ця нова промислова революція породить нову робочу силу, здатну орієнтуватися в цьому домінованому світі і керувати ним, нам все одно доведеться стикатися з основними соціально-економічними проблемами. Порушення будуть величезними, і їх слід уважно вивчити.

Кінцевою метою ШІ, навіть вузького ШІ, який вирішує цілком конкретні завдання, є перевершення та вдосконалення кожної когнітивної функції людини. Зрештою, системи машинного навчання цілком можуть бути запрограмовані на краще у всьому, ніж люди.

Однак у них, можливо, ніколи не розвинеться людський дотик - співпереживання, любов, ненависть чи будь-які інші самосвідомі емоції, які роблять нас людьми. Це хіба що ми приписуємо їм ці почуття, ось що деякі з нас це вже роблять з нашими «Алексами» та «Сірісами».


Innersele підписатися графіка


Продуктивність проти людських дотиків

Одержимість досконалістю та “гіперефективністю” глибоко вплинула на людські стосунки, навіть на репродукцію людини, оскільки люди живуть своїм життям у закритих віртуальних реальностях, які вони самі роблять. Наприклад, кілька американських та китайських компаній випустили роботизованих ляльок, які швидко продаються як партнери-замінники.

Навіть одна людина в Китаї одружився зі своєю кібер-лялькою, В той час жінка у Франції "Вийшла заміж" за "чоловіка-чоловіка", рекламуючи свою історію кохання як форму "робо-сексуальності" та проводячи кампанію за легалізацію свого шлюбу. "Я дійсно і цілком щаслива", - сказала вона. "Наші стосунки стануть кращими та кращими у міру розвитку технологій". Там здається високий попит на робот-дружин та чоловіків у всьому світі.

У абсолютно продуктивному світі люди вважалися б нікчемними, безумовно, з точки зору продуктивності, але також і з точки зору нашої слабкої людяності. Якщо ми не відкинемо цього перфекціоністського ставлення до життя, яке позиціонує продуктивність та “матеріальний ріст” вище стійкості та індивідуального щастя, дослідження ШІ може стати ще одним ланцюгом в історії самопереможних винаходів людини.

Вже ми спостерігаємо дискримінацію в алгоритмічних розрахунках. Нещодавно популярний Південнокорейський чат-бот на ім'я Лі Луда був виведений з мережі. "Вона" була створена за зразком 20-річної студентки університету і була вилучена з месенджера Facebook після використання мови ненависті до ЛГБТ.

Тим часом автоматизована зброя, запрограмована на вбивство, несе в бій такі максими, як „продуктивність” та „ефективність”. В результаті війна стала більш стійкою. Поширення війни безпілотних літальних апаратів є дуже яскравим прикладом цих нових форм конфлікту. Вони створюють віртуальну реальність, яка майже відсутня в нашій уяві.

Але було б комічно зобразити ШІ як неминучий оруелівський кошмар армії надмірно розумних "Термінаторів", місія яких полягає в тому, щоб знищити людський рід. Подібні дистопічні прогнози занадто грубі, щоб охопити дрібну штучність штучного інтелекту та його вплив на наше повсякденне існування.

Суспільства можуть отримати вигоду від штучного інтелекту, якщо він розробляється з урахуванням стійкого економічного розвитку та безпеки людини. Злиття влади та ШІ, яке переслідує, наприклад, системи контролю та спостереження, не повинен замінювати обіцянку гуманізованого ШІ, який ставить технології машинного навчання на службу людям, а не навпаки.

З цією метою інтерфейси штучного інтелекту та людини, які швидко відкриваються у в’язницях, охорони здоров’я, уряду, соціального забезпечення та прикордонного контролю, наприклад, повинні бути врегульовані з метою сприяння етиці та безпеці людини перед інституційною ефективністю. Соціальні та гуманітарні науки мають багато сказати щодо таких питань.

Одним слід бути бадьорим - це ймовірність того, що ШІ ніколи не замінить людську філософію та інтелектуальність. Зрештою, щоб бути філософом, потрібні емпатія, розуміння гуманності та наші вроджені емоції та мотиви. Якщо ми можемо запрограмувати наші машини на розуміння таких етичних стандартів, то дослідження ШІ здатні покращити наше життя, що має бути кінцевою метою будь-якого технологічного прогресу.

Але якщо дослідження ШІ дадуть нову ідеологію, зосереджену навколо поняття перфекціонізму та максимальної продуктивності, то це буде руйнівною силою, яка призведе до більшої кількості війн, більшої кількості голоду та більшої соціальної та економічної біди, особливо для бідних. На цьому етапі світової історії цей вибір все ще залишається за нами.Бесіда

про автора

Аршин Адіб-Могаддам, професор кафедри глобальної думки та порівняльної філософії, SOAS, Лондонський університет

Ця стаття перевидана з Бесіда за ліцензією Creative Commons. Читати оригінал статті.