Ahmet Misirligul / Shutterstock

У короткометражному фільмі "Бойня" зображено недалеке майбутнє, в якому рої мікротрусів вбивають тисячі людей за свої політичні переконання. Вийшов у листопаді 2017 науковці та активісти попереджали про небезпеку передового штучного інтелекту (AI), він швидко перейшов у вірусний характер, залучаючи на сьогоднішній день більше поглядів 3m. Це допомогло розпалити громадські дебати щодо майбутнього автономної зброї та тиску на зустрічі дипломатів в ООН Конвенція про звичайну зброю.

Але цей вид умоглядної розповіді про фантастику не просто корисний для привернення уваги. Люди, які розробляють та будують передові технології, можуть використовувати розповіді, щоб розглянути наслідки своєї роботи та переконатися, що вона використовується на благо. І ми вважаємо, що подібний тип «прототипування наукової фантастики» чи «дизайнерської фантастики» може допомогти запобігти людським упередженням проникати у нові технології, ще більше укорінивши упередження та несправедливості суспільства.

{vembed Y = 9CO6M2HsoIA}

Упередження може призвести до довільної переваги одних категорій (результатів, людей чи ідей) перед іншими. Наприклад, деякі люди можуть бути упередженими щодо прийняття на роботу жінок на керівні посади, чи вони це усвідомлюють чи ні.

Технологія, побудована на основі даних, що фіксують таке зміщення, може закінчитися тиражування проблеми. Наприклад, програмне забезпечення для підбору персоналу, призначене для вибору найкращих резюме для певної роботи, може бути запрограмоване на пошук характеристик, що відображають несвідоме упередження чоловіків. У такому випадку алгоритм надасть перевагу резюме чоловіків. І це не теоретично - це насправді сталося з Амазонкою.

Розробка алгоритмів без врахування можливих негативних наслідків було порівняно лікарям, "пишучи про переваги даного лікування та повністю ігноруючи побічні ефекти, незалежно від того, наскільки вони серйозні".

Деякі технічні фірми та дослідники намагаються вирішити цю проблему. Наприклад, Google склав а набір етичних принципів для керівництва його розвитком ШІ. І вчені Великобританії розпочали ініціативу під назвою Не рівний яка спрямована на заохочення більшої справедливості та справедливості у розробці та використанні технологій.

Проблема полягає в тому, що публічно компанії, як правило, дають лише позитивне бачення потенційних наслідків технологій найближчого майбутнього. Наприклад, автомобілі без водія часто зображуються як вирішення всіх наших транспортних питань від вартості до безпеки, ігноруючи збільшення небезпеки кібератак або факт, на який вони могли б спонукати людей менше ходити або їздити на велосипеді.

Труднощі в розумінні того, як працюють цифрові технології, особливо ті, що сильно керуються незрозумілими алгоритмами, також ускладнює людям складний і всебічний погляд на проблеми. Ця ситуація створює напругу між заспокійливою позитивною розповіддю та невиразною підозрою на те, що упередження певною мірою вбудовані в технології навколо нас. Саме тут, на нашу думку, може вступити розповідь через художню літературу.

Історії - це природний метод мислення про можливості та складні ситуації, і ми їх чули все життя. Наукова фантастика може допомогти нам міркувати про вплив технологій найближчого майбутнього на суспільство, як це роблять Slaughterbots. Це може включати навіть питання соціальної справедливості, як, наприклад, певні групи, такі як біженці та мігранти виключено із цифрові інновації.

Розкриття (можливого) майбутнього

Дизайн фантастичних історій надати новий спосіб дизайнерам, інженерам та футуристам (серед інших) думати про вплив технології з точки зору людини та пов’язувати це з можливими майбутніми потребами. За допомогою суміші логіки та уяви дизайнерська художня література може розкрити аспекти того, як технологія може бути прийнята та використана, починаючи розмови про її майбутні наслідки.

Наприклад, новела "Злочинні джерела"Досліджує, що може статися, якщо AI використовує інформацію, що перебуває в масовій формі, та кримінальну базу даних, щоб передбачити, хто може вчинити вбивство. Дослідники виявили, що оскільки база даних повна людей з етнічних меншин, які з соціальних причин статистично мають більше шансів на повторне відшкодування, модель "розкриття злочинів" швидше помилково підозрюють меншини ніж білі люди.

Вам не потрібно бути талановитим письменником чи знімати гладкий фільм, щоб створювати художню фантастику. Мозковий штурм із залученням карт та розповідей були використані розвивати художню художню літературу та допомагати розвивати процес розповіді. Зростання семінарів, які використовують такі інструменти, більш поширене, дозволить більшій кількості інженерів, підприємців та політиків використовувати цей метод оцінювання. І оприлюднення результатів роботи допоможе розкрити потенційні упередження в технологіях, перш ніж вони вплинуть на суспільство.

Заохочення дизайнерів створити та поділитися більшою кількістю оповідань таким чином забезпечить розповідь про те, що основою нової технології буде не просто представлення позитивної картини, ані вкрай негативної чи дистопічної. Натомість люди зможуть оцінити обидва аспекти того, що відбувається навколо нас.

Про авторів

Алесіо Малізія, Професор дизайну досвіду користувачів, Університет Хартфордшира та Сільвіо Карта, Керівник відділу мистецтв та дизайну та голова групи досліджень дизайну, Університет Хартфордшира

Ця стаття перевидана з Бесіда за ліцензією Creative Commons. Читати оригінал статті.