Ваше місцезнаходження - це не все, що він знає. AP Photo / Мері Альтаффер

Бізнес-модель Uber неймовірно проста: це платформа, яка полегшує обмін між людьми. І Uber мав неймовірний успіх у цьому, майже виключаючи трансакційні витрати of ведення бізнесу у всьому, від перевезення людей по місту до доставки їжі.

Якщо ви використовуєте Uber - або, можливо, навіть якщо ви цього не зробите - він знає скарбницю даних про вас, включаючи ваше місцезнаходження, стать, історію витрат, контакти, рівень заряду акумулятора телефону і навіть незалежно від того, вирушаєте ви додому з місця на одну ніч. Невдовзі це може знати чи ти п'яний чи ні.

Хоча це досить страшно, поєднайте всі ці дані з Експертиза Uber при аналізі його через призму наука про поведінку і у вас є небезпечний потенціал використовувати користувачів для отримання прибутку.

Uber навряд чи один. Наші дослідження показують найбільші цифрові платформи - Airbnb, Facebook, eBay та інші - збирають стільки даних про те, як ми живемо, що вони вже мають можливість масштабно маніпулювати своїми користувачами. Вони можуть передбачити поведінку та впливати на наші рішення щодо того, де натиснути, поділитися та витратити.

Хоча більшість платформ ще не використовують усі ці можливості, маніпуляції за допомогою методів поведінкової психології можуть відбуватися тихо і залишати мало сліду. Якщо ми зараз не встановимо правил дорожнього руху, виявити та зупинитись пізніше буде набагато складніше.

'Архітектура вибору'

Платформа може бути будь-яким простором, що полегшує транзакції між покупцями та продавцями. Традиційні приклади включають блошині ринки та торгові зали.

Цифрова платформа служить тій самій меті, але надає власникові можливість «посередницької діяльності» для своїх користувачів під час її використання - і часто, коли вони цього не роблять. Під цим ми маємо на увазі, що він може спостерігати та вивчати неймовірну кількість інформації про поведінку користувачів, щоб вдосконалити те, що називають поведінкові вчені “архітектури вибору, ”Непомітні елементи дизайну, призначені впливати на поведінку людини через спосіб подання рішень.

Uber знає, коли заряд акумулятора у телефоні розряджається. boyhey / Shutterstock.com

Наприклад, Uber експериментував зі своїми драйверами визначити найефективніші стратегії їх якнайдовшого утримання в дорозі. Ці стратегії включають вживання когнітивних упереджень, таких як неприязнь до втрат та завищення оцінок низькоімовірних подій, навіть якщо водій ледь заробляє достатньо грошей, щоб зробити це вартим її часу. Водії опиняються як азартні гравці в казино, закликані грати трохи довше, незважаючи на шанси.

Uber не відразу відповів на запит про коментар.

Airbnb також експериментує зі своїми користувачами. Він використовував поведінкову науку змусити господарів знизити ціни та приймати бронювання, не перевіряючи гостей - що створює реальні ризики для господарів, особливо коли вони діляться у власній квартирі.

Хоча ці приклади здаються відносно доброякісними, вони демонструють, як цифрові платформи здатні спокійно проектувати системи, щоб спрямовувати дії користувачів потенційно маніпулятивними способами.

І в міру зростання платформ вони стають лише кращим вибором архітекторів. З його величезним припливом грошей інвесторів для фінансування більшої кількості даних наука про поведінку, Uber міг переїхати на небезпечно неетичну територію - легко уявити враховуючи минулу практику.

Наприклад, якщо додаток визнає, що ви напідпитку або перебуваєте в районі, до якого ви рідко їздите - і такий, що його дані показують, має високий рівень злочинності, - він може стягувати з вас вищу ставку, знаючи, що ви навряд чи зможете відмовити.

Юридичні виклики

І це не всі спекуляції.

Намагаючись обдурити правоохоронні органи, намагаючись розслідувати компанію, Uber насправді знайшов спосіб визначити державні регулятори намагаючись використовувати його додаток, а потім заважав їм їздити.

Це одна з причин законодавців та регуляторів обговорювали важкі взаємопов’язані ролі поведінкової науки та техніки Протягом багатьох років. А деякі компанії, Убер зокрема, розслідувались щодо безлічі поганих ділових практик, з дискримінація до неправильне використання даних користувачів.

Але більшість маніпуляцій, які ми виявили і турбуємось, не є явно незаконними. І оскільки регулятори часто не в змозі йти в ногу з постійно розвивається використанням технологій та архітектурою вибору, це, мабуть, так і залишиться.

З огляду на відсутність чітко визначених та забезпечених законом захисних огороджень, схильність компаній-платформ до використання поведінкової науки за рахунок користувачів залишатиметься в основному неперевіреною.

Етичний кодекс

На наш погляд, одним із рішень є встановлення етичного кодексу, яким повинні керуватися компанії-платформи. І якщо вони не приймуть його охоче, інвестори, працівники та користувачі можуть вимагати цього.

З середини 20 століття написані кодекси етичної поведінки були основним продуктом американських компаній. Юридична та медична професії покладались на них та цінності тисячоліття. І дослідження пропонує вони ефективно заохочують етичну поведінку в компаніях.

Ми розглянули сотні етичних кодексів, у тому числі цільові для технічних та обчислювальних компаній. На основі нашого дослідження ми закликаємо цифрові платформи прийняти п’ять етичних вказівок:

1. Архітектура будь-якого вибору, що використовується на платформі, повинна бути повністю прозорою. Платформи повинні розкривати інформацію, коли вони використовують інструменти поведінкової науки для впливу на поведінку користувачів

2. Користувачі повинні мати можливість вільно та легко робити вибір на платформі, а архітектори вибору повинні обмежувати поведінкові втручання нагадуваннями або підказками, які є найменш шкідливими для автономії користувача

3. Платформи повинні уникати "підштовхування" користувачів таким чином, щоб використовувати несвідоме та ірраціональне прийняття рішень на основі імпульсу та емоцій. нове дослідження показує, що прозора архітектура вибору може працювати так само добре

4. Платформи повинні визнавати владу, якою вони володіють, і дбати про те, щоб не використовувати ринки, які вони створили, в тому числі шляхом зловживання інформаційною асиметрією між собою та користувачами або протистояння розумним правилам

5. Платформи повинні уникати використання архітектури вибору, яка перешкоджає користувачам діяти у власних інтересах. Як лауреат Нобелівської премії поведінковий економіст Річард Талер поклади це, ми повинні лише "підштовхувати до кінця".

Великі технології та поведінкові науки зараз інтегровані таким чином, що роблять компанії шаленим успіхом гудіння зубних щіток які роблять чищення зубів здається корисним для використання текстів, щоб підштовхнути бідніших матерів до медичного обслуговування.

Хоча результати можуть значно покращити наше життя, компаніям також простіше, ніж будь-коли, маніпулювати користувачами, щоб покращити свої результати.

Про авторів

Аббатство Стемлер, доцент кафедри ділового права та етики, університет штату Індіана; Джошуа Е. Перрі, доцент кафедри ділового права та етики, університет штату Індіаната Тоддом Хо, доцентом кафедри ділового права та етики, університет штату Індіана

Ця стаття перевидана з Бесіда за ліцензією Creative Commons. Читати оригінал статті.

Суміжні книги

at InnerSelf Market і Amazon