Amazon Echo та голосовий помічник Alexa широко розголошували проблеми конфіденційності. Чи це кількість даних, які вони збирають або той факт, що вони, як повідомляється, платять працівникам, а часом і зовнішнім підрядникам з усього світу слухати записи для підвищення точності, існує потенціал для просочування конфіденційної особистої інформації через ці пристрої.
Але ризики поширюються не тільки на наші відносини з Amazon. Основні проблеми конфіденційності починають проявлятися у взаємодії пристроїв Alexa з іншими службами - це ризикує збільшити антиутопічну спіраль спостереження та контроль.
Налаштування Echo перетворює Amazon на додатковий шлюз, який має пройти кожна онлайн -взаємодія, збираючи дані про кожного. Alexa знає, що ви шукаєте, слухаєте чи надсилаєте свої повідомлення. Деякі смартфони це вже роблять, особливо ті, що зроблені Google та Apple, які контролюють апаратне забезпечення, програмне забезпечення та хмарні послуги.
Але відмінність від Echo в тому, що він об'єднує найгірші аспекти смартфонів та розумних будинків. Це не особистий пристрій, а інтегрований у домашнє середовище, який завжди чекає на прослуховування. У Alexa навіть є художній проект (не створений Amazon), який намагається висвітлити це за допомогою моторошного "Запитайте у слухачів”, Яка дає коментарі про те, скільки пристрій шпигує за вами. Деякі пристрої Echo вже мають камери, і, якщо додати можливості розпізнавання облич, ми могли б увійти у світ повсюдного моніторингу в наших найбільш приватних просторах, навіть відстежуваних під час переміщення між локаціями.
{vembed Y=MnvJ4Bh60L8}
Ця технологія дає Amazon величезну кількість контролю над вашими даними, що вже давно є метою більшості технічних гігантів. Поки Apple та Google - які стикаються зі своїми власні проблеми конфіденційності - мають схожих голосових помічників, вони принаймні досягли успіху у запуску програмного забезпечення безпосередньо на своїх пристроях, тому їм не потрібно буде передавати записи ваших голосових команд на свої сервери. Схоже, що Amazon не намагається зробити те саме.
Частково це пояснюється агресивною бізнес -моделлю фірми. Системи Amazon, здається, не просто призначені для збору якомога більшої кількості даних, а й для створення способів їх спільного використання. Тож потенційні проблеми набагато глибші, ніж Алекса, яка слухає приватні моменти.
Поділитися з правоохоронними органами
Однією з проблем, які викликають занепокоєння, є потенціал поставити вуха правоохоронних органів у наші будинки, школи та на робочих місцях. Apple має історія спротиву запитам ФБР щодо даних користувачів, а Twitter відносно прозоро ставиться до звітів про як він реагує на запити урядів.
Але Ring, компанія, що під’єднується до Інтернету, камера відеоспостереження, що належить Amazon, має гучні стосунки з поліцією передача даних користувача. Навіть спосіб спілкування громадян та поліції все більше контролюється та контролюється Amazon.
Завжди слухаю. Tomasso79/Shutterstock
Це ризикує впровадити культуру державного нагляду в операції Amazon, що може мати тривожні наслідки. Ми бачили численні приклади застосування правоохоронними органами та іншими державними органами в демократичних країнах використання особистих даних для шпигування за людьми, як в Росії порушення закону і всередині нього, але з причин далеко за межами запобігання тероризму. Такий вид масового спостереження також створює серйозний потенціал для дискримінації, оскільки неодноразово було показано, що він погіршує вплив жінки та меншість групи.
Якщо Amazon не хоче відступати, це не важко уявити Здаються записи Alexa на прохання державних службовців та співробітників правоохоронних органів, які можуть виявити бажання порушити дух чи букву закону. І з огляду на міжнародні угоди про обмін розвідувальними даними, навіть якщо ви довіряєте своєму уряду, чи довіряєте ви іншим?
У відповідь на це питання представник Amazon сказав: «Amazon не розкриває інформацію про клієнтів у відповідь на вимоги уряду, якщо ми не зобов’язані це зробити для виконання юридично чинного та сліпого наказу. Amazon, звичайно, заперечує проти надмірних або інших неприйнятних вимог.
"Клієнти компанії Ring вирішують, чи надсилати кадри у відповідь на запити місцевої поліції, що розслідує справи. Місцева поліція не може побачити будь -якої інформації, щодо якої користувачі Ring отримали запит, і чи вони відмовилися поділитися чи відмовитися від майбутніх запитів". Вони додали, що хоча місцева поліція може отримати доступ до програми Ring's Neighbours для повідомлення про злочинну та підозрілу діяльність, вона не може бачити або отримувати доступ до інформації облікового запису користувача.
Відстеження проблем зі здоров'ям
Здоров’я - це ще одна сфера, де, здається, Amazon намагається заволодіти нею. Національна служба охорони здоров'я Великобританії (NHS) підписала угоду про надання медичної допомоги надається через Echo. За номінальною вартістю, це просто розширює способи доступу до загальнодоступної інформації, як -от веб -сайт NHS або телефонна лінія 111 - офіційні дані пацієнтів не передаються.
Але це створює можливість того, що Amazon може почати відстежувати інформацію про стан здоров’я, яку ми запитуємо за допомогою Alexa, ефективно будуючи профілі історії хвороби користувачів. Це може бути пов’язано з пропозиціями щодо покупок в Інтернеті, оголошеннями сторонніх про дорогу терапію або навіть оголошеннями, які потенційно травмують (думаю, жінки, які перенесли викидень) демонструються дитячі товари).
Представник Amazon сказав: «Amazon не створює профілі здоров'я клієнтів на основі взаємодії з вмістом nhs.uk і не використовує такі запити в маркетингових цілях. Alexa не має доступу до будь -якої особистої чи приватної інформації від NHS ».
Грубість та вади алгоритмічної реклами порушували б професійні та моральні стандарти, яких прагнуть підтримувати служби охорони здоров’я. Крім того, було б дуже інвазивно обробляти дані так само, як і багато інших записів Echo. Чи хотіли б ви, щоб випадковий зовнішній підрядник знав, що ви просите поради щодо сексуального здоров’я?
прозорість
В основі цих проблем лежить відсутність реальної прозорості. Amazon насторожує тихий, ухильний і неохочий діяти, коли йдеться про усунення наслідків їхньої практики щодо конфіденційності, багато з яких заховані глибоко в їхніх умовах та положеннях, які важко знайти. Навіть досвідчені користувачі не обов'язково знають про це повний ризик конфіденційності, а коли додаються функції конфіденційності, вони часто лише довести користувачів до відома після того, як дослідники або преса піднімуть це питання. Зовсім несправедливо накладати на користувачів такий тягар, щоб з’ясувати та пом’якшити ці ризики.
Тож якщо у вашому домі є Ехо, що вам робити? На сайті є багато порад як зробити пристрій більш конфіденційним, наприклад, налаштування записів голосу для автоматичного видалення або обмеження того, що дані передаються третім сторонам. Але розумні технології майже завжди є технологіями спостереження, і найкраща порада - не брати їх у свій будинок.
У відповідь на основні моменти цієї статті представник Amazon розповів The Conversation:
В Amazon довіра клієнтів є центром усього, що ми робимо, і ми дуже серйозно ставимось до конфіденційності та безпеки. Ми завжди вважали, що конфіденційність має бути основоположною та вбудованою у кожну частину обладнання, програмного забезпечення та послуг, які ми створюємо. З самого початку ми даємо клієнтам контроль і завжди шукаємо шляхи, щоб ще більше полегшити клієнтам прозорість та контроль над своїм досвідом роботи з Alexa. Ми впровадили кілька поліпшень конфіденційності, включаючи можливість автоматичного видалення записів голосу через три або 18 місяців на постійній основі, можливість попросити Alexa "видалити те, що я щойно сказав" та "видалити те, що я сказав сьогодні", і Alexa Privacy Hub - ресурс, доступний у всьому світі, призначений для того, щоб допомогти клієнтам дізнатися більше про наш підхід до конфіденційності та засоби контролю, які вони мають. Ми продовжимо винаходити додаткові функції конфіденційності від імені клієнтів.
У цю статтю було внесено зміни, щоб пояснити, що функція «Запитайте слухачів» - це художній проект, створений третьою стороною.
Про автора
Гарфілд Бенджамін, докторант, Школа медіамистецтва та технологій, Солентський університет
Ця стаття перевидана з Бесіда за ліцензією Creative Commons. Читати оригінал статті.
