Інформація є цінним товаром. А завдяки технологіям вони є мільйони терабайт цього онлайн.

Інструменти штучного інтелекту (AI), такі як ChatGPT, тепер керують цією інформацією від нашого імені – порівнюють її, узагальнюють і повертають нам.

Але цей «аутсорсинг» управління інформацією штучному інтелекту, як би це було зручно, має наслідки. Це може впливати не тільки що ми думаємо, але потенційно також як ми думаємо.

Що відбувається у світі, де алгоритми штучного інтелекту вирішують, яку інформацію зберегти, а що залишити на узбіччі?

Розвиток персоналізованого ШІ

Генеративні інструменти штучного інтелекту побудовані на моделях, навчених на сотнях гігабайт попередні дані. На основі цих даних вони вчаться автономно створювати текст, зображення, аудіо- та відеоконтент і можуть відповідати на запити користувачів, комбінуючи «найімовірнішу» відповідь.

ChatGPT використовується мільйони людей, незважаючи на те, що він був опублікований менше року тому. У червні додавання с спеціальні відповіді зробив і без того вражаючого чат-бота ще кориснішим. Ця функція дозволяє користувачам зберігати індивідуальні інструкції, що пояснюють, для чого вони використовують бота та як вони хочуть, щоб він відповідав.

Це один із кількох прикладів «персоналізованого штучного інтелекту»: категорія інструментів штучного інтелекту, які створюють контент відповідно до конкретних потреб і вподобань користувача.

Іншим прикладом є нещодавно запущений Meta віртуальний помічник, Мета ШІ. Цей чат-бот може вести розмови, створювати зображення та виконувати завдання на платформах Meta, включаючи WhatsApp, Messenger та Instagram.

Дослідник штучного інтелекту та співзасновник DeepMind, Мустафа Сулейман, описує персоналізований штучний інтелект як скоріше відносини, ніж технологія:

Це друг. […] Воно дійсно буде завжди присутнім і поряд з вами, житиме з вами – по суті, у вашій команді. Мені подобається думати про це як про чудового тренера у вашому кутку.

Але ці технології також викликають суперечки, що викликає занепокоєння володіння даними, зміщення та дезинформація.

Технічні компанії намагаються знайти способи боротьби з цими проблемами. Наприклад, Google додав посилання на джерело до підсумків пошуку, згенерованих штучним інтелектом Пошуковий генеративний досвід (SGE), який зазнав критики на початку цього року пропонуючи неточні та проблематичні відповіді.

Технології вже змінили наше мислення

Як генеративні інструменти ШІ – і особливо персоналізовані для нас – змінять наше мислення?

Щоб зрозуміти це, давайте повернемося до початку 1990-х років, коли Інтернет уперше увійшов у наше життя. Люди раптово могли отримати доступ до інформації майже про що завгодно, будь то банківська справа, випічка, навчання чи подорожі.

Майже 30 років тому дослідження показали, як підключення до цього глобального «розуму вулика» змінило наше пізнання, пам’ять і творчість.

Наприклад, мати миттєвий доступ до еквівалента 305.5 мільярд сторінок інформації зросла кількість людей мета-знання – тобто їхні знання про знання. Одним із наслідків цього є «Ефект Google”: явище, за якого онлайн-пошук збільшує нашу здатність знаходити інформацію, але зменшує нашу пам’ять про те, якою була ця інформація.

З одного боку, виявилося, що перенесення нашого мислення на пошукові системи звільняє наші розумові резерви для вирішення проблем і творче мислення. З іншого боку, пошук інформації в Інтернеті асоціюється зі збільшенням відволікання і залежність.

Дослідження також показують, що пошук в Інтернеті – незалежно від кількості чи якості отриманої інформації – збільшує нашу когнітивна самооцінка. Іншими словами, це збільшує нашу віру у власну «розумність».

Поєднайте це з тим фактом, що допитувати інформацію важко – і що чим більше ми довіряємо своїй пошуковій системі, тим менше ставимося до неї критично займатися його результатами – і ви розумієте, чому доступ до безпрецедентної кількості інформації не обов’язково робить нас мудрішими.

Чи варто нам «віддавати» наше мислення?

Сучасні генеративні інструменти ШІ йдуть набагато далі, ніж просто надання нам результатів пошуку. Вони знаходять для нас інформацію, оцінюють її, синтезують і повертають нам.

Які можуть бути наслідки цього? Якщо не наполягати на контролі якості під керівництвом людини, перспектива не є багатообіцяючою.

Здатність Generative AI давати знайомі, об’єктивні та привабливі відповіді означає, що він робить нас більш вразливими до пізнавальні ухили.

Команда ухил автоматизації, наприклад, це людська схильність переоцінювати цілісність машинної інформації. І просте викриття ефект полягає в тому, що ми більш схильні довіряти інформації, яка представлена ​​як знайома чи особиста.

Дослідження в соціальних мережах може допомогти нам зрозуміти вплив таких упереджень. В одному дослідженні 2016 року користувачі Facebook повідомили відчувати себе більш «обізнаним» на основі кількості новин, опублікованих в Інтернеті, а не того, скільки вони насправді прочитали.

Ми також знаємо, що "фільтрувати бульбашки», створений алгоритмами соціальних мереж, у яких наші канали фільтруються відповідно до наших інтересів, обмежує різноманітність контенту, до якого ми маємо доступ.

Було показано, що цей процес звуження інформації посилюється ідеологічна поляризація шляхом зменшення схильності людей розглядати альтернативні перспективи. Крім того, було показано, що він збільшує нашу ймовірність піддатися впливу підроблені новини.

Використання штучного інтелекту, щоб розумніти, а не пригнічувати

Generative AI, без сумніву, є революційною силою з потенціалом робити великі справи для суспільства. Це могло б змінити нашу систему освіти, надаючи персоналізований контент, змінити нашу практику роботи шляхом прискорення написання та аналіз інформації, і розсунути кордони наукові відкриття.

Він навіть має потенціал позитивно змінити наші стосунки, допомагаючи нам спілкуватися та налагоджувати зв’язки з іншими, і іноді може функціонувати як форма синтетичного товариства.

Але якщо наш єдиний спосіб судити про майбутнє — це дивитися в минуле, можливо, зараз настав час подумати про те, як Інтернет і соціальні медіа змінили наше пізнання, і застосувати деякі запобіжні заходи. Розвиток AI грамотність це гарне місце для початку, як і розробка інструментів штучного інтелекту, які заохочують людську автономію та критичне мислення.

Зрештою, нам потрібно буде зрозуміти і те, і інше сильні та слабкі сторони ШІ щоб переконатися, що ці «мислячі» компаньйони допомагають нам створювати майбутнє, якого ми хочемо, а не те, яке випадково опиниться у верхній частині списку.

Сара Вів'єн Бентлі, дослідник, відповідальні інновації, Data61, CSIRO; Клер Мейсон, головний науковий співробітник, CSIRO та Ейнат Грімберг, науковий співробітник у галузі технологій та соціальних наук, CSIRO

Ця стаття перевидана з Бесіда за ліцензією Creative Commons. Читати оригінал статті.