Getty Images
Штучний інтелект (AI) швидко розвивається і стане важливим інструментом підтримки в клінічній допомозі. Дослідження показують, що алгоритми ШІ можуть точно виявити меланоми та передбачити рак грудей у майбутньому.
Але перш ніж штучний інтелект можна буде інтегрувати в повсякденне клінічне використання, ми повинні вирішити проблему зміщення алгоритмів. Алгоритми ШІ можуть мати властиві упередження, які можуть призвести до дискримінації та проблем із конфіденційністю. Системи штучного інтелекту також можуть приймати рішення без необхідного нагляду або участі людини.
Приклад потенційно шкідливого впливу ШІ походить від міжнародний проект який має на меті використовувати ШІ для порятунку життів шляхом розробки проривних медичних методів лікування. Під час експерименту команда змінила свою «хорошу» модель ШІ, щоб створити варіанти для нової моделі ШІ, яка може завдати «шкоди».
Менш ніж за шість годин навчання перевернутий алгоритм штучного інтелекту створив десятки тисяч потенційних бойових отруйних речовин, причому набагато небезпечніших, ніж теперішні бойові отруйні речовини. Це екстремальний приклад щодо хімічних сполук, але він слугує тривожним дзвіночком для оцінки відомих і ймовірно невідомих етичних наслідків ШІ.
ШІ в клінічній допомозі
У медицині ми маємо справу з найбільш особистими даними людей і часто приймаємо кардинальні рішення. Надійні рамки етики ШІ є обов’язковими.
Команда Австралійський проект з епілепсії має на меті покращити життя людей і зробити клінічну допомогу більш доступною. Ґрунтуючись на передовій візуалізації мозку, генетичній і когнітивній інформації від тисяч людей з епілепсією, ми плануємо використовувати ШІ для відповісти на запитання, на які зараз немає відповіді.
Чи триватимуть напади цієї людини? Який препарат найбільш ефективний? Чи є операція на мозку життєздатним варіантом лікування? Це фундаментальні питання, які сучасна медицина намагається вирішити.
Мене, як керівника ШІ цього проекту, хвилює те, що штучний інтелект розвивається швидко, а регулятивний контроль мінімальний. Через ці проблеми ми нещодавно створили етичні рамки для використання ШІ як інструменту клінічної підтримки. Ця структура має на меті забезпечити відкритість, безпеку та надійність наших технологій штучного інтелекту, одночасно сприяючи інклюзивності та справедливості в клінічному лікуванні.
Отже, як нам запровадити етику ШІ в медицині, щоб зменшити упередженість і зберегти контроль над алгоритмами? Принцип інформатики «сміття всередину, сміття назовні» застосовується до ШІ. Припустімо, ми збираємо упереджені дані з невеликих вибірок. Наші алгоритми штучного інтелекту, ймовірно, будуть упередженими та не відтворюватимуться в інших клінічних умовах.
Приклади упереджень неважко знайти в сучасних моделях ШІ. Популярні великі мовні моделі (наприклад, ChatGPT) і моделі латентної дифузії (DALL-E і Stable Diffusion) показують, як явні упередження щодо статі, етнічного походження та соціально-економічного статусу.
Дослідники виявили, що прості підказки користувача створюють образи, які зберігають етнічні, гендерні та класові стереотипи. Наприклад, підказка для лікаря генерує переважно зображення лікарів-чоловіків, що не відповідає дійсності, оскільки близько половини всіх лікарів у країнах ОЕСР — жінки.
Безпечне впровадження медичного ШІ
Рішення щодо запобігання упередженості та дискримінації не є тривіальним. Забезпечення рівності у сфері охорони здоров’я та сприяння інклюзивності в клінічних дослідженнях, ймовірно, є одними з них первинні розчини для боротьби з упередженнями в медичному ШІ.
Надихає те, що нещодавно запропонувало Управління з контролю за продуктами й ліками США зробити різноманітність обов'язковою у клінічних випробуваннях. Ця пропозиція є кроком до менш упереджених клінічних досліджень на основі спільноти.
Ще одна перешкода прогресу – обмежене фінансування досліджень. Алгоритми штучного інтелекту зазвичай вимагають значних обсягів даних, що може бути дорогим. Вкрай важливо створити розширені механізми фінансування, які нададуть дослідникам необхідні ресурси для збору клінічно значущих даних, придатних для застосування ШІ.
Ми також стверджуємо, що завжди повинні знати внутрішню роботу алгоритмів ШІ та розуміти, як вони роблять висновки та рекомендації. Цю концепцію в ШІ часто називають «пояснюваністю». Це пов’язано з ідеєю, що люди та машини повинні працювати разом для отримання оптимальних результатів.
Ми вважаємо за краще розглядати реалізацію передбачення в моделях як «доповнений», а не «штучний» інтелект – алгоритми повинні бути частиною процесу, а медичні професії повинні контролювати прийняття рішень.
Окрім заохочення використання зрозумілих алгоритмів, ми підтримуємо прозору та відкриту науку. Вчені повинні опублікувати деталі моделей ШІ та їх методології для підвищення прозорості та відтворюваності.
Що нам потрібно в Аотеароа, Нова Зеландія, щоб забезпечити безпечне впровадження ШІ в медичній допомозі? Занепокоєння щодо етики штучного інтелекту в основному очолюються експертами в цій галузі. Однак цільові правила штучного інтелекту, такі як ЄС Закон про штучний інтелект були запропоновані з урахуванням цих етичних міркувань.
Європейський закон про штучний інтелект вітається та захистить людей, які працюють у рамках «безпечного штучного інтелекту». Уряд Великобританії нещодавно опублікував їх проактивний підхід до регулювання ШІ, що служить схемою для інших заходів уряду щодо безпеки ШІ.
В Аотеароа ми виступаємо за прийняття проактивної, а не реактивної позиції щодо безпеки ШІ. Він створить етичну основу для використання штучного інтелекту в клінічній медичній допомозі та інших сферах, забезпечуючи доступний для інтерпретації, безпечний і неупереджений штучний інтелект. Отже, наша впевненість зростатиме, що ця потужна технологія приносить користь суспільству, водночас захищаючи його від шкоди.
про автора
Мангор Педерсен, доцент кафедри психології та неврології, Технологічний університет Окленду
Ця стаття перевидана з Бесіда за ліцензією Creative Commons. Читати оригінал статті.
Схожі книги:
Тіло веде рахунок: мозок, розум і тіло в лікуванні травми
Бесселя ван дер Колка
Ця книга досліджує зв’язки між травмою та фізичним і психічним здоров’ям, пропонуючи ідеї та стратегії зцілення та відновлення.
Натисніть, щоб дізнатися більше або замовити
Дихання: нова наука втраченого мистецтва
Джеймс Нестор
Ця книга досліджує науку та практику дихання, пропонуючи ідеї та методи покращення фізичного та психічного здоров’я.
Натисніть, щоб дізнатися більше або замовити
Парадокс рослин: приховані небезпеки в «здорових» продуктах, які викликають хвороби та збільшення ваги
Стівен Р. Гандрі
Ця книга досліджує зв’язки між дієтою, здоров’ям і хворобою, пропонуючи ідеї та стратегії для покращення загального здоров’я та самопочуття.
Натисніть, щоб дізнатися більше або замовити
Кодекс імунітету: нова парадигма справжнього здоров’я та радикальної боротьби зі старінням
Джоел Грін
Ця книга пропонує новий погляд на здоров’я та імунітет, спираючись на принципи епігенетики та пропонуючи ідеї та стратегії для оптимізації здоров’я та старіння.
Натисніть, щоб дізнатися більше або замовити
Повний посібник із голодування: зцілюйте своє тіло за допомогою періодичного, іншого дня та тривалого голодування
доктора Джейсона Фунга та Джиммі Мура
Ця книга досліджує науку та практику голодування, пропонуючи ідеї та стратегії для покращення загального здоров’я та благополуччя.
який
