ВООЗ випустила нові вказівки щодо етики та управління великими мультимодальними моделями (LMM) для їх належного використання для зміцнення та захисту здоров’я населення. LMMs — тип швидкозростаючих генеративів штучний інтелект (AI) технологія, яка має п’ять широких застосувань для здоров’я in
1. Діагностика та клінічна допомога, наприклад, відповіді на письмові запити пацієнтів;
2. Використання під наглядом пацієнта, наприклад, для дослідження симптомів і лікування;
3. Канцелярські та адміністративні завдання, такі як документування та узагальнення відвідувань пацієнтів в електронних медичних записах;
4. Медична та медсестринська освіта, включаючи надання слухачам симуляції зустрічей з пацієнтами, а також;
5. Наукові дослідження та розробка ліків, у тому числі для виявлення нових сполук.
Однак ці програми в охороні здоров’я містять ризик створення неправдивих, неточних, упереджених або неповних заяв, які можуть завдати шкоди людям, які використовують таку інформацію для прийняття рішень щодо здоров’я. Крім того, LMM можуть навчатися на даних низької якості або упереджених, незалежно від раси, етнічного походження, походження, статі, гендерної приналежності чи віку. Існують також ширші ризики для систем охорони здоров’я, такі як доступність і доступність найефективніших LMM. LMM також можуть сприяти «автоматизаційному упередженню» з боку медичних працівників і пацієнтів, у результаті чого помилки, які інакше були б виявлені, не помічаються, або складні рішення неправильно делегуються LMM. LMM, як і інші форми AI, також уразливі до ризиків кібербезпеки, які можуть поставити під загрозу інформацію про пацієнтів або надійність цих алгоритмів і надання медичної допомоги в цілому.
Тому для створення безпечних і ефективних LMM ВООЗ підготувала рекомендації для урядів і розробників LMM.
Уряди несуть основну відповідальність за встановлення стандартів для розробки та розгортання LMM, а також їх інтеграції та використання для цілей охорони здоров’я та медицини. Уряди повинні інвестувати або надавати некомерційну або державну інфраструктуру, включаючи обчислювальну потужність і загальнодоступні набори даних, доступні для розробників у державному, приватному та некомерційному секторах, що вимагає від користувачів дотримання етичних принципів і цінностей у обмін на доступ.
· Використовуйте закони, політику та нормативні акти, щоб гарантувати, що LMM та програми, що використовуються в охороні здоров’я та медицині, незалежно від ризику чи користі, пов’язаної з AI технології, відповідають етичним зобов’язанням і стандартам прав людини, які впливають, наприклад, на гідність людини, її автономію чи приватне життя.
· Призначте існуючий або новий регуляторний орган для оцінки та схвалення LMM і програм, призначених для використання в охороні здоров’я чи медицині – якщо дозволяють ресурси.
· Запровадження обов’язкового аудиту після випуску та оцінки впливу, у тому числі для захисту даних і прав людини, незалежними третіми сторонами, коли LMM розгортається у великому масштабі. Аудит та оцінка впливу повинні бути опубліковані
і має включати результати та наслідки, розподілені за типом користувача, у тому числі, наприклад, за віком, расою чи інвалідністю.
· LMM розробляють не тільки вчені та інженери. Потенційні користувачі та всі прямі та непрямі зацікавлені сторони, включаючи постачальників медичних послуг, наукових дослідників, медичних працівників і пацієнтів, повинні бути залучені на ранніх стадіях AI розвиток структурованого, інклюзивного, прозорого дизайну та надання можливостей порушувати етичні питання, висловлювати занепокоєння та надавати внесок для AI заявка на розгляді.
LMM розроблені для виконання чітко визначених завдань з необхідною точністю та надійністю для підвищення спроможності систем охорони здоров’я та захисту інтересів пацієнтів. Розробники також повинні вміти передбачати й розуміти потенційні вторинні результати.
***
джерело:
ВООЗ 2024. Етика та управління штучним інтелектом для охорони здоров’я: настанови щодо великих мультимодальних моделей. Доступний на https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
