ВООЗ випустила нові вказівки щодо етики та управління великими мультимодальними моделями (LMM) для їх належного використання для зміцнення та захисту здоров’я населення. LMMs — тип швидкозростаючих генеративів штучний інтелект (AI) технологія, яка має п’ять широких застосувань для здоров’я in
1. Діагностика та клінічна допомога, наприклад, відповіді на письмові запити пацієнтів;
2. Використання під наглядом пацієнта, наприклад, для дослідження симптомів і лікування;
3. Канцелярські та адміністративні завдання, такі як документування та узагальнення відвідувань пацієнтів в електронних медичних записах;
4. Медична та медсестринська освіта, включаючи надання слухачам симуляції зустрічей з пацієнтами, а також;
5. Наукові дослідження та розробка ліків, у тому числі для виявлення нових сполук.
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
Тому для створення безпечних і ефективних LMM ВООЗ підготувала рекомендації для урядів і розробників LMM.
Уряди несуть основну відповідальність за встановлення стандартів для розробки та розгортання LMM, а також їх інтеграції та використання для цілей охорони здоров’я та медицини. Уряди повинні інвестувати або надавати некомерційну або державну інфраструктуру, включаючи обчислювальну потужність і загальнодоступні набори даних, доступні для розробників у державному, приватному та некомерційному секторах, що вимагає від користувачів дотримання етичних принципів і цінностей у обмін на доступ.
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· Призначте існуючий або новий регуляторний орган для оцінки та схвалення LMM і програм, призначених для використання в охороні здоров’я чи медицині – якщо дозволяють ресурси.
· Запровадження обов’язкового аудиту після випуску та оцінки впливу, у тому числі для захисту даних і прав людини, незалежними третіми сторонами, коли LMM розгортається у великому масштабі. Аудит та оцінка впливу повинні бути опубліковані
і має включати результати та наслідки, розподілені за типом користувача, у тому числі, наприклад, за віком, расою чи інвалідністю.
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
LMM розроблені для виконання чітко визначених завдань з необхідною точністю та надійністю для підвищення спроможності систем охорони здоров’я та захисту інтересів пацієнтів. Розробники також повинні вміти передбачати й розуміти потенційні вторинні результати.
***
джерело:
ВООЗ 2024. Етика та управління штучним інтелектом для охорони здоров’я: настанови щодо великих мультимодальних моделей. Доступний на https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
