WHO je izdao nove smjernice o etici i upravljanju velikim multimodalnim modelima (LMM) za njihovu odgovarajuću upotrebu za promicanje i zaštitu zdravlja stanovništva. LMMs je vrsta brzorastućeg roda umjetna inteligencija (AI) tehnologija koja ima pet širokih primjena za zdravlje in
1. Dijagnoza i klinička njega, kao što je odgovaranje na pismene upite pacijenata;
2. Korištenje prema pacijentu, kao što je istraživanje simptoma i liječenje;
3. Urednički i administrativni poslovi, kao što je dokumentiranje i sažetak posjeta pacijentima unutar elektroničkih zdravstvenih kartona;
4. Medicinsko i medicinsko obrazovanje, uključujući pružanje pripravnicima simuliranih susreta s pacijentima, i;
5. Znanstveno istraživanje i razvoj lijekova, uključujući identificiranje novih spojeva.
Međutim, te primjene u zdravstvu nose rizik od stvaranja lažnih, netočnih, pristranih ili nepotpunih izjava, što bi moglo naštetiti ljudima koji koriste takve informacije pri donošenju zdravstvenih odluka. Nadalje, LMM-ovi se mogu obučavati na podacima koji su loše kvalitete ili pristrani, bilo po rasi, etničkoj pripadnosti, podrijetlu, spolu, rodnom identitetu ili dobi. Postoje i širi rizici za zdravstvene sustave, poput dostupnosti i priuštivosti najučinkovitijih LMM-ova. LMM-ovi također mogu potaknuti 'automatiziranu pristranost' zdravstvenih djelatnika i pacijenata, pri čemu se previđaju pogreške koje bi inače bile identificirane ili se teški izbori nepropisno delegiraju LMM-u. LMM-ovi, kao i drugi oblici AI, također su osjetljivi na kibersigurnosne rizike koji bi mogli ugroziti informacije o pacijentima ili pouzdanost ovih algoritama i pružanje zdravstvene skrbi u širem smislu.
Stoga je za stvaranje sigurnih i učinkovitih LMM-ova WHO dao preporuke za vlade i programere LMM-ova.
Vlade imaju primarnu odgovornost za postavljanje standarda za razvoj i primjenu LMM-a te njihovu integraciju i upotrebu u javnozdravstvene i medicinske svrhe. Vlade bi trebale ulagati ili osigurati neprofitnu ili javnu infrastrukturu, uključujući računalnu snagu i javne skupove podataka, dostupnu programerima u javnom, privatnom i neprofitnom sektoru, koja zahtijeva od korisnika da se pridržavaju etičkih načela i vrijednosti u razmjena za pristup.
· Koristite zakone, politike i propise kako biste osigurali da LMM-ovi i aplikacije koje se koriste u zdravstvu i medicini, bez obzira na rizik ili korist povezanu s AI tehnologiju, ispunjavaju etičke obveze i standarde ljudskih prava koji utječu, primjerice, na dostojanstvo, autonomiju ili privatnost osobe.
· Dodijelite postojećoj ili novoj regulatornoj agenciji za procjenu i odobravanje LMM-ova i aplikacija namijenjenih za upotrebu u zdravstvu ili medicini – ako sredstva to dopuštaju.
· Uvesti obveznu reviziju nakon objave i procjene učinka, uključujući zaštitu podataka i ljudska prava, od strane neovisnih trećih strana kada se LMM primjenjuje u velikoj mjeri. Reviziju i procjenu učinka treba objaviti
i trebao bi uključivati ishode i utjecaje razvrstane prema vrsti korisnika, uključujući na primjer prema dobi, rasi ili invaliditetu.
· LMM-ove ne dizajniraju samo znanstvenici i inženjeri. Potencijalne korisnike i sve izravne i neizravne dionike, uključujući pružatelje medicinskih usluga, znanstvene istraživače, zdravstvene djelatnike i pacijente, treba uključiti od ranih faza AI razvoj strukturiranog, uključivog, transparentnog dizajna i davanje prilika za pokretanje etičkih pitanja, izražavanje zabrinutosti i davanje doprinosa za AI prijava u razmatranju.
LMM-ovi su dizajnirani za obavljanje dobro definiranih zadataka s potrebnom točnošću i pouzdanošću za poboljšanje kapaciteta zdravstvenih sustava i unapređenje interesa pacijenata. Programeri bi također trebali moći predvidjeti i razumjeti moguće sekundarne ishode.
***
Izvor:
WHO 2024. Etika i upravljanje umjetnom inteligencijom za zdravlje: smjernice za velike multimodalne modele. Dostupno u https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
