WHO je izdal nove smernice o etiki in upravljanju velikih multimodalnih modelov (LMM) za njihovo ustrezno uporabo za spodbujanje in zaščito zdravja prebivalstva. LMM je vrsta hitro rastočega rodovnika Umetna inteligenca (AI) tehnologija, ki ima pet širokih aplikacij za zdravje in
1. Diagnoza in klinična oskrba, kot je odgovarjanje na pisna vprašanja bolnikov;
2. uporaba po pacientu, na primer za raziskovanje simptomov in zdravljenje;
3. Uradniške in administrativne naloge, kot je dokumentiranje in povzemanje obiskov pacientov v elektronskih zdravstvenih kartotekah;
4. Medicinsko in negovalno izobraževanje, vključno z zagotavljanjem simuliranih srečanj s pacienti pripravnikom, in;
5. Znanstvene raziskave in razvoj zdravil, vključno z odkrivanjem novih spojin.
Vendar te aplikacije v zdravstvu tvegajo ustvarjanje lažnih, netočnih, pristranskih ali nepopolnih izjav, ki bi lahko škodovale ljudem, ki uporabljajo takšne informacije pri sprejemanju zdravstvenih odločitev. Poleg tega se LMM lahko usposabljajo na podatkih, ki so slabe kakovosti ali pristranski, ne glede na raso, etnično pripadnost, poreklo, spol, spolno identiteto ali starost. Obstajajo tudi širša tveganja za zdravstvene sisteme, kot sta dostopnost in cenovna dostopnost najučinkovitejših LMM. LMM lahko tudi spodbudijo 'avtomatizirano pristranskost' s strani zdravstvenih delavcev in pacientov, pri čemer se spregledajo napake, ki bi bile sicer ugotovljene, ali pa se težke odločitve nepravilno prenesejo na LMM. LMM, tako kot druge oblike AI, so prav tako občutljivi na tveganja kibernetske varnosti, ki bi lahko ogrozila informacije o pacientih ali zanesljivost teh algoritmov in zagotavljanje zdravstvene oskrbe na splošno.
Zato je WHO za ustvarjanje varnih in učinkovitih LMM pripravila priporočila za vlade in razvijalce LMM.
Vlade imajo glavno odgovornost, da določijo standarde za razvoj in uporabo LMM ter njihovo integracijo in uporabo v javnozdravstvene in medicinske namene. Vlade bi morale vlagati ali zagotavljati neprofitno ali javno infrastrukturo, vključno z računalniško močjo in javnimi nabori podatkov, ki so dostopni razvijalcem v javnem, zasebnem in neprofitnem sektorju, ki od uporabnikov zahteva, da spoštujejo etična načela in vrednote v zamenjava za dostop.
· Z zakoni, politikami in predpisi zagotovite, da LMM in aplikacije, ki se uporabljajo v zdravstvu in medicini, ne glede na tveganje ali korist, povezano z AI tehnologijo, izpolnjujejo etične obveznosti in standarde človekovih pravic, ki vplivajo na primer na človekovo dostojanstvo, avtonomijo ali zasebnost.
· Določite obstoječo ali novo regulativno agencijo za ocenjevanje in odobritev LMM-jev in aplikacij, namenjenih uporabi v zdravstvu ali medicini – če viri to dopuščajo.
· Uvesti obvezno revizijo po izdaji in ocene učinka, vključno za varstvo podatkov in človekove pravice, s strani neodvisnih tretjih oseb, ko se LMM uporablja v velikem obsegu. Revizijo in oceno učinka je treba objaviti
in mora vključevati rezultate in vplive, razčlenjene glede na vrsto uporabnika, na primer glede na starost, raso ali invalidnost.
· LMM ne oblikujejo samo znanstveniki in inženirji. Potencialne uporabnike ter vse neposredne in posredne zainteresirane strani, vključno z zdravstvenimi delavci, znanstvenimi raziskovalci, zdravstvenimi delavci in bolniki, je treba vključiti že v zgodnjih fazah AI razvoj strukturiranega, vključujočega, preglednega oblikovanja in priložnosti za odpiranje etičnih vprašanj, izražanje pomislekov in zagotavljanje prispevka za AI prijava v obravnavi.
LMM so zasnovani za opravljanje natančno opredeljenih nalog s potrebno natančnostjo in zanesljivostjo za izboljšanje zmogljivosti zdravstvenih sistemov in spodbujanje interesov bolnikov. Razvijalci bi morali biti tudi sposobni predvideti in razumeti možne sekundarne rezultate.
***
vir:
WHO 2024. Etika in upravljanje umetne inteligence za zdravje: smernice za velike večmodalne modele. Na voljo na https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
