WHO je izdal nove smernice o etiki in upravljanju velikih multimodalnih modelov (LMM) za njihovo ustrezno uporabo za spodbujanje in zaščito zdravja prebivalstva. LMM je vrsta hitro rastočega rodovnika Umetna inteligenca (AI) tehnologija, ki ima pet širokih aplikacij za zdravje in
1. Diagnoza in klinična oskrba, kot je odgovarjanje na pisna vprašanja bolnikov;
2. uporaba po pacientu, na primer za raziskovanje simptomov in zdravljenje;
3. Uradniške in administrativne naloge, kot je dokumentiranje in povzemanje obiskov pacientov v elektronskih zdravstvenih kartotekah;
4. Medicinsko in negovalno izobraževanje, vključno z zagotavljanjem simuliranih srečanj s pacienti pripravnikom, in;
5. Znanstvene raziskave in razvoj zdravil, vključno z odkrivanjem novih spojin.
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
Zato je WHO za ustvarjanje varnih in učinkovitih LMM pripravila priporočila za vlade in razvijalce LMM.
Vlade imajo glavno odgovornost, da določijo standarde za razvoj in uporabo LMM ter njihovo integracijo in uporabo v javnozdravstvene in medicinske namene. Vlade bi morale vlagati ali zagotavljati neprofitno ali javno infrastrukturo, vključno z računalniško močjo in javnimi nabori podatkov, ki so dostopni razvijalcem v javnem, zasebnem in neprofitnem sektorju, ki od uporabnikov zahteva, da spoštujejo etična načela in vrednote v zamenjava za dostop.
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· Določite obstoječo ali novo regulativno agencijo za ocenjevanje in odobritev LMM-jev in aplikacij, namenjenih uporabi v zdravstvu ali medicini – če viri to dopuščajo.
· Uvesti obvezno revizijo po izdaji in ocene učinka, vključno za varstvo podatkov in človekove pravice, s strani neodvisnih tretjih oseb, ko se LMM uporablja v velikem obsegu. Revizijo in oceno učinka je treba objaviti
in mora vključevati rezultate in vplive, razčlenjene glede na vrsto uporabnika, na primer glede na starost, raso ali invalidnost.
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
LMM so zasnovani za opravljanje natančno opredeljenih nalog s potrebno natančnostjo in zanesljivostjo za izboljšanje zmogljivosti zdravstvenih sistemov in spodbujanje interesov bolnikov. Razvijalci bi morali biti tudi sposobni predvideti in razumeti možne sekundarne rezultate.
***
vir:
WHO 2024. Etika in upravljanje umetne inteligence za zdravje: smernice za velike večmodalne modele. Na voljo na https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
