WHO advarer
Reference News Network rapporterte 20. januar at ifølge AFP 18. januar.
Verdens helseorganisasjon advarte om at generativ kunstig intelligens (AI) kan føre til forstyrrende endringer i medisinsk behandling gjennom rask diagnostisering av sykdommer, men dens hastverk og ugaranterte implementering medfører også farer.
I følge rapporter analyserte WHO i et dokument utgitt den 18. farene og fordelene ved å bruke store multimodale modeller (LMM) for medisinsk behandling. Denne typen generativ AI kan bruke en rekke data (tekst, bilder og videoer) for å generere diagnostiske resultater
basert på algoritmer som ikke er begrenset til datatyper.
"Noen mennesker tror at LMM vil imitere menneskelige tanker og atferd og løse noen menneskelige problemer på en interaktiv måte." sa Alan Labrick, leder for WHOs digitale og innovative helseavdeling.
WHO tror at LMM vil bli mye brukt i medisinsk behandling, vitenskapelig forskning og medisinering i fremtiden. Organisasjonen identifiserte fem områder der teknologien kan brukes: diagnostikk, vitenskapelig forskning og legemiddelutvikling, medisinsk og sykepleieundervisning, administrasjon og symptomverifisering.
Selv om LMM har et stort brukspotensial, sa WHO at teknologien kan gi «falske, uriktige, forvrengte eller ufullstendige» resultater. "Ettersom LMM-er i økende grad brukes innen helse og medisin, er feil, feil bruk og personlig skade uunngåelig," bemerket organisasjonen.
WHO-dokumentet introduserer de nye etiske tendensene og ledelsesspørsmålene til LMM, og gir 40 anbefalinger til myndigheter, bedrifter og pasienter om hvordan denne teknologien kan brukes trygt.
WHO mener at teknologien først bør brukes i medisinsk sektor slik at feil kan oppdages og rettes. Jeremy Farrar, sjefforsker i Verdens helseorganisasjon, understreket: "Generativ AI kan forbedre medisinsk behandling, men det må gjøres med utviklere, regelmakere og brukere som er fullstendig klar over de medfølgende risikoene."
"Vi trenger gjennomsiktig informasjon og retningslinjer angående konseptet, utviklingen og bruken av LMM for å oppnå best mulig resultater i helsevesenet og for å overvinne vedvarende ulikheter i helsevesenet," sa Farrar.
WHO ber om innføring av noen garantier slik at brukere som er skadet av LMM kan motta rimelig kompensasjon og ha redningsmidler.
Ifølge rapporten brukes AI i folkehelse og klinisk medisin, men WHO mener at det er noen risikoer i LMM, og "samfunnet, medisinske systemer og sluttbrukere er kanskje ikke fullt forberedt til å håndtere det."
WHO mener også at LMM vanligvis utvikles og brukes av teknologigiganter, noe som kan reise bekymringer og risiko rundt disse selskapenes monopol på teknologien. WHO krever at forskning og utvikling av LMM ikke bare er avhengig av forskere og ingeniører, men også utøvere og pasienter innen det medisinske feltet.
Organisasjonen advarte også om sårbarhetene til LMM i cybersikkerhet, noe som kan sette pasientrelatert informasjon og til og med påliteligheten til medisinsk behandling i fare. Den konkluderte med at regjeringer bør holde regulatorer ansvarlige for å godkjenne LMM-er for medisinsk bruk og kreve høringer om bruken av dem for å vurdere virkningen av teknologien.
