WHO roept op tot veilige en ethische AI ​​

LLM's omvatten enkele van de snelst groeiende platforms zoals ChatGPT, Bard, Bert en vele anderen die het begrijpen, verwerken en produceren van menselijke communicatie imiteren. Hun snelle publieke verspreiding en groeiend experimenteel gebruik voor gezondheidsgerelateerde doeleinden zorgt voor veel opwinding over het potentieel om de gezondheidsbehoeften van mensen te ondersteunen.

Het is absoluut noodzakelijk dat de risico's zorgvuldig worden onderzocht bij het gebruik van LLM's om de toegang tot gezondheidsinformatie te verbeteren, als hulpmiddel bij het nemen van beslissingen, of zelfs om de diagnostische capaciteit te vergroten in omgevingen met onvoldoende middelen om de gezondheid van mensen te beschermen en ongelijkheid te verminderen.

Hoewel de WHO enthousiast is over het juiste gebruik van technologieën, waaronder LLM's, om beroepsbeoefenaren in de gezondheidszorg, patiënten, onderzoekers en wetenschappers te ondersteunen, is er bezorgdheid dat de voorzichtigheid die normaal gesproken zou worden betracht voor nieuwe technologie, niet consistent wordt betracht met LLM's. Dit omvat een wijdverspreide naleving van kernwaarden van transparantie, inclusie, publieke betrokkenheid, deskundig toezicht en grondige evaluatie.

Overhaaste acceptatie van niet-geteste systemen kan leiden tot fouten door gezondheidswerkers, schade toebrengen aan patiënten, het vertrouwen in AI ondermijnen en daardoor de potentiële langetermijnvoordelen en het gebruik van dergelijke technologieën over de hele wereld ondermijnen (of vertragen).

Zorgen die rigoureus toezicht vereisen dat nodig is om de technologieën op een veilige, effectieve en ethische manier te gebruiken, zijn onder meer:

• de gegevens die worden gebruikt om AI te trainen, kunnen vertekend zijn en misleidende of onnauwkeurige informatie genereren die risico's kan vormen voor de gezondheid, rechtvaardigheid en inclusiviteit;
• LLM's genereren reacties die gezaghebbend en plausibel kunnen lijken voor een eindgebruiker; deze antwoorden kunnen echter volledig onjuist zijn of ernstige fouten bevatten, vooral voor gezondheidsgerelateerde antwoorden;
• LLM's kunnen worden getraind op gegevens waarvoor mogelijk niet eerder toestemming is gegeven voor dergelijk gebruik, en LLM's beschermen mogelijk geen gevoelige gegevens (inclusief gezondheidsgegevens) die een gebruiker aan een applicatie verstrekt om een ​​reactie te genereren;
• LLM's kunnen worden misbruikt om zeer overtuigende desinformatie te genereren en te verspreiden in de vorm van tekst-, audio- of video-inhoud die voor het publiek moeilijk te onderscheiden is van betrouwbare gezondheidsinhoud; En
• terwijl ze zich inzet voor het benutten van nieuwe technologieën, waaronder AI en digitale gezondheid om de menselijke gezondheid te verbeteren, beveelt de WHO beleidsmakers aan om de veiligheid en bescherming van patiënten te waarborgen, terwijl technologiebedrijven werken aan de commercialisering van LLM's.

De WHO stelt voor dat deze zorgen worden aangepakt en dat er duidelijk bewijs van de voordelen wordt gemeten voordat ze op grote schaal worden gebruikt in de reguliere gezondheidszorg en geneeskunde - hetzij door individuen, zorgverleners of beheerders van gezondheidssystemen en beleidsmakers.

De WHO herhaalt het belang van het toepassen van ethische principes en passend bestuur, zoals opgesomd in de WHO-richtlijnen over de ethiek en het bestuur van AI voor de gezondheid , bij het ontwerpen, ontwikkelen en inzetten van AI voor de gezondheid. De 6 kernprincipes die door de WHO zijn geïdentificeerd, zijn: (1) autonomie beschermen; (2) het welzijn van de mens, de menselijke veiligheid en het algemeen belang bevorderen; (3) zorgen voor transparantie, uitlegbaarheid en begrijpelijkheid; (4) verantwoordelijkheid en verantwoording bevorderen; (5) zorgen voor inclusiviteit en billijkheid; (6) AI promoten die responsief en duurzaam is.