Het Centrum voor Ethiek en Gezondheid (CEG) waarschuwt dat de verwachtingen rond AI voor gezondheid en zorg hooggespannen zijn, terwijl men een maatschappelijk debat over de ethische vragen die AI met zich meebrengt nauwelijks voert. Dat stelt het CEG in het rapport Kunstmatige oplossingen? De ethiek van AI voor gezondheid en zorg, gericht aan regering en parlement.
Het CEG onderzocht of AI een bijdrage kan leveren aan drie brede uitdagingen in de zorg: personeelstekorten, een verouderende samenleving en toenemende mentale gezondheidsproblemen. De centrale vraag is of met AI het goede gedaan kan worden, op de goede manier.
Personeelstekorten
AI-toepassingen worden veel genoemd als oplossing voor personeelstekorten in de zorg, met name om de administratiedruk te verlichten. Het CEG plaatst daar vraagtekens bij. Personeelstekorten gaan over meer dan administratiedruk alleen. Bovendien is nog onvoldoende aangetoond dat AI-toepassingen in de praktijk daadwerkelijk tijdwinst opleveren. Sommige onderzoeken wijzen op het tegendeel: gebruik van AI kost zorgverleners soms meer tijd.
Het rapport wijst ook op een risico van versterking: gemakkelijker administreren kan de informatie- en administratiehonger vergroten. De oplossing kan het probleem daarmee versterken. “Als we niet nadenken over welke problemen we willen oplossen, zullen veel AI-toepassingen in de zorg een pleister zijn voor een gebroken been”, aldus CEG-voorzitter Martine de Vries.
Ethische vragen
AI-toepassingen roepen volgens het CEG ook lastige ethische vragen op. Zo kan AI-gedreven planning de arbeidsdruk verlichten, maar een te efficiënte planning kan het welzijn van zorgverleners onder druk zetten doordat kleine rustmomenten verloren gaan. Bij chatbots voor patiëntvragen bestaat het risico dat de rol van zorgverleners verandert van betrokken zorgverlener naar passieve controleur. En AI-gedreven verslaglegging brengt risico’s mee op onjuiste gegevens in dossiers door confabulaties van generatieve AI.
Op maatschappelijk niveau waarschuwt het CEG dat grootschalige toepassing van AI in de zorg gezondheidsachterstanden kan vergroten, belastend is voor het milieu en de zorg afhankelijker maakt van technologiebedrijven.
Vijf denkstappen
Om een visie te vormen op AI voor gezondheid en zorg formuleert het CEG vijf denkstappen:
- Identificeer uitdagingen voor gezondheid en zorg en ga na of en hoe AI een bijdrage kan leveren.
- Onderzoek of en hoe AI-toepassingen zorgvuldig kunnen worden gebruikt met het oog op morele waarden zoals welzijn, betekenisvol werk en contact, verantwoordelijkheid, privacy, en autonomie en menswaardigheid.
- Onderzoek of en hoe opschaling van deze toepassingen zorgvuldig kan plaatsvinden met het oog op betekenisvol werk, rechtvaardigheid en duurzaamheid.
- Heb aandacht voor de invloed en rol van grote technologiebedrijven en erken problematische afhankelijkheden van commerciële partijen.
- Betrek belangrijke stakeholders, zoals verschillende zorgverleners en patiënten.
Het rapport Kunstmatige oplossingen? De ethiek van AI voor gezondheid en zorg is gepubliceerd door het Centrum voor Ethiek en Gezondheid, een samenwerkingsverband van de Gezondheidsraad en de Raad voor Volksgezondheid & Samenleving.
