TU Delft wordt internationale raadgever op het gebied van AI in de zorg

De gezondheidszorg staat wereldwijd onder druk, en de inzet van AI in de zorg biedt enorme kansen. Maar de integratie en implementatie van AI in de zorg gaat niet zonder slag of stoot. Sterker nog: slechts twee procent van alle AI-innovaties wordt ook echt gebruikt, blijkt uit onderzoek. Innovaties sluiten vaak niet goed aan op de praktijk, zorgpersoneel omarmt ze niet, er ontstaan ethische dilemma’s of AI bevat nog biases die discriminatie kunnen veroorzaken.

Dr Alain Labrique, Director, Department of Digital Health and Innovation bij de World Health Organization (WHO): 'AI heeft de transformerende kracht om de gezondheidszorg een nieuwe vorm te geven en mensen in staat te stellen hun eigen gezondheid te bewaken. Het technische en academische partnerschap met het Digital Ethics Centre van de TU Delft is cruciaal om ervoor te zorgen dat de voordelen van AI iedereen wereldwijd bereiken via ethisch bestuur, rechtvaardige toegang en gezamenlijke actie.'

Bij het gebruik van AI in de zorg is het uiterst belangrijk om zowel ethische principes als zorg-normen en waarden te handhaven. Hiervoor zijn internationale richtlijnen opgesteld, maar deze moeten nog vertaald worden naar de praktijk. Daar gaat het TU Delft Digital Ethics Centre nu bij helpen.

Zorg

Michel van Genderen, internist-intensivist en universitair docent bij het Erasmus MC: 'AI kan de zorg alleen verbeteren als we een goed ethisch fundament hebben. Dat is de basis, dat we dat goed doen. Dankzij de bijzondere samenwerking tussen het WHO, TU Delft en Erasmus MC, en ook het softwarebedrijf SAS, kunnen we AI verantwoord en transparant toepassen in de kliniek. Een voorbeeld is een lopend project binnen het Erasmus MC: waarbij AI helpt bepalen wanneer een patiënt veilig ontslagen kan worden na oncologische chirurgie. Als we voldoen aan alle randvoorwaarden dan kan dit niet alleen zorgen voor een veiliger ontslag van patiënten, maar ook dat ze gemiddeld vier dagen eerder naar huis kunnen en er sprake is van een halvering van heropnames.'

Het TU Delft Digital Ethics Centre is het resultaat van bijna twintig jaar onderzoek naar digitale ethiek en verantwoorde innovatie, het is op dit gebied één van de koplopers in de wereld. Stefan Buijsman, Associate Professor Responsible AI: 'Wij hebben samen met de WHO al kaders opgesteld voor verantwoord gebruik van AI en Generatieve AI in de zorg. Nu benaderen ze ons om dit concreet te gaan maken. Hoe gaat het wél werken in de praktijk? Bij het WHO werd gedacht: als er ergens antwoorden te vinden zijn, dan is het in Delft. De TU Delft, en in het bijzonder hoogleraar Jeroen van den Hoven, werkt al meerdere jaren samen met het WHO op dit onderwerp. Nu krijgen we daar officiële erkenning voor door middel van deze accreditatie.'

Ziekenhuis

Het TU Delft Digital Ethics Centre werkt samen met het Erasmus MC en softwarebedrijf SAS in het AI-ethieklab (REAiHL). Pilots die bedacht worden in Delft, kunnen in de praktijk worden getest. Buijsman: 'Het is belangrijk dat we kunnen zien of wat wij bedenken, ook werkt in de dagelijkse praktijk van het ziekenhuis. Wij kunnen de ethische kaders uitwerken en technologische oplossingen bedenken die erbij passen, in Erasmus MC kunnen ze die valideren en behoeftes uit de praktijk identificeren.' Het AI-ethieklab is ontstaan op initiatief van internist-intensivist Michel van Genderen van het Erasmus MC. Het doel is een generalistisch framework ontwikkelen voor hoe AI ziekenhuis-breed veilig en ethisch toegepast kan worden.

REAiHL

Het Responsible and Ethical AI in Healthcare Lab (REAiHL) is een samenwerking tussen Erasmus MC, TU Delft en softwarebedrijf SAS en heeft de DataHub van het Erasmus MC als standplaats. Hier werken wetenschappers, artsen en datascientists samen aan richtlijnen voor het ontwikkelen en implementeren van ethisch verantwoorde en klinisch relevante AI in de zorg. REAiHL is een ICAI lab (Innovation Center for Artificial Intelligence); een onderzoekssamenwerking tussen industriële, overheids- of non-profit-partners en kennisinstituten.