BLOG I There’s a new sheriff in town: Richtlijnen en kwaliteitsnormen voor AI-ontwikkeling
12 januari, 2022
Lange tijd werd de Artificial Intelligence (AI) sector beschreven als ‘het Wilde Westen’. Er waren weinig tot geen richtlijnen voor het ontwikkelen van een AI-model. Een gebrek aan richtlijnen kan het vertrouwen in de technologie beschadigen en de implementatie belemmeren. De medische AI-toepassingen bleven dan ook achter en dat is jammer, aangezien AI veel potentie heeft om de zorg te verbeteren. Zo kan AI ingezet worden om klinische beslissingen te ondersteunen of om de zorgmedewerker te ontlasten door te helpen bij de administratie. Met de ingang van nieuwe wet- en regelgeving en een veelvoud aan (in)formele richtlijnen is er een nieuw tijdperk aangebroken voor de medische AI-regulatie. Ook komt de AI-ontwikkeling voor de medische sector op gang. Maar hoe baan je je een pad door deze nieuwe wet- en regelgeving? En waar let je op bij het aankopen van een AI-product? Er is een stijgende vraag naar concrete handvatten voor de ontwikkeling en implementatie van AI voor de klinische praktijk. In ons recent verschenen artikel ‘Guidelines and quality criteria for artificial intelligence-based prediction models in healthcare: a scoping review’ geven wij een overzicht en samenvatting van reeds gepubliceerde richtlijnen.
Doelgroep van de scoping review
De scoping review is bedoeld als naslagwerk voor iedereen die betrokken is bij het ontwikkelen, evalueren en implementeren van AI. Dit kan bijvoorbeeld een AI-ontwikkelaar zijn, maar ook een clinicus die een product wil inkopen en de kwaliteit wil toetsen. Voor de scoping review hebben wij de belangrijkste richtlijnen en kwaliteitsnormen uit de wetenschap, de industrie en het openbaar bestuur op een rij gezet. Deze richtlijnen zijn samengevat aan de hand van de AI-ontwikkel cyclus, wat het gebruik in de praktijk bevordert.
Richtlijnen voor de AI-ontwikkel cyclus
De AI-ontwikkel cyclus bestaat uit 6 fases: data preparatie, ontwikkeling, validatie, softwareontwikkeling, impact assessment, en implementatie in de dagelijkse medische praktijk. In de eerste drie fases besteden we aandacht aan de stappen die nodig zijn om tot een werkend AI-model te komen. Thema’s die onder andere naar voren komen in de literatuur is hoe representatief je data is en hoe een AI-model extern gevalideerd moet worden. De latere drie fases hebben betrekking op het naar de kliniek brengen van een AI-toepassing. Hier wordt bijvoorbeeld stilgestaan bij het onderzoeken en verfijnen van de mens-machine interactie en het monitoren van een AI-toepassing in de klinische praktijk. Ook worden er overkoepelende thema’s geïdentificeerd die in meerdere fases aan bod komen. Een voorbeeld van zo’n overkoepelend thema is ‘AI-bias’. We zeggen dat een AI ‘gebiased’ is als het een bepaalde subgroep onterecht benadeelt zonder dat hier een medische verantwoording voor is. AI-bias is een belangrijk onderwerp tijdens data preparatie (representatie van kwetsbare groepen in de data), model evaluatie (evaluatie van AI-voorspellingen in kwetsbare groepen), en het monitoren van de AI in de klinische praktijk.
Hiaten in huidige richtlijnen
Uit de scoping review blijkt dat een aantal onderwerpen onderbelicht zijn in de literatuur. Zo zijn er onder andere weinig tot geen handvatten voor het combineren van verschillende data modaliteiten voor AI-ontwikkeling (bijvoorbeeld een röntgenfoto, een lab uitslag, en een huisartsenbrief). Ook weten we nog te weinig over de gevolgen van en het omgaan met dataset shift (een verandering in de data over de tijd door bijvoorbeeld een verandering in een klinisch proces). In de komende jaren zullen steeds meer AI-toepassingen in de kliniek geïmplementeerd worden. Deze praktijkervaring kan ons helpen invulling te geven aan deze lacunes.
Leidraad kwaliteit AI in de zorg
De tijd van het Wilde Westen ligt achter ons. Desalniettemin is het, met de groeiende interesse in medische AI, erg belangrijk dat het overzicht uit de scoping review niet in de bureaulade van de cowboy verdwijnt. Zodoende is er vanaf het begin van dit project een nauwe samenwerking opgezet met de Leidraad kwaliteit AI in de zorg . De bevindingen van de scoping review zijn verwerkt in deze leidraad zodat deze snel hun doorgang vinden naar de klinische praktijk. AI-ontwikkelaars, onderzoekers en enthousiastelingen worden aangeraden deze leidraad te raadplegen en de scoping review als naslagwerk te gebruiken. Zo kunnen wij uitkijken naar een innoverende tijd met veilige en verantwoorde AI-implementatie.
Auteur: Anne de Hond