Kunstmatige intelligentie speelt een steeds grotere rol in het slimmer inrichten van zorgprocessen, administratieverlichting en ondersteuning van zorgprofessionals. De relatie tussen AI-wetgeving en de bestaande en aankomende regulering in de zorg is echter complex. Daarnaast kent AI-gebruik diverse risico’s en ethische vraagstukken. Daarom werkten ActiZ, de Nederlandse ggz, NVZ, UMCNL en VGN met KPMG aan een handreiking voor veilig AI-gebruik.
AI-levenscyclus
Allereerst ontwikkelde KPMG een overzicht van de belangrijkste wet- en regelgeving, juridische eisen en verplichtingen bij inkoop, gebruik en ontwikkeling van AI in de zorg. “De handreiking geeft uitleg over het bepalen van de eisen waaraan een AI-systeem moet voldoen, het inrichten van de organisatie voor verantwoord AI-gebruik en de belangrijkste aandachtspunten bij het inkopen, ontwikkelen, gebruiken en beheren van AI-systemen”, aldus Brancheorganisaties Zorg.
De handreiking is bedoeld voor alle zorgorganisaties, AI-systemen en medewerkers. De tool behandelt de hele AI-levenscyclus, praktijkvoorbeelden, checklists, best practices en de verschillende rollen. “Zodat onder meer beleidsmakers, inkopers en IT-beheerders snel de juiste informatie en hun specifieke verplichtingen in kaart kunnen brengen.”
Afstemmen
UMCNL noemt proportionaliteit een belangrijk uitgangspunt. “Organisaties kunnen de inrichting van AI-governance, besluitvorming en toezicht flexibel afstemmen op hun eigen omvang en de risico’s van hun AI-toepassingen.
