Dat AI de potentie heeft om zorgorganisaties een stuk effectiever te maken, daarover bestond geen twijfel bij de deelnemers aan de Masterclass Artificial Intelligence in de zorg, van afgelopen 18 november in Utrecht. Technisch gezien is er in ieder geval heel veel mogelijk, bevestigden ook de experts tijdens de paneldiscussie. In de zorg wordt AI nu al ingezet voor o.a. medische diagnostiek, capaciteitsplanning, verslaglegging en patiëntinformatie, en die ontwikkeling is nog maar net begonnen. Sommige beleidsmakers denken zelfs dat AI de levenslijn is voor een zorgsector die in toenemende mate onder druk staat.
Dataveiligheid
De technologie is, kortom, het probleem niet. Het probleem is de praktijk. Maar liefst 85 procent van de opgestarte AI-projecten blijft in de ontwikkelfase hangen. Implementatie is in veel gevallen lastiger dan men van tevoren denkt, vaak omdat de technologische oplossing moeilijk ‘schaalbaar’ blijkt te zijn. Bovendien heeft een sector als de zorg te maken met uitgebreide wet- en regelgeving over dataveiligheid, met name de veiligheid van patiëntgegevens. Daardoor zijn de beslissers vaak terughoudend met het inzetten van bepaalde AI-toepassingen, zo bleek uit de discussie. “AI in de zorg gaat veel over wat er wel en wat er niet mag,” aldus Lucas Berndsen, ‘AI Product lead van Private cloud-aanbieder Uniserver “We voeren niet alleen een technologisch maar ook een maatschappelijk debat.”
Natuurlijk zijn er nog veel meer kwesties waar de zorg bij de implementatie van AI tegenaan loopt. Wie beheert de systemen? Wie traint de medewerkers die met de AI-toepassingen moeten omgaan? Hoe zorg je ervoor dat een en ander ‘uitlegbaar’ is aan personeel en patiënt? Door al die vragen en obstakels kan het hele proces vertraging oplopen, aldus het panel. En dat kan er weer toe leiden dat zorgprofessionals op eigen houtje bepaalde AI-toepassingen gaan gebruiken, zoals ze misschien ook in hun privéleven doen, waardoor er een soort ‘schaduw-AI’ ontstaat binnen een instelling. “Het is heel moeilijk te controleren hoe medewerkers precies met bepaalde gegevens omgaan,” zei Berndsen. “Bovendien sluipt AI bijna ongemerkt ons dagelijks leven binnen. Er zitten bijvoorbeeld al verschillende AI-toepassingen in de producten van Microsoft, waar heel veel instellingen gewoon mee werken.”
Slimme oplossingen
De experts op het podium waren zich er van bewust dat ‘veiligheid’ met stip het belangrijkste vraagteken is bij technologische innovatie in de zorg. Mede daarom benadrukte Berndsen het belang van ‘data-bewustzijn’: AI-implementatie begint ermee dat je als instelling weet welke data je in huis hebt, waar het is opgeslagen en welk deel daarvan je eventueel wilt of kunt gebruiken voor AI-toepassingen. Want data, we kunnen er niet omheen, is de levensader van AI: zonder goede data geen slimme oplossingen. En dat stelt de zorg natuurlijk voor dilemma’s: niemand wil de AI-boot missen, maar hoe bewaak je tegelijkertijd de vertrouwelijkheid van je gegevens?
Uniserver kan in dat opzicht een oplossing bieden, zei Berndsen na afloop van de plenaire discussie. Als de Nederlandse marktleider op het gebied van private en soevereine cloud heeft Uniserver veel klanten in de zorg. De data van deze instellingen worden – anders dan bij aanbieders als Microsoft of Google – uitsluitend bewaard op Nederlandse servers, die beschermd worden door Nederlands en EU-recht. Bovendien heeft Uniserver met Fuse AI (waar Berndsen zelf leiding aan geeft) een eigen ‘private AI-tool’ ontwikkeld, waarmee zorgorganisaties op een veilige manier AI-toepassingen kunnen gebruiken. Onlangs nog introduceerde Fuse AI bijvoorbeeld een nieuwe transcriptie-functionaliteit, waarmee bedrijven en andere instellingen vertrouwelijke gesprekken efficiënt kunnen vastleggen, transcriberen, samenvatten, structureren en voorzien van opvolgtaken. Fuse AI biedt organisaties in wezen een eigen AI-interface voor hun interne datasets, gehost op Uniservers soevereine private cloud-platform. Deze data blijven volledig in handen van de organisatie, en worden niet gebruikt om AI-modellen te trainen.
Efficiëntieslag
Desondanks signaleert Berndsen nog steeds twijfel in de zorgsector. “Spraakgestuurd rapporteren is één van de meest gebruikte AI-toepassingen in de zorg, maar je ziet nog best vaak dat instellingen er toch van afzien, omdat men denkt dat de vertrouwelijkheid in het geding komt. En dat is zonde, want je kunt er een enorme efficiëntieslag mee maken.”
Een van de bijkomende problemen is dat met name veel grotere zorginstellingen nog steeds grote IT-afdelingen hebben, die veel zelf willen doen maar uiteindelijk niet de specialistische kennis in huis hebben voor de effectieve implementatie van AI. “Ik snap dat veel van die organisaties graag hun eigen toepassingen ontwikkelen en hun eigen data bewaren,” zegt Berndsen. “Maar daardoor ben je vaak langer bezig, terwijl andere partijen die producten en diensten gewoon in huis hebben. Ik voorzie dat zorgorganisaties op dat gebied steeds meer een regiefunctie krijgen. Zij bepalen welke tools ze willen hebben en welke gegevens ze daarvoor willen gebruiken, maar de uitvoering laten ze over aan gespecialiseerde partijen als wij. Bovendien staan de data bij ons in de private cloud veiliger dan op de eigen server.”
Langdurige relatie
Fuse AI biedt de zorg een veilig, privacy-compliant alternatief voor de implementatie van AI, denkt Berndsen. Niet alleen omdat de data in Nederland blijven, maar ook bijvoorbeeld omdat het bedrijf 24/7 bereikbaar is, in het Nederlands, en altijd de intentie heeft om een langdurige relatie aan te gaan met de klant. Berndsen: “Je kunt klanten niet zomaar een AI-tool geven en zeggen: succes ermee. Je moet ze meenemen voor een effectieve toepassing, want je merkt vaak dat ze anders gewoon stoppen als ze één of twee keer tegen een probleem aanlopen. Als wij actief meedenken en meelopen is de adoptie en het vertrouwen uiteindelijk hoger.”
Natuurlijk is duidelijke commitment van de zorgorganisatie zelf natuurlijk van enorme meerwaarde, zegt Berndsen. Als een eerste stap kan een instelling bijvoorbeeld één of twee mensen verantwoordelijk maken voor het hele AI-proces, en/of een AI-werkgroep samenstellen, die samen met Uniserver gaat onderzoeken welke vormen van AI interessant kunnen zijn. Dat kan uiteindelijk weer leiden tot een pilotproject, zodat je een solide business case kunt maken. Is een efficiëntieslag van, zeg, 50 procent de investering waard? En wat levert, los van tijd- of geldbesparing, een bepaalde AI-tool op aan werkplezier en patiëntgemak? Al die criteria tellen mee voor een weloverwogen beslissing, aldus Berndsen, dus het is belangrijk om die van tevoren zorgvuldig op te stellen.
Beleid ontwikkelen
Eén ding is zeker: niets doen is geen optie. AI zal steeds meer onderdeel worden van het dagelijks leven, dus ook zorginstellingen zullen hier een beleid voor moeten ontwikkelen. Al was het maar om te voorkomen dat zorgprofessionals bij gebrek aan AI-ondersteuning allerlei vertrouwelijke gegevens voor het gemak toch maar in de eerste de beste LLM gooien. “Je moet je medewerkers natuurlijk trainen in wat ze wel en niet kunnen delen in een bepaald systeem,” zegt Berndsen. “Maar het is bijna niet te voorkomen dat iemand een keer een fout maakt. Dan heb je liever dat ze in een gecontroleerde omgeving werken, met een private AI-tool als Fuse AI, dan met bijvoorbeeld een gratis versie van ChatGPT.”
