Beeld: Canva
“Als je als zorgverlener patiëntgegevens invoert in AI-tools, zoals ChatGPT, doorbreek je in feite het beroepsgeheim”, zegt Jessica Workum, AI-specialist in het Elisabeth-TweeSteden Ziekenhuis en mede-ontwikkelaar van de chatbot. “Ook als je instelt dat ChatGPT de data niet mag gebruiken om het taalmodel verder op te trainen, breng je alsnog gevoelige gegevens naar het bedrijf OpenAI.” Daarom staat ook in de handreiking van de Federatie Medisch Specialisten (waar Workum zelf aan mee schreef) dat openbare AI-chatbots niet gebruikt mogen worden in de directe patiëntenzorg.
Data blijven binnenboord
Dat probleem lost het ziekenhuis op met ChatETZ, dat gebruik maakt van het onderliggende taalmodelGPT-4o mini van OpenAI. Workum: “Maar alle gegevens blijven binnen onze eigen digitale infrastructuur.” Daar komt nog bij dat openbare chatbots vaak weinig of niets doen om te voorkomen dat ze voor medische beslissingsondersteuning worden gebruikt. “Dat mag niet, want dan val je onder de MDR (Medical Device Regulation, red.). Maar de chatbots doen er niks tegen. Dat is bij ChatETZ anders, dat hebben we zo ontwikkeld dat medische vragen worden geblokkeerd.” Ook krijgen gebruikers een verplichte instructie met acceptatie van gebruikersvoorwaarden waarin staat hoe ChatETZ wel en niet gebruikt mag worden.
Administratieve hulp
De tool is dan ook alleen bedoeld voor ondersteuning bij administratieve handelingen. “Ik heb bijvoorbeeld wel eens een patiënt uit het buitenland gehad, met een gebrekkige medicatielijst in het Duits. Ik kon er wel uitkomen, maar dat kostte veel tijd. Om dat allemaal te ontcijferen en op een rijtje te zetten, had ik ChatETZ goed kunnen gebruiken.” Het ziekenhuis heeft vooralsnog geen plannen om de chatbot voor andere instellingen beschikbaar te stellen.
Tijdens de Masterclass AI in de zorg op dinsdag 18 november biedt Skipr u de rust en het overzicht die u nodig heeft. Leer van AI-experts hoe u in de zorg veilig en efficiënt gebruik maakt van de laatste ontwikkelingen op het gebied van AI. Ontdek:
– Wat de actuele AI-trends en tools zijn;
– Hoe u een sterke strategie neerzet op het gebied van AI;
– Welke risico’s en kansen AI biedt voor uw zorgorganisatie;
– Hoe u veilig, verantwoord én effectief omgaat met AI in uw zorgorganisatie.
