“Taalmodellen zijn erg goed in lezen en schrijven voor jou, maar er zit natuurlijk ook informatie in zo’n groot taalmodel”, legt ze uit. Dat zet de deur open voor fouten en manipulatie waar gebruikers zich bewust van moeten zijn, bepleit de promovenda.
Binnen een specifieke context, bijvoorbeeld door een taalmodel een samenvatting te laten maken, is het risico op bewuste of onbewuste manipulatie kleiner. “Veel kleiner, niet nul”, zegt Workum. “Maar op het moment dat ik een vraag stel aan het grote taalmodel, is het risico hoger.” Zorgorganisaties moeten dus heel goed weten hoe ze een taalmodel moeten inzetten, zegt de AI-specialist, die promoveert op verantwoorde implementatie van AI in de zorg. Ze roept daarnaast op om goede, verantwoorde modellen te ontwikkelen. “Laten we alsjeblieft zo neutraal mogelijke taalmodellen maken.”
