Laten we eerst proberen te definiëren waar we het over hebben. AI staat voor artificiële (kunstmatige ) intelligentie (verstandigheid). In feite is intelligentie een door de veelzijdigheid van het begrip, zeer lastig te definiëren. Het raakt de diepste eigenschappen van de menselijke geest: slim zijn, oplossend vermogen, vernuftigheid, invoelbaarheid, etc.
Helemaal lastig wordt het wanneer we ons realiseren dat we bijvoorbeeld ook kunnen spreken over sociale en emotionele intelligentie. Zelf ben ik van mening dat we bij het gebruik van het begrip AI, het in de kern van de zaak over AL (artificiële logica) hebben. AI (of AL) kan op een aangestuurde manier – op basis van algoritmen – logische verbanden en relaties ontdekken in kolossale hoeveelheden data.
Open source
Een voorbeeld. Alle producten in de schappen van een supermarkt kunnen worden beschouwd als data. De receptuur voor een Indische maaltijd is dan het algoritme. Je kunt ook een algoritme opstellen voor welke producten niet combineerbaar zijn en welke wel. Je wilt immers geen zeep in je eten. Vervolgens kun je een AI (of AL) softwareprogramma opstellen dat op basis van de producten in de schappen en de begrenzende algoritmen, zelf gerechten voorstelt als je daar om vraagt.
Wat betekent dit nu in de praktijk? De waarde van AI (of AL) wordt volledig bepaald door de betrouwbaarheid van de data en de opgestelde algoritmen. Zeker in de medische wereld dienen de databronnen en de toegepaste algoritmen “open source” te zijn. Je wilt niet dat antwoorden heimelijk zijn aangestuurd in een bepaalde richting en gebaseerd zijn op onbetrouwbare data. Helaas is dit nu wel het geval bij vele populaire “social media” applicaties.
Ask Aletta
Een goed voorbeeld van hoe het wel moet is het Nederlandse AI-programma Ask Aletta. Dit is een medische zoekmachine die – in tegenstelling tot ChatGPT – volledig is gebaseerd op geselecteerde en geverifieerde medische literatuur. Ieder antwoord is voorzien van een bronvermelding. Alle klachten en bevindingen van een zieke patiënt zijn in feite data. Een programma als Ask Aletta kan heel behulpzaam zijn bij het opstellen van een differentiaaldiagnose en suggesties doen voor aanvullend onderzoek.
Elicit
Een ander gedegen medisch AI-programma is Elicit. Dit programma is in feite onmisbaar aan het worden voor het analyseren van nieuwe medische literatuur op de juistheid en de betrouwbaarheid. De wereld van de “wetenschappelijke literatuur” staat behoorlijk onder druk. Zo erg zelfs dat deze fraudegevoelig is geworden. Het is voor de gemiddelde redactie van (medisch) wetenschappelijke uitgevers eigenlijk niet goed meer mogelijk om beeldmateriaal, statistieken en literatuurlijsten op juistheid te controleren. Elicit is opgebouwd uit een database van erkende medische literatuur en houdt dat ook bij. Zo kunnen conflicterende gegevens in een publicatie gemakkelijker worden geïdentificeerd.
Social media
Gezondheidszorg omvat ook onze “sociale en mentale gezondheid”. Er is steeds meer aandacht voor de manier waarop AI in de “social media” verslavend en manipulerend kan uitwerken. Zo erg zelfs dat landen zoals Australië het gebruik van social media tot de leeftijd van 16 jaar verbieden of overwegen om dat te doen. Een goed overzicht over de negatieve gevolgen van AI-manipulatie in social media is te vinden in een publicatie van het Rathenau-instituut (4).
Europa heeft zeker een achterstand in de ontwikkeling van AI software ten opzichte van China en de VS. Maar laten we die achterstand gebruiken om onze AI trajecten te baseren op betrouwbare data en het weglaten van manipulerende algoritmen.
Robert W. Kreis
Em. hoogleraar Brandwondenzorg VUmc