Tech

Het verantwoordelijkheidsgevoel van algoritmes

Ik begrijp de aarzeling van artsen om met nieuwe technologie aan de slag te gaan. De verantwoordelijkheid is enorm. Tegelijkertijd is hierop wachten niet meer van deze tijd.

Tech-bedrijven komen geregeld in het nieuws met innovaties waarmee zij beweren betere resultaten te leveren dan artsen van vlees en bloed. En, tegen lagere kosten, wat met de oplopende zorgkosten een belangrijk argument is. Het valt mij op dat diezelfde tech-bedrijven hun producten vervolgens (meestal) specifiek aanprijzen als beslissingsondersteuning voor artsen; de computer helpt de mens. Dat komt op mij over als een gemiste kans, aangezien je net groots hebt aangetoond dat een algoritme beter en sneller beslissingen neemt dan een arts. Waarom zien de makers dan 'slechts' een bijrol voor hun algoritme?

Verantwoordelijkheid

Eerst dacht ik dat deze bijrol vooral nodig was om de introductie van de technologie in de medische context mogelijk te maken. Als de technologie eenmaal 'binnen' is, dan komt vanzelf de stap naar autonome beslissing, waarbij de dokter niet meer nodig is. Vanuit het perspectief van de arts is dit dus een Trojaans paard. Maar deze gedachte is, naast cynisch, misschien wel verkeerd. Het venijn zit hem hierbij in de verantwoordelijkheid die de arts heeft.

Een arts heeft een enorme verantwoordelijkheid over zijn of haar patiënten. Hij of zij neemt medische beslissingen en is persoonlijk aansprakelijk voor deze beslissingen. In Nederland hebben we instanties, zoals het medisch tuchtcollege, die de patiënt beschermen tegen ondeskundig en onzorgvuldig handelen van artsen en andere zorgverleners. Het is precies die verantwoordelijkheid waar technologie bedrijven misschien wel beducht voor zijn.

Software als medicijn

Er lijken een aantal routes voor technologiebedrijven om hier mee om te gaan. De eerste optie is om algoritmes of software als een 'medicijn' op de markt te brengen. Dit betekent dat deze software door het hele medische validatie proces gaat, inclusief de clinical trials. Deze route is vooral mogelijk voor zeer specifieke toepassingen, bijvoorbeeld het herkennen van een specifieke tumor via een CT scan. Dit is een tijdrovend en kostbaar proces.

Op dit moment zijn, van oudsher,  farmaceutische bedrijven goed in staat om nieuwe (digitale) geneesmiddelen via deze weg te introduceren. Zij hebben hiervoor de noodzakelijke infrastructuur staan, die bijvoorbeeld ook wordt gebruikt bij de introductie van nieuwe geneesmiddelen. Daarnaast druist het langzame proces van introductie in de praktijk in tegen de 'agile' gedachte van softwareontwikkeling. Hierbij wordt juist niet een volledig getest en (medisch) gevalideerd product gemaakt. Maar juist een product dat in eerste instantie nog weinig eindwaarde heeft, zodat dit vervolgens samen met de eindgebruikers in hele korte update cycli verbetert kan worden.

Gebruiker

Een andere route naar implementatie van artificial intelligence is wanneer de verantwoordelijkheid voor medische algoritmen opschuift. Op dit moment is of de arts, of de patiënt verantwoordelijk bij het gebruik van nieuwe technologie. Vergelijk het met navigatie software die bij het opstarten actief aangeeft dat de gebruiker zelf ook moet opletten op de weg - dat klinkt logisch, maar legt de eindverantwoordelijkheid bij de gebruiker. Bij wie ligt de verantwoordelijkheid als de navigatie apparatuur je een kapotte brug opstuurt. Wat gebeurt er als een dokter op afstand (dr. Google) het bij het verkeerde eind heeft?

Ik begrijp de aarzeling van artsen om met nieuwe technologie aan de slag te gaan. De verantwoordelijkheid is enorm. En tegelijkertijd is hierop wachten niet meer van deze tijd - we missen als maatschappij enorme kansen. Zowel op korte termijn, maar ook voor het duurzaam transformeren naar 'de juiste zorg op de juiste plek'. Wetgevers kunnen helpen in dit proces door opnieuw naar kaders, rollen en verantwoordelijkheid te kijken. Recentelijk is hier vanuit de RvS ook een rapport over verschenen dat onder andere hier aanbevelingen voor doet. Een AI met verantwoordelijkheidsgevoel zal noodzakelijk zijn om zowel patiënten als zorgaanbieders vertrouwen te geven in de technologie. Dit proces zal waarschijnlijk trager zijn, dan de wervelende berichten in de media soms doen denken.

Wiet de Ronde

Manager Zorg Analyse Team Menzis

Wiet de Ronde_311

---

Skipr en de Dutch Delegation - VMBI en Nictiz - brengen de nieuwe inzichten die ze van 10 tot en met 15 februari opdoen tijdens de HIMSS19 in Orlando, Florida naar Nederland. Op woensdagmiddag 13 maart kunt u in de Utrechtse Jaarbeurs deelnemen aan Health Tech Highlights.

0 Reacties

om een reactie achter te laten
Top