Dossier / bijgewerkt: 9 april 2026
Artificiële intelligentie (AI) biedt mogelijkheden voor de zorg. Denk aan ondersteuning bij administratieve taken, hulp voor patiënten bij zelfmanagement, versnelling van onderzoek, of toepassingen in de dagelijkse praktijk. Tegelijk is nog veel in ontwikkeling en wordt onderzocht hoe AI veilig en verantwoord kan worden ingezet.
Overweeg je AI te gebruiken in je werk? Dan is het belangrijk om stil te staan bij de impact op jouw handelen als arts. Hoewel AI jou mogelijk kan ondersteunen, blijven je bestaande verantwoordelijkheden, ook ten aanzien van je patiënt, onveranderd.
Daarnaast heb je, wanneer je AI wil gebruiken, te maken met specifieke wet- en regelgeving. Zo stelt de Europese AI-verordening (AI Act) eisen afhankelijk van het risico van een toepassing. De Medical Device Regulation (MDR) geldt wanneer AI als medisch hulpmiddel wordt ingezet en stelt eisen aan veiligheid en kwaliteit. En de Algemene Verordening Gegevensbescherming (AVG) vraagt om zorgvuldige omgang met persoonsgegevens. Ook bij het gebruik van data en content spelen rechten, zoals auteursrecht, een rol.
EU AI-verordening (AI-Act)
De Europese AI-verordening (AI Act) deelt AI-toepassingen in op basis van het risico dat ze kunnen opleveren. Hoe hoger het risico, hoe strenger de regels waaraan de toepassing moet voldoen. Afhankelijk van de categorie waarin een AI-toepassing valt, gelden dus meer of minder uitgebreide verplichtingen. De AI Act onderscheidt daarbij verschillende risicocategorieën:
Onaanvaardbaar risico: dit zijn AI-applicaties die door de AI-Act verboden zijn, omdat ze door toepassing fundamentele rechten schenden.
Hoog risico: in de zorg betreft dit AI-applicaties die essentieel zijn voor het functioneren van de gezondheidszorg, waarbij uitval of onjuist functioneren direct levensbedreigende gevolgen kan hebben. Aan deze AI-applicaties worden strenge eisen gesteld omdat ze gebruikt worden in een in kritieke infrastructuur. Eisen die de AI Act stelt aan hoog risicoapplicaties zijn: risicobeheersing, hoge datakwaliteit, technische documentatie, logboekregistratie, transparantie naar gebruikers, menselijk toezicht, cyberbeveiliging en verplichte certificering in de vorm van een conformiteitsbeoordeling (CE-markering).
Beperkt risico: voor AI-applicaties die niet onder de bovenstaande risicocategorieën vallen, geldt de eis van transparantie. Bij het gebruik van AI, zoals chatbots en toepassingen die tekst, audio, afbeeldingen of video genereren, moeten gebruikers weten dat zij met AI communiceren of gebruikmaken van door AI gegenereerde inhoud.
Medical Device Regulation (MDR)
De Medical Device Regulation (MDR) is van toepassing wanneer een AI-applicatie kwalificeert als medisch hulpmiddel. Daarvan is sprake als de toepassing is bedoeld voor medische doeleinden, zoals diagnose, monitoring of behandeling. De MDR stelt eisen aan de veiligheid, kwaliteit en prestaties van deze toepassingen. Fabrikanten moeten onder meer een risicomanagement- en kwaliteitsmanagementsysteem inrichten en, afhankelijk van de risicoklasse, een conformiteitsbeoordeling doorlopen.
Algemene Verordening Gegevensbescherming (AVG)
AI-applicaties die persoonsgegevens verwerken moeten voldoen aan de privacy vereisten die de AVG stelt. Zo moet voor elke verwerking van persoonsgegevens door AI een grondslag bestaan. De persoonsgegevens mogen alleen worden gebruikt voor het specifieke, vooraf vastgestelde doel (doelbinding) en alleen die gegevens die absoluut noodzakelijk zijn voor het functioneren van de AI mogen worden verwerkt (dataminimalisatie).
Bij de inzet van een AI-systeem met een hoog risico is een Data Protection Impact Assessment (DPIA) verplicht om privacyrisico’s in kaart te brengen. Daarnaast moet menselijk toezicht zijn ingericht om onbedoelde gevolgen te voorkomen, en is de verwerkingsverantwoordelijke aansprakelijk bij datalekken of onrechtmatige verwerking.
Intellectueel eigendom, auteursrecht en naburige rechten
AI mag geen inbreuk maken op rechten zoals octrooien, merken, modellen en het auteursrecht, die wettelijk geregeld zijn internationale verdragen, Europese richtlijnen en specifieke Nederlandse wetten. Daarnaast mag AI ook geen inbreuk maken op zogenaamde naburige rechten: dit betreft een specifieke vorm van Intellectueel eigendom die de uitvoering of productie van een werk beschermen (bijv. muzikanten, producenten) in plaats van de oorspronkelijke maker.
Het is mogelijk om met een AI-toepassing automatisch patiëntgesprekken1 te transcriberen, samen te vatten, of om te zetten in een verslag. Waar moet ik aan denken als ik deze toepassing zou willen inzetten in mijn praktijk?
Het gebruik van AI-gedreven toepassingen voor het automatisch genereren van verslaglegging heeft mogelijk voordelen voor jouw praktijk. Het zou kunnen dat het je tijd bespaart, of dat het verslag vollediger of overzichtelijker wordt. Dit kan voordelen hebben voor de zorgverlening. Hoewel AI je mogelijk in je werk zou kunnen ondersteunen, blijft de verantwoordelijkheid voor zorgvuldige verslaglegging bij jou als zorgverlener. Daarom zijn er wel een aantal dingen om alert op te zijn als je gebruik wil maken van dit soort toepassingen in de praktijk.
Wet- en regelgeving
De wet- en regelgeving rondom het gebruik van digitale toepassingen, waaronder het gebruik van AI, is continu in ontwikkeling. Regels voor het gebruik van AI-gedreven toepassingen kunnen dus veranderen. Het kan zijn dat je bij een zorginstelling werkzaam bent waarbij interne richtlijnen bestaan over het gebruik van AI-gedreven toepassingen. Het is raadzaam om altijd te informeren naar het actuele beleid dat geldt binnen jouw zorginstelling. Zijn zulke afspraken bij jou niet bekend, of zijn deze binnen jouw organisatie nog niet opgesteld, dan is het zinvol om hiernaar te vragen. Ook hier geldt dat jij als zorgverlener, ondanks eventuele bestaande lokale richtlijnen, je eigen verantwoordelijkheid blijft houden ten aanzien van de uitoefening van je beroep.
Voor het gebruik van AI is bovendien specifieke regelgeving van kracht zoals opgenomen in de AI-Verordening (de Europese AI-Act), de Medical Device Regulation (MDR) en de Algemene Verordening Gegevensbescherming (AVG). Meer informatie hierover is te vinden in het KNMG-dossier Artificial Intelligence (AI).
Beroepsgeheim
Bestaande regels blijven gelden
Gebruik je als zorgverlener een AI-toepassing die gesprekken met patiënten registreert? Wees dan alert op je verantwoordelijkheid om het beroepsgeheim te waarborgen, met name de bescherming van patiëntgegevens. Gebruik geen AI-toepassing die het beroepsgeheim, de patiëntveiligheid of de privacy niet waarborgt. Zorg dat je weet hoe de toepassing werkt.
AI-toepassingen kunnen op verschillende manieren gegevens verzamelen, opslaan, en verwerken. Deze verschillen bepalen in hoeverre de privacy van de patiënt gewaarborgd kan worden. Sommige toepassingen vereisen bijvoorbeeld een actieve handeling waarmee je in- of uitschakelt dat patiëntgegevens worden gebruikt om het AI-model te trainen. Andere toepassingen vragen weer om een handeling om opnamemateriaal te bewaren of te verwijderen. Als zorgverlener is het jouw verantwoordelijkheid om te begrijpen hoe een AI-toepassing met patiëntgegevens omgaat en welke gevolgen dit heeft voor je beroepsuitoefening, waaronder het waarborgen van het beroepsgeheim en de vertrouwensrelatie met de patiënt, voordat je besluit deze al dan niet in te zetten.
Gebruik van opnames
Als een AI-toepassing een geluidsopname maakt van een gesprek tussen jou en de patiënt is er volgens de AVG sprake van het verwerken van extra beschermde, privacygevoelige gegevens, waarvoor de toestemming van de patiënt vereist is. Wanneer een gesprek wordt opgenomen, verzeker je er dan van dat de opname niet extern wordt opgeslagen en vernietig de opname zodra een transcript, verslag, of andere vorm van schriftelijke notitie is gemaakt. Het bewaren van de opname dient namelijk geen doel, en zou kunnen leiden tot privacy problemen.
Zorgvuldigheid
Noteer alleen het noodzakelijke
Een verslag en patiëntendossier dient ter waarborging van een goede uitvoering en continuïteit van zorg. Een overzichtelijk verslag is daarbij essentieel. Zowel voor de zorg die je zelf verleent, als voor jouw collega die bij eventuele overdracht het verslag zal lezen. Neem daarom in het verslag, en daarmee in het patiëntendossier, uitsluitend informatie op die noodzakelijk is voor het verlenen van goede zorg. Ook als je gebruik maakt van AI voor verslaglegging en dossiervorming.
Vul aan wanneer nodig
Wanneer een AI-toepassing een verslag maakt op basis van een gesprek tussen jou en de patiënt, zal de toepassing dit gesprek transcriberen en/of samenvatten op basis van dat wat er wordt uitgesproken. Non-verbale signalen zullen niet automatisch worden meegenomen. Als het noodzakelijk is dat zaken die non-verbaal zijn geuit in het verslag en daarmee in het patiëntendossier staan, vul het verslag dan zelf aan.
Controleer het verslag
Een verslag dat automatisch gegenereerd wordt kan fouten bevatten. Dit kunnen bijvoorbeeld fouten zijn waarbij feitelijke informatie onjuist is, zoals numerieke waarden die niet kloppen. Ook kunnen het fouten zijn waarbij interpretatie van wat jij of je patiënt heeft gezegd onjuist is. Of dat er op onjuiste wijze onderscheid is gemaakt tussen wie wat heeft gezegd. Als er fouten in het verslag staan, verbeter die dan.
Verslaglegging heeft een functie
Het zelf maken van een verslag en het opstellen van een dossier kan, naast het genereren van de tekst zelf, ook andere functies hebben. Het kan bijvoorbeeld een goede manier zijn om voor jezelf informatie te verwerken, wat van belang kan zijn voor een goede beroepsuitoefening. Het is van belang om hiervan bewust te zijn en bij jezelf na te gaan in welke mate dit voor jou geldt, en wat de consequentie is van het wegvallen van deze administratieve taak op jouw werk en zorgverlening.
Initiatief van de patiënt
Het kan ook voorkomen dat een patiënt zelf het gesprek wil opnemen of zelf met een AI-gedreven toepassing het gesprek wil transcriberen en/of samenvatten. Over het opnemen van gesprekken bestaat de KNMG richtlijn ‘Opnemen van gesprekken’.
Ethische Toolkit
Het gebruik van digitale technologieën kan vragen oproepen in de praktijk. Dit kunnen ook ethische vragen zijn. Voor dit soort vragen kun je gebruikmaken van de Ethische Toolkit van de KNMG: een online naslagwerk over medische ethiek.
1 Waar het woord ‘patiënten’ staat, kan ook ‘clienten’ worden gelezen
Steeds vaker zie ik dat collega-artsen de AI-chatbot ChatGPT inzetten om hen te assisteren bij administratieve taken. Zo gebruiken zij volgens mij ChatGPT om dossiers samen te vatten, om medische informatie beter leesbaar te maken voor patiënten, en om ontslagbrieven op te stellen. Mag ik – arts werkzaam in een zorginstelling - ChatGPT ook gebruiken ter ondersteuning van mijn administratieve taken? En waar moet ik dan allemaal rekening mee houden?
Of je als arts ChatGPT in je werk mag gebruiken is in eerste plaats afhankelijk van de regels en richtlijnen die jouw zorginstelling daarvoor hanteert. ChatGPT kan artsen in bepaalde gevallen administratieve ondersteuning bieden. Wel is grote voorzichtigheid geboden. De uiteindelijke verantwoordelijkheid voor zowel het gebruik van ChatGPT, evenals de gevolgen daarvan, liggen bij de gebruiker, dus bij jou.
Naast ChatGPT wordt er ook vaker gebruik gemaakt van het taalmodel achter ChatGPT, applicaties die lijken op ChatGPT, en toepassingen die draaien op een gesloten cloud-omgeving. De in dit praktijkdilemma genoemde aandachtspunten zijn specifiek toegespitst op het gebruik van ChatGPT door artsen en vormen geen uitputtende lijst.
Let in ieder geval op het volgende:
Beleid en richtlijnen
Volg lokaal beleid en richtlijnen
Het is belangrijk om duidelijke afspraken te maken over de inzet van ChatGPT en andere AI-chatbots. Sommige ziekenhuizen en praktijken hebben dat al gedaan, bijvoorbeeld in de vorm van interne richtlijnen voor het verantwoord gebruiken van ChatGPT of generatieve AI. Deze beschrijven bijvoorbeeld voor welke soort taken je ChatGPT wel en niet mag gebruiken en waar je dan op moet letten. Bijvoorbeeld wel voor het samenvatten van een algemene patiëntenfolder in eenvoudige taal maar niet voor het samenvatten van patiëntenbrieven. Veelal zijn die richtlijnen gebaseerd op bestaand gegevensbeschermings- en informatiebeveiligingsbeleid. Zijn zulke afspraken jou niet bekend, of zijn deze binnen jouw organisatie nog niet opgesteld, vraag er dan om.
De wet- en regelgeving omtrent AI is aldoor in ontwikkeling, waardoor regels omtrent het gebruik van AI in de zorg door de tijd heen kunnen veranderen. Volg dus altijd het actuele beleid dat geldt binnen jouw zorginstelling.
Beroepsgeheim
Deel nooit persoonsgegevens of bedrijfsgevoelige informatie met ChatGPT.
OpenAI, het bedrijf achter ChatGPT, slaat veel gegevens op, inclusief gestelde vragen en verkregen antwoorden. OpenAI gebruikt die gegevens bijvoorbeeld om hun taalmodel te trainen. Hoewel je kunt aangeven dat jouw gegevens daar niet voor gebruikt mogen worden, sluit dit niet uit dat er gegevens op verkeerde plekken terecht kunnen komen. Daardoor kun je niet alleen een datalek veroorzaken, maar ook het beroepsgeheim schenden dat je jegens je patiënten hebt. Op dit moment is nog veel onbekend over de privacyrisico’s van ChatGPT. Deel daarom nooit gevoelige persoonsgegevens, en ook geen bedrijfsgevoelige gegevens (zoals financiële gegevens).
Tekortkomingen technologie
Wees je bewust van de tekortkomingen van ChatGPT en controleer je werk.
ChatGPT maakt fouten. Je moet output daarom zorgvuldig beoordelen en controleren. Het is als arts belangrijk om je bewust te zijn van de beperkingen en nadelen van chatbots zoals ChatGPT:
Verantwoordelijkheid
Jij blijft verantwoordelijk
Artsen zijn, en blijven, verantwoordelijk in geval van een fout die voortkomt uit het gebruik van ChatGPT. De arts houdt uiteraard ook eindverantwoordelijkheid voor de behandeling. Daarbij is het belangrijk om het vertrouwen tussen arts en patiënt te borgen. Het is belangrijk om door ChatGPT gegenereerde uitkomsten goed te controleren en om transparant te zijn over het feit dat je AI hebt gebruikt.
Milieu-impact
Wees je bewust van de milieu-impact van het gebruik van ChatGPT
Hoewel ChatGPT een handig hulpmiddel kan zijn vergt het gebruik ervan vele malen meer stroom dan een vraag aan bijvoorbeeld Google Search. Het is daarom belangrijk om goed af te wegen of het gebruik van ChatGPT daadwerkelijk meerwaarde heeft voor de ondersteuning van administratieve taken, of dat een meer energiezuinige zoekmachine of oplossing wellicht ook volstaat.