Het is mogelijk om met een AI-toepassing automatisch patiëntgesprekken1 te transcriberen, samen te vatten, of om te zetten in een verslag. Waar moet ik aan denken als ik deze toepassing zou willen inzetten in mijn praktijk?
Het gebruik van AI-gedreven toepassingen voor het automatisch genereren van verslaglegging heeft mogelijk voordelen voor jouw praktijk. Het zou kunnen dat het je tijd bespaart, of dat het verslag vollediger of overzichtelijker wordt. Dit kan voordelen hebben voor de zorgverlening. Hoewel AI je mogelijk in je werk zou kunnen ondersteunen, blijft de verantwoordelijkheid voor zorgvuldige verslaglegging bij jou als zorgverlener. Daarom zijn er wel een aantal dingen om alert op te zijn als je gebruik wil maken van dit soort toepassingen in de praktijk.
Wet- en regelgeving
De wet- en regelgeving rondom het gebruik van digitale toepassingen, waaronder het gebruik van AI, is continu in ontwikkeling. Regels voor het gebruik van AI-gedreven toepassingen kunnen dus veranderen. Het kan zijn dat je bij een zorginstelling werkzaam bent waarbij interne richtlijnen bestaan over het gebruik van AI-gedreven toepassingen. Het is raadzaam om altijd te informeren naar het actuele beleid dat geldt binnen jouw zorginstelling. Zijn zulke afspraken bij jou niet bekend, of zijn deze binnen jouw organisatie nog niet opgesteld, dan is het zinvol om hiernaar te vragen. Ook hier geldt dat jij als zorgverlener, ondanks eventuele bestaande lokale richtlijnen, je eigen verantwoordelijkheid blijft houden ten aanzien van de uitoefening van je beroep.
Voor het gebruik van AI is bovendien specifieke regelgeving van kracht zoals opgenomen in de AI-Verordening (de Europese AI-Act), de Medical Device Regulation (MDR) en de Algemene Verordening Gegevensbescherming (AVG). Meer informatie hierover is te vinden in het KNMG-dossier Artificial Intelligence (AI).
Beroepsgeheim
Bestaande regels blijven gelden
Gebruik je als zorgverlener een AI-toepassing die gesprekken met patiënten registreert? Wees dan alert op je verantwoordelijkheid om het beroepsgeheim te waarborgen, met name de bescherming van patiëntgegevens. Gebruik geen AI-toepassing die het beroepsgeheim, de patiëntveiligheid of de privacy niet waarborgt. Zorg dat je weet hoe de toepassing werkt.
AI-toepassingen kunnen op verschillende manieren gegevens verzamelen, opslaan, en verwerken. Deze verschillen bepalen in hoeverre de privacy van de patiënt gewaarborgd kan worden. Sommige toepassingen vereisen bijvoorbeeld een actieve handeling waarmee je in- of uitschakelt dat patiëntgegevens worden gebruikt om het AI-model te trainen. Andere toepassingen vragen weer om een handeling om opnamemateriaal te bewaren of te verwijderen. Als zorgverlener is het jouw verantwoordelijkheid om te begrijpen hoe een AI-toepassing met patiëntgegevens omgaat en welke gevolgen dit heeft voor je beroepsuitoefening, waaronder het waarborgen van het beroepsgeheim en de vertrouwensrelatie met de patiënt, voordat je besluit deze al dan niet in te zetten.
Gebruik van opnames
Als een AI-toepassing een geluidsopname maakt van een gesprek tussen jou en de patiënt is er volgens de AVG sprake van het verwerken van extra beschermde, privacygevoelige gegevens, waarvoor de toestemming van de patiënt vereist is. Wanneer een gesprek wordt opgenomen, verzeker je er dan van dat de opname niet extern wordt opgeslagen en vernietig de opname zodra een transcript, verslag, of andere vorm van schriftelijke notitie is gemaakt. Het bewaren van de opname dient namelijk geen doel, en zou kunnen leiden tot privacy problemen.
Zorgvuldigheid
Noteer alleen het noodzakelijke
Een verslag en patiëntendossier dient ter waarborging van een goede uitvoering en continuïteit van zorg. Een overzichtelijk verslag is daarbij essentieel. Zowel voor de zorg die je zelf verleent, als voor jouw collega die bij eventuele overdracht het verslag zal lezen. Neem daarom in het verslag, en daarmee in het patiëntendossier, uitsluitend informatie op die noodzakelijk is voor het verlenen van goede zorg. Ook als je gebruik maakt van AI voor verslaglegging en dossiervorming.
Vul aan wanneer nodig
Wanneer een AI-toepassing een verslag maakt op basis van een gesprek tussen jou en de patiënt, zal de toepassing dit gesprek transcriberen en/of samenvatten op basis van dat wat er wordt uitgesproken. Non-verbale signalen zullen niet automatisch worden meegenomen. Als het noodzakelijk is dat zaken die non-verbaal zijn geuit in het verslag en daarmee in het patiëntendossier staan, vul het verslag dan zelf aan.
Controleer het verslag
Een verslag dat automatisch gegenereerd wordt kan fouten bevatten. Dit kunnen bijvoorbeeld fouten zijn waarbij feitelijke informatie onjuist is, zoals numerieke waarden die niet kloppen. Ook kunnen het fouten zijn waarbij interpretatie van wat jij of je patiënt heeft gezegd onjuist is. Of dat er op onjuiste wijze onderscheid is gemaakt tussen wie wat heeft gezegd. Als er fouten in het verslag staan, verbeter die dan.
Verslaglegging heeft een functie
Het zelf maken van een verslag en het opstellen van een dossier kan, naast het genereren van de tekst zelf, ook andere functies hebben. Het kan bijvoorbeeld een goede manier zijn om voor jezelf informatie te verwerken, wat van belang kan zijn voor een goede beroepsuitoefening. Het is van belang om hiervan bewust te zijn en bij jezelf na te gaan in welke mate dit voor jou geldt, en wat de consequentie is van het wegvallen van deze administratieve taak op jouw werk en zorgverlening.
Initiatief van de patiënt
Het kan ook voorkomen dat een patiënt zelf het gesprek wil opnemen of zelf met een AI-gedreven toepassing het gesprek wil transcriberen en/of samenvatten. Over het opnemen van gesprekken bestaat de KNMG richtlijn ‘Opnemen van gesprekken’.
Ethische Toolkit
Het gebruik van digitale technologieën kan vragen oproepen in de praktijk. Dit kunnen ook ethische vragen zijn. Voor dit soort vragen kun je gebruikmaken van de Ethische Toolkit van de KNMG: een online naslagwerk over medische ethiek.
1 Waar het woord ‘patiënten’ staat, kan ook ‘clienten’ worden gelezen