AI Governance & Veiligheid
Attendi zet AI in ter ondersteuning van zorgprofessionals, met nadruk op zorgvuldigheid, transparantie en menselijke regie. Omdat AI-functionaliteit in de zorg extra aandacht vraagt, past Attendi waarborgen toe die aansluiten bij de uitgangspunten van verantwoorde en veilige AI-toepassing.
Binnen de Attendi App zijn onder andere de volgende maatregelen en principes ingericht:
Menselijke regie (human oversight)
AI ondersteunt de zorgprofessional bij verslaglegging, maar neemt geen beslissingen. Alle transcripties en samenvattingen zijn inzichtelijk en kunnen altijd door de gebruiker worden aangepast voordat ze worden vastgelegd.
Transparantie
Het gebruik van AI wordt duidelijk gemaakt binnen de applicatie, onder andere via zichtbare AI-disclaimers. Zorgprofessionals weten wanneer AI wordt ingezet en waarvoor.
Geen geautomatiseerde besluitvorming
De AI-functionaliteit genereert geen medische beslissingen of bindende adviezen. De Attendi App is daarmee ondersteunend en niet aangemerkt als medisch hulpmiddel.
Vermijden van bias en kwaliteitsbewaking
Attendi besteedt aandacht aan het voorkomen van ongewenste vertekening (bias) in AI-output. AI-functionaliteiten worden periodiek beoordeeld op consistentie en kwaliteit, onder andere door vergelijking van transcripties en gegenereerde samenvattingen.
Feedback van zorgprofessionals wordt actief gebruikt om patronen te signaleren en verbeteringen door te voeren. Zo blijft de AI ondersteunend, voorspelbaar en passend binnen de zorgcontext.
Dataminimalisatie en beveiliging
Gegevens worden uitsluitend tijdelijk verwerkt, niet gebruikt voor modeltraining en beschermd conform ISO 27001 en NEN 7510. Audio en transcripties worden automatisch verwijderd; samenvattingen zijn tijdelijk beschikbaar onder regie van de zorgorganisatie.
PII-detectie vóór opslag
Om zorgvuldig om te gaan met persoonsgegevens, maakt Attendi gebruik van een automatische PII-detectie. PII staat voor Personally Identifiable Information: gegevens waarmee een persoon direct of indirect te identificeren is, zoals namen, contactgegevens, identificatienummers of zorginstellingen in combinatie met andere informatie.
Wanneer – en uitsluitend indien – een zorgorganisatie hiermee akkoord is, kan data tijdelijk worden opgeslagen voor functionaliteit of kwaliteitsdoeleinden. Vóórdat opslag plaatsvindt, wordt de inhoud altijd automatisch gescand op de aanwezigheid van dergelijke persoonsgegevens.
Zodra de detectie vaststelt dat PII aanwezig is, wordt de betreffende inhoud niet opgeslagen en direct verwijderd. Op deze manier borgt Attendi dat gevoelige gegevens niet onnodig worden bewaard.
Logging en controle
Relevante handelingen rondom AI-gebruik worden gelogd om toezicht, controle en verantwoording mogelijk te maken.
Attendi werkt doorlopend aan verdere versterking van AI-governance. Dit omvat onder meer het explicieter vastleggen van beleid, het structureren van AI-risicobeheer, het inrichten van AI-specifieke incidentafhandeling en het vergroten van AI-bewustzijn en -kennis binnen de organisatie.
Hiermee bereiden wij ons zorgvuldig voor op toekomstige regelgeving en blijven wij inzetten op verantwoord gebruik van AI in de zorg.