AI-testomgevingen die persoonsgegevens verwerken, voldoen aan strenge voorwaarden
Vereiste
AI-testomgevingen die persoonsgegevens verwerken, voldoen aan strenge voorwaarden.
Toelichting
De rechtmatige verwerking van persoonsgegevens voor andere doeleinden voor het ontwikkelen, trainen en testen van AI-modellen is mogelijk, maar het moet voldoen aan strikte voorwaarden die zijn opgenomen in artikel 57 AI-Verordening. Hiervoor is een AI-testomgeving (ook wel regulatory sandbox genoemd) noodzakelijk, waarin maatregelen of kunnen worden getroffen om de data veilig te verwerken.
Persoonsgegevens die in de testomgeving worden aangemaakt mogen niet buiten de testomgeving worden gedeeld en logbestanden worden bijgehouden voor de duur van de deelname aan de testomgeving. Wanneer in de testomgeving een LLM-model wordt (bij)getraind met privacygevoelige data mag dit model bovendien niet worden gebruikt in een niet-vertrouwelijke omgeving, omdat de trainingsdata, inclusief de persoonsgegevens, door het model zijn opgeslagen.
Voor toepassingen voor het verder verwerken van gegevens kan worden gedacht aan het ontwikkelen van een AI-systeem zodat een overheidsinstantie of een andere natuurlijke of rechtspersoon een aanzienlijk openbaar belang kan waarborgen, bijvoorbeeld op het gebied van kwaliteit van milieu, duurzaamheid, openbare veiligheid en gezondheid.
Bronnen
Van toepassing op
Risico
Verdere verwerking van persoonsgegevens buiten een AI-testomgeving vergroot de kans op bijvoorbeeld het lekken van de persoonsgegevens, wat kan leiden tot een inbreuk op de privacyrechten van betrokken.