AI-systemen worden zo ontworpen en gebruikt, dat mensen begrijpen wanneer zij met een AI-systeem communiceren en welke content gemaakt is door een AI-systeem
Vereiste
AI-systemen worden zo ontworpen en gebruikt, dat mensen begrijpen wanneer zij met een AI-systeem communiceren en welke content gemaakt is door een AI-systeem.
Toelichting
Aanbieders van AI-systemen zorgen dat AI-sytemen zodanig worden ontworpen en ontwikkeld dat de betrokken natuurlijke personen worden geïnformeerd dat zij interacteren met een AI-systeem.
Gebruiksverantwoordelijken moeten betrokkenen informeren over de werking van het systeem en in het geval van een AI-systeem dat content gegenereert duidelijk kenbaar maken dat de content kunstmatig is gegenereerd of gemanipuleerd.
Dit geldt voor AI-systemen die:
- gebruikt worden voor directe interactie met natuurlijke personen (zoals chatbots).
- synthetische afbeeldingen, audio, video of tekst genereert en/of manipuleert (bijvoorbeeld deepfake).
- doen aan emotieherkenning of biometrische categorisatie.
Bronnen
- Artikel 50 Verordening Artificiële Intelligentie
- Overweging 132 Verordening Artificiële Intelligentie
- Overweging 134 Verordening Artificiële Intelligentie
Van toepassing op
Risico
Bepaalde AI-systemen die bedoeld zijn om met natuurlijke personen te interageren of om content te genereren, kunnen specifieke risico’s op imitatie of misleiding met zich meebrengen, ongeacht of zij als systeem met een hoog risico gelden.