Governance van algoritmes binnen je organisatie

Zorg voor effectieve governance van je algoritmes. Dit is het beleid van je organisatie voor het verantwoordelijk omgaan met algoritmes en AI-systemen. Leg bijvoorbeeld vast wie waarvoor verantwoordelijk is.

Wat is governance van algoritmes binnen je organisatie?

Algoritme-governance is de manier waarop je organisatie omgaat met algoritmes en AI-systemen. Algoritme-governance beschrijft een systeem van regels, werkwijzen, processen en technologische hulpmiddelen die worden gebruikt om ervoor te zorgen dat het gebruik van algoritmes door een organisatie in overeenstemming is met de strategieën, doelstellingen en waarden van de organisatie¹. En dat je voldoet aan wettelijke vereisten en ethische principes.

Belangrijke aandachtspunten zijn:

algoritme-governance is geen doel op zich, maar gebruik je om andere doelen te bereiken.
algoritme-governance sluit aan bij de strategie, doelstellingen en publieke waarden van de organisatie.

Deze afspraken maak je op 2 niveaus:

Organisatieniveau

Hoe de organisatie met algoritmes in het algemeen omgaat, bijvoorbeeld:

richtlijnen en gedragscode voor medewerkers
strategie en visie
werkwijze
teamleden en hun verantwoordelijkheden, zoals chief data officers en algoritmefunctionarissen

Toepassingsniveau

Dit zijn afspraken over het beheer en de totstandkoming van de algoritmes zelf, bijvoorbeeld:

multidisciplinair ontwikkelen
verantwoordelijkheden per toepassing
procedures voor klachten of vragen

Belang van algoritme-governance

Zonder governance verlies je grip op het inkopen, ontwikkelen, gebruiken en uitfaseren van algoritmes en AI. Dit vergroot het risico op overtredingen van wetten en regels zoals de AI-verordening, Grondwet, Algemene Verordening Gegevensbescherming (AVG) en Auteurswet.

Goede governance van algoritmes helpt bij het:

correct uitvoeren van wetten en regels
toepassen van je eigen strategie, doelstellingen en publieke waarden
ontwikkelen en implementeren van algoritmetoepassingen

Aanpak algoritme-governance

Algoritme-governance bepaal je zelf als organisatie.

Houd in elk geval rekening met:

organisatieverantwoordelijkheden: de minimale voorwaarden om te starten met algoritmes
levenscyclus van algoritmes: waar je per fase op moet letten
zoek aansluiting met bestaande governancestructuren

Tip

Zorg dat iemand verantwoordelijk is voor algoritme-governance. En betrek stakeholders.

Governancekader VNG

Werk je bij een gemeente? Je kunt het VNG-Governancekader AI en algoritmen raadplegen en toepassen. Hier vind je informatie en praktische instrumenten die te maken hebben met AI-governance. Ook kun je eigen projecten aanmaken en de processtappen doorlopen met jouw projectteam.

Vereisten

Vereisten	Wetgeving
Als AI-modellen voor algemene doeleinden met systeemrisico’s ernstige incidenten veroorzaken, wordt dit gedocumenteerd en gerapporteerd	AI-verordening
Beoordeling als niet 'hoog-risico-AI-systeem' is gedocumenteerd	AI-verordening
Ernstige incidenten door hoog-risico-AI-systemen worden gemeld aan de toezichthouder	AI-verordening
Gebruiksverantwoordelijken controleren de registratie van het hoog-risico AI-systeem in de EU-databank	AI-verordening
Hoog-risico-AI-systemen worden gebruikt volgens de gebruiksaanwijzing	AI-verordening
Hoog-risico-AI-systemen worden pas geleverd of gebruikt na een conformiteitsbeoordelingsprocedure	AI-verordening
Hoog-risico-AI-systemen zijn voorzien van een EU-conformiteitsverklaring	AI-verordening
Hoog-risico-AI-systemen zijn voorzien van een kwaliteitsbeheersysteem	AI-verordening
Hoog-risico-AI-systemen zijn voorzien van een risicobeheersysteem	AI-verordening
Klokkenluiders kunnen veilig melden dat een organisatie zich niet houdt aan de AI-verordening	AI-verordening
Menselijk toezicht van hoog-risico-AI-systemen wordt uitgevoerd door mensen met voldoende kennis en mogelijkheden	AI-verordening
Mensen over wie besluiten worden genomen door een hoog-risico-AI-systemen, krijgen op verzoek informatie over deze besluiten	AI-verordening
Organisaties kunnen bewijzen dat zij persoonsgegevens op de juiste manier verwerken	Algemene Verordening Gegevensbescherming
Personeel en gebruikers zijn voldoende AI-geletterd	AI-verordening
Verboden AI mag niet worden gebruikt	AI-verordening

Aanbevolen maatregelen

Maatregelen
Bepaal of er genoeg experts beschikbaar zijn
Beschrijf de rollen en verantwoordelijkheden voor het ontwikkelen en gebruiken van algoritmes
Beschrijf de wettelijke grondslag voor de inzet van het algoritme
Beschrijf het doel van het algoritme
Beschrijf het probleem dat het algoritme moet oplossen
Beschrijf waarom een algoritme het probleem moet oplossen
Controleer en verbeter regelmatig de kwaliteit van het algoritme
Controleer regelmatig of het algoritme voldoet aan alle wetten en regels en het eigen beleid
Gebruik een algoritme volwassenheidsmodel om te weten waar de organisatie staat
Inventariseer de algoritmes die binnen jouw organisatie worden gebruikt en houd dit overzicht actueel
Maak afspraken over het beheer van gebruikers
Maak afspraken over het beheer van wachtwoorden
Maak afspraken over het wijzigen van de code
Maak een noodplan voor beveiligingsincidenten
Maak een noodplan voor het stoppen van het algoritme
Maak een openbaar besluit over de inzet van het algoritme
Maak een plan voor het omgaan met risico’s
Overleg regelmatig met belanghebbenden
Pas vastgestelde interne beleidskaders toe en maak aantoonbaar dat deze zijn nageleefd bij het ontwikkelen, inkopen en gebruiken van algoritmes
Richt algoritmegovernance in op basis van de risicoclassificatie van algoritmes
Richt bij besluitvorming betekenisvolle menselijke tussenkomst in
Richt een algoritmegovernance in op basis van het Three Lines-model
Richt een proces in zodat burgers of andere belanghebbenden een klacht, bezwaar of beroep kunnen indienen over het gebruik van het algoritme en monitor dit proces
Richt vaste beslismomenten en controlepunten in in de algoritmelevenscyclus
Sluit algoritmegovernance aan op bestaande governancestructuren binnen de organisatie
Spreek af hoe de organisatie omgaat met privacy-verzoeken
Stel beleid op voor een verantwoorde inzet van algoritmes binnen de organisatie
Stel een werkinstructie op voor gebruikers
Stel vast in welke risicogroep het algoritme valt en bepaal vervolgens welke vereisten van toepassing zijn.
Taken en verantwoordelijkheden zijn toebedeeld in de algoritmegovernance
Zorg voor bewustwording en voldoende opleidingen over de risico's en kansen van algoritmes en AI
Zorg voor politiek-bestuurlijk bewustzijn, betrokkenheid, en verantwoordelijkheid

Aanbevolen hulpmiddelen

Hulpmiddelen
AI-Geletterdheid Self-assessment
Aanpak begeleidingsethiek
Blauwdruk AI-geletterdheidsprogramma
Factsheet AI-geletterdheid voor bestuurders
Factsheet AI-geletterdheid voor inkopers
Factsheet AI-verordening voor bestuurders
Functioneringsgesprek AI
Governancekader AI en algoritmen voor en door gemeenten
Handreiking inventarisatie, identificatie en classificatie AI-systemen
Impactanalyse AI-verordening
Onderzoekskader algoritmes Auditdienst Rijk 2023
Roadmap inwerkingtreding AI-verordening
Standaarden
Toetsingskader Algoritmes Algemene Rekenkamer
Veelgestelde vragen compliance generatieve AI
Wettelijke vereisten AI-geletterdheid

Vrij vertaald van de definitie van AI-governance gedefinieerd door Mäntymäki, M., Minkkinen, M., Birkstedt, T. et al. Defining organizational AI governance. AI Ethics 2, 603–609 (2022). ↩