Algoritme voor ondersteuning crisiscommunicatie - crisisbuddy

Het algoritme wordt ingezet omdat in een crisissituatie iedere seconde telt. Het algoritme wordt ingezet omdat crisiscommunicatieteams tijdens een incident veel informatie in korte tijd moeten verzamelen en verwerken. Het systeem kan bepaalde werkzaamheden automatiseren, zoals het samenstellen van een omgevingsbeeld, het maken van een eerste strategie‑opzet en het genereren van conceptteksten. Dit kan de werkdruk voor professionals verlagen, omdat zij starten met een eerste versie in plaats van een leeg document.

Tegelijk zijn er duidelijke nadelen en aandachtspunten. De kwaliteit van de output is afhankelijk van openbaar beschikbare online bronnen, die onvolledig kunnen zijn of snel veranderen. De gebruikte taalmodellen kunnen onnauwkeurige of niet‑gebaseerde informatie genereren (hallucinaties), waardoor controle door professionals noodzakelijk blijft. In crisissituaties kan tijdsdruk ertoe leiden dat gebruikers sneller vertrouwen op AI‑output dan verantwoord is. Daarom is menselijke beoordeling altijd onderdeel van het proces en wordt het systeem alleen gebruikt als inhoudelijke ondersteuning.

Deze afwegingen maken duidelijk in welke situaties het systeem kan ondersteunen, en welke risico’s door menselijk toezicht en werkinstructies moeten worden opgevangen.

De output van het algoritme wordt gebruikt als een eerste concept dat altijd door crisiscommunicatieprofessionals wordt gecontroleerd, aangepast en aangevuld. Het systeem genereert omgevingsbeelden, strategie‑opzetten en conceptteksten, maar de inhoud wordt beoordeeld door de daarvoor aangewezen functionarissen binnen de crisiscommunicatieorganisatie.

De Omgevingsanalist beoordeelt en corrigeert het omgevingsbeeld. Het Hoofd Crisiscommunicatie stelt de communicatiestrategie vast. Conceptteksten voor webberichten, persuitingen of andere publieke communicatie worden gecontroleerd en geautoriseerd door communicatieadviseurs, de webredacteur en/of de persvoorlichter, binnen de bestaande werkafspraken.

Tijdens een crisis kunnen communicatieprofessionals de output direct corrigeren of opnieuw laten genereren. Zo blijft de menselijke regie behouden en wordt voorkomen dat foutieve of onnauwkeurige informatie automatisch wordt overgenomen.

Er zijn verschillende risico’s bij het gebruik van het algoritme. Technisch kan de output onjuist, onvolledig of verouderd zijn, bijvoorbeeld doordat openbare online bronnen beperkt of eenzijdig zijn of doordat het taalmodel informatie verkeerd duidt of genereert die niet op feiten is gebaseerd. Communicatieprofessionals beoordelen daarom alle output handmatig. De herkomst van gebruikte berichten is volledig inzichtelijk: bij elk onderdeel van de gegenereerde analyse kan worden bekeken op welke individuele bron dit gebaseerd is.

Juridisch bestaat het risico dat openbare berichten persoonsgegevens bevatten, waaronder mogelijk bijzondere persoonsgegevens die gebruikers zelf hebben gedeeld. Deze informatie wordt niet automatisch overgenomen, omdat professionals conceptteksten en analyses altijd controleren voordat deze worden gebruikt.

Ethisch kan bias in online bronnen leiden tot een vertekend beeld. Ook kan tijdsdruk tijdens een crisis ertoe leiden dat AI‑output te snel wordt vertrouwd. Training in verantwoord gebruik van AI en verplichte menselijke beoordeling beperken dit risico.

Tijdens de pilot wordt de werking geëvalueerd aan de hand van criteria zoals juistheid van samenvattingen, volledigheid van thema’s en sentiment, mate van benodigde correcties, herleidbaarheid van gebruikte bronnen en situaties waarin ongewenste of foutieve informatie bijna was overgenomen. De bevindingen worden gebruikt om werkinstructies en toepassing van het systeem verder aan te scherpen.

Het algoritme wordt ingezet binnen het proces van crisiscommunicatie. Dit proces heeft een duidelijke wettelijke basis. De burgemeester is op grond van de Gemeentewet verantwoordelijk voor de handhaving van de openbare orde tijdens rampen en crises. De Wet veiligheidsregio’s verplicht burgemeesters om de bevolking tijdig en duidelijk te informeren over een incident, de risico’s en de gedragsadviezen. Deze verplichting wordt verder uitgewerkt in het Besluit informatie rampen en crisis en het Besluit veiligheidsregio’s, waarin staat dat een actueel totaalbeeld moet worden bijgehouden en gedeeld met alle betrokken partijen.

Het verwerken van informatie – waaronder persoonsgegevens – is daarom een noodzakelijk onderdeel van deze wettelijke taak. De AVG biedt hiervoor het juridisch kader, omdat de gegevensverwerking plaatsvindt op basis van een wettelijke verplichting en een taak van algemeen belang. In crisissituaties kan ook een beroep worden gedaan op de grondslag “vitale belangen”, wanneer snelle informatievoorziening nodig is om schade te voorkomen.

Het algoritme gebruikt openbare online gegevens om een omgevingsbeeld te maken. Dit betreft vooral de inhoud van publieke socialmediaberichten en basisinformatie die nodig is om deze berichten te kunnen duiden, zoals het tijdstip van plaatsing en de bijbehorende openbare gebruikersnaam. Deze gegevens worden gebruikt om thema’s, sentiment en informatiebehoeften in kaart te brengen.

Socialmediaberichten kunnen persoonsgegevens bevatten die gebruikers zelf openbaar hebben gemaakt. Dit kunnen ook bijzondere persoonsgegevens zijn, zoals informatie over gezondheid, etniciteit, religie of politieke opvattingen indien deze in het bericht worden genoemd. Het systeem verwerkt geen profielfoto’s of andere accountinformatie die niet nodig is voor de analyse.

De gegevens zijn afkomstig uit openbare online bronnen. Er worden geen gemeentelijke basisregistraties of interne databronnen gebruikt. Communicatieprofessionals beoordelen de door het algoritme gegenereerde concepten voordat deze worden ingezet in het crisiscommunicatieproces.

Het algoritme bestaat uit meerdere modellen en componenten die samen de verschillende crisiscommunicatie‑taken ondersteunen. Het systeem is niet‑zelflerend tijdens gebruik; updates en verbeteringen vinden alleen plaats door de leverancier via gecontroleerde releases.

Input

Het algoritme gebruikt vier typen input:

- Openbare online gegevens uit social media en nieuwsbronnen via Coosto, inclusief tekst, tijdstempel en accountmetadata.

- Bestaande crisiscommunicatieformats, zoals het format voor het omgevingsbeeld en de BOB‑GOGME‑analyse.

- Gebruikersinstructies, zoals aanvullende context van de Omgevingsanalist, HCC of webredacteur.

- Planvorming en contactinformatie die via een AI‑chatinterface wordt ontsloten uit de Azure‑omgeving van de Veiligheidsregio Haaglanden (VRH).

Werking

De werking bestaat uit vier algoritmische pipelines:

1. Media‑analyse module

- De Coosto‑koppeling levert een dataset van recente online berichten.

- Een Large Language Model (LLM, Mistral) analyseert deze berichten op sentiment, thema’s, gedragsreacties en informatiebehoefte.

- Het model genereert een samenvatting volgens het vaste format van het omgevingsbeeld.

- Gebruikers kunnen tekst bewerken, hergenereren of uitbreiden.

2. Strategie‑opzetmodule (BOB‑GOGME)

- Vanuit het omgevingsbeeld en de inputs van gebruikers genereert het LLM een eerste strategie‑opzet.

- Het model volgt daarbij de structuur van BOB‑GOGME zoals die in het proces is vastgelegd.

- Het Hoofd Crisiscommunicatie en het team passen deze opzet handmatig aan voordat deze wordt vastgesteld.

3. Tekstgeneratiemodule

- Een LLM genereert conceptteksten voor webberichten, statements, Q&A’s en NL‑Alert‑voorstellen.

- De output is altijd een eerste concept dat door professionals moet worden gecorrigeerd en geautoriseerd.

4. Zoek- en kennisontsluiting

- Een retrieval‑component haalt relevante informatie op uit planvorming, procedures en contactgegevens van de VRH‑Azure‑omgeving.

- De AI‑chat interpreteert vragen van de gebruiker en combineert opgehaalde documenten met LLM‑gegenereerde toelichtingen.

Output

De output bestaat uit:

- automatische omgevingsanalyses;

- een eerste versie van de communicatiestrategie (BOB‑GOGME);

- conceptcommunicatie-uitingen (teksten, Q&A’s, statements);

- opgehaalde planvorming en relevante contactinformatie via de chatinterface.

Alle output wordt door menselijke gebruikers gecontroleerd, gecorrigeerd en formeel vastgesteld.

Zelflerendheid

Het algoritme is niet zelflerend tijdens operationeel gebruik. Het model past zich niet automatisch aan op basis van nieuwe data. Eventuele verbeteringen of hertrainingen worden alleen door de leverancier uitgevoerd buiten de crisisketen.