EU AI Act en crisis-/hulpverleningssystemen: wat verandert er (en wanneer)

Wat de EU AI Act globaal regelt

De EU AI Act is Europese regelgeving die AI-systemen indeelt op basis van het risico dat ze met zich meebrengen. Hoe groter de mogelijke impact van een AI-toepassing op de veiligheid, gezondheid of grondrechten van mensen, hoe strenger de eisen die eraan worden gesteld. Aan de ene kant van dat spectrum staan toepassingen met een verwaarloosbaar risico, waarvoor nauwelijks aanvullende regels gelden. Aan de andere kant staan systemen die als "hoog risico" worden aangemerkt: daarvoor gelden aanzienlijk zwaardere verplichtingen, gericht op zaken als menselijk toezicht, kwaliteit van onderliggende data en traceerbaarheid van beslissingen.

Voor organisaties in de hulpverlening en crisisbeheersing is vooral die tweede categorie relevant. De wetgeving benoemt namelijk specifiek een aantal toepassingsgebieden waarin AI wordt geacht een verhoogd risico te vormen, simpelweg omdat de gevolgen van een verkeerde inschatting daar direct doorwerken in de veiligheid van mensen.

Waarom hulpverlenings- en dispatchsystemen als hoog risico gelden

Binnen de EU AI Act vallen AI-systemen die worden gebruikt door alarmcentrales, en systemen die dispatchbeslissingen ondersteunen (dus welke eenheid waarheen wordt gestuurd, oftewel uitruk- en inzetbeslissingen), onder de categorie hoog risico (Annex III). Hetzelfde geldt voor AI die wordt ingezet bij triage: het beoordelen en prioriteren van meldingen op urgentie.

De logica daarachter is goed te volgen. Dit zijn systemen waarbij een verkeerde output direct gevolgen kan hebben voor leven en gezondheid. Wanneer een algoritme meeweegt of meebepaalt welke melding voorrang krijgt, welke eenheid wordt uitgestuurd, of hoe urgent een situatie wordt ingeschat, ontstaat een directe koppeling tussen de kwaliteit van dat systeem en de veiligheid van burgers en hulpverleners. Vandaar dat de wetgever hier zwaardere eisen aan stelt dan aan AI die bijvoorbeeld administratieve taken ondersteunt.

Het verschoven tijdpad: van augustus 2026 naar december 2027

Voor deze standalone hoog-risico-systemen was de oorspronkelijke datum waarop de bijbehorende verplichtingen zouden gaan gelden 2 augustus 2026. Via het zogeheten Digital Omnibus is deze datum verschoven naar 2 december 2027. Wat begon als een politiek akkoord tussen Raad en Europees Parlement is inmiddels vastgelegde wetgeving: Verordening (EU) 2026/1744 is op 24 juli 2026 gepubliceerd en op 27 juli 2026 in werking getreden. Organisaties die alarmcentrale-, dispatch- of triagesystemen met AI-componenten gebruiken of ontwikkelen, krijgen dus meer tijd om aan de volledige set verplichtingen te voldoen dan aanvankelijk voorzien; let wel op dat bepaalde verplichtingen, zoals de verboden AI-toepassingen en een deel van de transparantie-eisen, gewoon op de oorspronkelijke datum van kracht blijven.

Belangrijk om te beseffen: dit betekent niet dat er tot die datum niets geldt. Bepaalde transparantieverplichtingen gaan namelijk al eerder in. Het verschoven tijdpad geeft dus vooral meer ruimte voor de zwaardere, meer ingrijpende verplichtingen, niet voor de regelgeving als geheel. Dat dit tijdpad is aangepast, laat bovendien zien dat deze regelgeving nog volop in ontwikkeling is: de precieze uitwerking en interpretatie van wat er van organisaties wordt verwacht, kristalliseert zich de komende periode verder uit.

Voor hulpverleningsorganisaties betekent dit vooral dat er tijd is om zorgvuldig te bepalen welke AI-systemen binnen de eigen organisatie precies onder welke categorie vallen, en welke stappen daarvoor nodig zijn, in plaats van dat er op stel en sprong iets moet worden ingericht.

Wat dit betekent voor AI in crisiscommunicatie specifiek

Een vraag die logischerwijs opkomt: valt AI die wordt gebruikt bij crisiscommunicatie, zoals het opstellen van conceptteksten, het samenvatten van een omgevingsbeeld, of het vertalen van een bericht, ook onder diezelfde hoog-risicocategorie? Het antwoord daarop is genuanceerder dan het op het eerste gezicht lijkt.

Er zit een wezenlijk verschil tussen AI die daadwerkelijk beslist of meebeslist (bijvoorbeeld welke eenheid wordt uitgestuurd, of hoe een melding wordt geprioriteerd) en AI die ondersteunt bij communicatie zonder die beslissing zelf te nemen: een concepttekst voorbereiden die een mens beoordeelt en goedkeurt, een samenvatting maken van binnenkomende signalen, of een bericht vertalen naar een andere taal. Dat eerste type raakt direct aan de kern van waarom dispatch- en triagesystemen als hoog risico gelden. Bij het tweede type ligt dat minder vanzelfsprekend, omdat de uiteindelijke beslissing en verantwoordelijkheid bij een mens blijven liggen.

Toch is dit onderscheid niet iets waar organisaties zomaar op mogen vertrouwen. Of een AI-toepassing in de praktijk daadwerkelijk puur ondersteunend is, of toch feitelijk (mede)bepalend wordt voor beslissingen, hangt af van hoe het systeem precies is ingericht en gebruikt. Organisaties doen er daarom goed aan zelf goed te kunnen onderbouwen in welke categorie een specifieke toepassing valt, in plaats van dat als vanzelfsprekend aan te nemen. Juist omdat de regelgeving, zoals het verschoven tijdpad laat zien, nog in beweging is, is zorgvuldigheid en een goede onderbouwing verstandiger dan een te snelle conclusie in welke richting dan ook.

• EENA, "How the AI Act Will Shape the Future of Emergency Services"
• Rayvn, "EU AI Act Emergency Dispatch: High Risk"