Sinds de Europese Unie in maart 2024 de definitieve versie van de AI Act heeft goedgekeurd, krijgen we regelmatig de vraag: valt AI4Cri onder de categorie 'hoog-risico AI'?
Een terechte vraag – zeker in crisissituaties, waar zorgvuldigheid en vertrouwen cruciaal zijn. In deze blog leggen we helder uit waarom AI4Cri níet binnen de hoog-risico categorie valt, en wat we wél doen om veilig, ethisch en transparant met AI om te gaan.
Wat zegt de AI Act eigenlijk?
De AI Act deelt AI-systemen in op basis van risico. Systemen die autonoom beslissingen nemen over de fysieke veiligheid, gezondheid of rechten van mensen (denk aan medische diagnoses of sociale kredietscores), vallen onder hoog-risico AI. Deze systemen moeten aan zware eisen voldoen, zoals risicobeheer, logging, human oversight en transparantie.
Waarom AI4Cri niet onder hoog-risico valt
Op basis van juridisch advies geldt het volgende:
- AI4Cri ondersteunt, maar beslist niet. De tool genereert communicatiesuggesties voor crisisteams, maar neemt geen autonome beslissingen. De eindgebruiker bepaalt altijd wat er wel of niet naar buiten gaat.
- AI4Cri is geen veiligheidskritisch systeem. Het beïnvloedt geen fysieke processen of systemen (zoals verkeers- of medische apparatuur) en valt dus niet onder de 'safety-related use cases' van de AI Act.
- AI4Cri vereist altijd menselijke tussenkomst. De tool is ontworpen om mensen te helpen denken, schrijven en besluiten – niet om hen te vervangen.
Hoe we tóch voldoen aan belangrijke AI-principes
Ook al is AI4Cri geen hoog-risico systeem, we nemen de uitgangspunten van de AI Act serieus. Daarom:
- Vermelden we altijd dat AI is gebruikt bij gegenereerde teksten (transparantie).
- Blijft de eindgebruiker verantwoordelijk voor wat naar buiten gaat (menselijke regie).
- Bieden we trainingen over ethisch en verantwoord AI-gebruik.
- Kunnen gebruikers kiezen voor modellen die binnen de EU worden gehost (zoals Mistral).
Meer weten?
Wil je ons juridisch advies ontvangen of weten hoe jouw organisatie AI4Cri verantwoord kan inzetten? Neem gerust contact met ons op voor een demo, documentatie of adviesgesprek.
AI4Cri – Sneller. Slimmer. Menselijk.