Is mijn AI-systeem hoog-risico onder de EU AI Act?

Uw AI-systeem is hoog-risico onder de EU AI Act als het in een van twee categorieën valt: het staat als toepassing op de Annex III-lijst (zoals werving, kredietwaardigheid, biometrie, kritieke infrastructuur, onderwijs of rechtshandhaving), of het is een veiligheidscomponent van een product dat al onder EU-productveiligheidsregels valt via Artikel 6. De meeste bedrijfssoftware is niet hoog-risico — veel tools belanden in de klasse beperkt risico (transparantie) of in de klasse minimaal risico zonder extra verplichtingen. Deze gids is algemene informatie, geen juridisch advies; vraag bij elk grensgeval een formeel classificatieoordeel.

De vier risicoklassen in begrijpelijke taal

De EU AI Act deelt elk AI-systeem in op een van vier klassen, op basis van de schade die het kan veroorzaken — niet op basis van de techniek die het gebruikt. De klasse bepaalt uw verplichtingen, dus de classificatie goed krijgen is het eerste wat u moet vaststellen, voordat u een euro uitgeeft aan compliance-werk dat u misschien niet nodig hebt.

• Onaanvaardbaar risico (verboden). Een korte lijst praktijken die in de EU simpelweg verboden zijn: social scoring door overheden, manipulatieve of uitbuitende systemen die gedrag verstoren, het ongericht scrapen van gezichtsbeelden om herkenningsdatabases te bouwen, emotieherkenning op de werkvloer en in het onderwijs, en de meeste vormen van real-time biometrische identificatie op afstand in openbare ruimtes. Doet uw systeem een van deze dingen, dan is de vraag niet hoe u voldoet — dan moet u stoppen of opnieuw ontwerpen.
• Hoog risico (zwaar gereguleerd, maar toegestaan). Systemen die de gezondheid, veiligheid of grondrechten wezenlijk kunnen raken. Deze zijn toegestaan, maar dragen de zwaarste verplichtingen: risicomanagement, datagovernance, technische documentatie, menselijk toezicht, logging en een conformiteitsbeoordeling voordat u op de markt komt. Dit is de klasse waarop deze gids u helpt te toetsen.
• Beperkt risico (alleen transparantie). Systemen die met mensen communiceren of content genereren, waarbij de hoofdplicht is om mensen te vertellen dat ze met AI te maken hebben. Chatbots, AI-gegenereerde content en deepfakes vallen hier onder Artikel 50.
• Minimaal risico (geen extra verplichtingen). Al het andere — verreweg het grootste deel van de AI die bedrijven gebruiken. Spamfilters, aanbevelingssystemen, voorraadvoorspelling, een interne notuleer-tool voor vergaderingen. Die mag u vrij bouwen en draaien; de Act voegt niets toe boven op goede praktijk.

Het praktische punt: hoog-risico is een smalle, scherp gedefinieerde categorie, geen gevoel. U wordt niet hoog-risico omdat uw systeem krachtig is of omdat het een large language model gebruikt. U wordt hoog-risico omdat u aan een specifieke juridische toets voldoet — en daar zijn precies twee routes naartoe.

Route A — de Annex III-lijst met toepassingen

De eerste route is de meest voorkomende. Annex III somt specifieke hoog-risico-toepassingen op naar doel. Als uw systeem *bedoeld is om gebruikt te worden* voor een van deze, dan is het hoog-risico — ongeacht hoe geavanceerd of eenvoudig het onderliggende model is. Lees de lijst tegen wat uw systeem daadwerkelijk beslist of beïnvloedt:

• Biometrie — biometrische identificatie op afstand, biometrische categorisering op gevoelige kenmerken, en emotieherkenning (buiten de contexten die ronduit verboden zijn).
• Kritieke infrastructuur — AI als veiligheidscomponent in het beheer en de werking van kritieke digitale infrastructuur, het wegverkeer, en de levering van water, gas, verwarming en elektriciteit. Hier belandt veel AI uit de energiesector.
• Onderwijs en beroepsopleiding — systemen die over toelating beslissen, leerresultaten beoordelen, mensen aan trajecten toewijzen, of verboden gedrag tijdens examens monitoren en detecteren.
• Werk, personeelsbeheer en toegang tot zelfstandig ondernemerschap — werving en selectie (waaronder cv-screening en het rangschikken van kandidaten), en beslissingen over promotie, ontslag, taaktoewijzing, of het monitoren en evalueren van prestaties.
• Toegang tot essentiële private en publieke diensten — recht op uitkeringen, kredietwaardigheid en credit scoring (met een smalle uitzondering voor het detecteren van financiële fraude), en risicobeoordeling en prijsstelling bij levens- en zorgverzekeringen.
• Rechtshandhaving — risicobeoordelingen van personen, leugendetector-achtige instrumenten, beoordeling van bewijsbetrouwbaarheid, en profilering tijdens onderzoeken.
• Migratie, asiel en grenscontrole — risicobeoordelingen, het onderzoeken van aanvragen, en detectiesystemen aan de grens.
• Rechtsbedeling en democratische processen — systemen die rechterlijke instanties bijstaan bij het onderzoeken en uitleggen van feiten en recht, en bepaalde tools die verkiezingen kunnen beïnvloeden.

Er is één belangrijke uitvlucht. Annex III bevat een filter: voert uw systeem een *enge procedurele taak* uit, verbetert het het resultaat van een eerder afgeronde menselijke activiteit, detecteert het besluitvormingspatronen zonder het menselijk oordeel te vervangen, of doet het alleen voorbereidend werk voor een beoordeling, dan kan het toch niet hoog-risico zijn — ook al raakt het een genoemd gebied. Maar profileert het systeem personen, dan geldt de uitzondering niet: dan bent u hoog-risico. Steun niet lichtvaardig op dit filter; documenteer uw redenering, want u moet die kunnen verdedigen.

Past Annex III niet bij uw toepassing, ga dan door naar Route B.

Route B — de Artikel 6-route 'veiligheidscomponent van een gereguleerd product'

De tweede route vangt AI op die in fysieke of gereguleerde producten zit. Onder Artikel 6(1) is uw AI-systeem hoog-risico als deze twee dingen allebei waar zijn: het is bedoeld om gebruikt te worden als veiligheidscomponent van een product (of het is zelf zo'n product) dat valt onder de EU-harmonisatiewetgeving uit Annex I, *én* dat product moet vóór het op de markt komt een conformiteitsbeoordeling door een derde ondergaan.

Annex I dekt een lange lijst bekende productveiligheidsregimes: machines, medische hulpmiddelen en in-vitrodiagnostiek, speelgoed, liften, radioapparatuur, burgerluchtvaart, scheepvaartuitrusting, voertuigen, en meer. De logica is simpel — als een product al onafhankelijke veiligheidscertificering nodig heeft en AI daarbinnen nu een veiligheidsfunctie vervult, dan erft die AI de hoog-risico-status.

Concrete voorbeelden maken het duidelijk. Een AI-visiesysteem dat bepaalt wanneer een industriële pers veilig in werking gesteld mag worden, is een veiligheidscomponent van een machine. AI die diagnostische beelden interpreteert binnen een medisch hulpmiddel, is een veiligheidscomponent van een gereguleerd medisch hulpmiddel. AI die het remgedrag in een voertuig aanstuurt, is een veiligheidscomponent van een voertuig. In elk geval was het product al gereguleerd; de AI ontsnapt daar niet aan.

De meeste kantoor- en backofficesoftware raakt Route B nooit. Het telt vooral voor fabrikanten, medtech, automotive, robotica en bouwers van industriële apparatuur — precies het soort werk waar een computer vision-model iets fysieks en ingrijpends doet. Bouwt u voor de maakindustrie, toets deze route dan zorgvuldig.

Beperkt risico en minimaal risico — waar de meeste systemen echt belanden

Komt u door beide routes zonder een match, dan bent u niet hoog-risico. U controleert dan of er transparantieplichten gelden onder Artikel 50 — de klasse beperkt risico.

Artikel 50 gaat over eerlijkheid, niet over veiligheid. Communiceert uw systeem rechtstreeks met mensen, dan moet u duidelijk maken dat ze met een AI praten, tenzij dat overduidelijk is. Genereert het synthetische audio, beeld, video of tekst, dan moet die output machineleesbaar zijn en als AI-gegenereerd gemarkeerd worden. Deepfakes en AI-gegenereerde tekst die gepubliceerd wordt om het publiek te informeren over zaken van algemeen belang, moeten als zodanig kenbaar worden gemaakt. Dit zijn echte verplichtingen, maar ze zijn licht — een duidelijke melding en correcte labeling van content, geen conformiteitsbeoordeling. We behandelen ze uitgebreid in onze gids over Artikel 50-transparantie.

Alles wat noch hoog-risico is, noch onder Artikel 50 valt, is minimaal risico, en de Act legt daar helemaal geen specifieke verplichtingen op. U volgt nog steeds goede engineering- en gegevensbeschermingspraktijk — de AVG is niet verdwenen — maar de AI Act zelf laat u met rust.

Een handige vuistregel: classificatie is een *waterval*. Toets eerst op verboden, dan op hoog-risico (Route A en B), dan op Artikel 50-transparantie, dan op minimaal. Stop bij de eerste klasse waaraan u voldoet. Doe dit per systeem en per beoogd gebruik — hetzelfde model kan minimaal zijn in het ene product en hoog-risico in het andere, want het is de toepassing die de Act reguleert, niet het algoritme.

Drie uitgewerkte voorbeelden

Abstracte klassen zijn makkelijker toe te passen op echte systemen. Zo verloopt de waterval voor drie veelvoorkomende bouwwerken.

• Cv-screening en kandidaat-rangschikker → hoog-risico. Het is bedoeld voor werving en selectie, een expliciete Annex III-toepassing voor werk. Het profileert en rangschikt personen, dus de uitzondering voor enge taken redt het niet. Dit systeem heeft het volledige hoog-risico-programma nodig vóór ingebruikname.
• Marketingchatbot op uw website → beperkt risico. Het staat niet in Annex III en is geen veiligheidscomponent, dus het is niet hoog-risico. Maar het communiceert rechtstreeks met mensen, dus Artikel 50 geldt: vertel bezoekers dat ze met een AI chatten. Dat is de hele verplichting.
• Interne notuleer-tool voor vergaderingen → minimaal risico. Het transcribeert en vat de gesprekken van uw eigen team samen. Geen Annex III-toepassing, geen gereguleerd product, geen interactie met het publiek en geen publicatie van synthetische media. Het draagt geen AI Act-verplichtingen boven op uw gebruikelijke gegevensbescherming.

Let op hoe steeds *doel en context* de klasse bepalen, niet de slimheid van het model. De chatbot en de cv-tool kunnen zelfs hetzelfde onderliggende taalmodel delen — ze belanden in verschillende klassen vanwege waarvoor ze worden gebruikt.

Wat er verandert op het moment dat u hoog-risico bent

Komt uw classificatie uit op hoog-risico, dan treedt een vaste set verplichtingen in werking. Die hoeft u niet vanaf nul te ontwerpen — de Act benoemt ze, en een aanbieder kan er bewust naartoe bouwen. De belangrijkste plichten:

• Risicomanagementsysteem (Artikel 9) — een continu, gedocumenteerd proces om risico's voor gezondheid, veiligheid en grondrechten gedurende de hele levenscyclus van het systeem te identificeren en te beperken.
• Data en datagovernance (Artikel 10) — trainings-, validatie- en testdatasets die relevant en representatief zijn en op vooringenomenheid onderzocht, met gedocumenteerde herkomst van de data.
• Technische documentatie (Artikel 11) — een compleet dossier dat het systeem, het ontwerp en de prestaties beschrijft, klaar voor toezichthouders vóór de markttoegang en actueel gehouden.
• Registratie / logging (Artikel 12) — automatische logging van gebeurtenissen gedurende de levensduur van het systeem, zodat gedrag te herleiden is en incidenten te reconstrueren zijn.
• Menselijk toezicht (Artikel 14) — het systeem moet zo ontworpen zijn dat een mens de output kan begrijpen, kan ingrijpen en kan overrulen; toezicht mag geen formaliteit zijn die je afvinkt.
• Nauwkeurigheid, robuustheid en cyberbeveiliging (Artikel 15), plus een conformiteitsbeoordeling en CE-markering voordat het systeem op de markt komt, registratie in de EU-database, en monitoring na de markttoegang.

Dat is de bouwkant van het verhaal, en die is fors. We hebben hem stap voor stap uitgewerkt in onze EU AI Act compliance-gids en teruggebracht tot een werkbare AI Act compliance-checklist, zodat uw engineering- en complianceteams één referentie hebben. Deze post blijft bij de *classificatie*vraag — bepalen of u überhaupt binnen het toepassingsbereik valt.

De gefaseerde tijdlijn waar u tegenaan werkt

De EU AI Act is op 1 augustus 2024 in werking getreden en is gefaseerd van toepassing, zodat verschillende verplichtingen op verschillende data ingaan. Weten waar u op deze tijdlijn staat, vertelt u hoeveel ruimte u werkelijk hebt.

• 2 februari 2025 — de verboden op onaanvaardbaar-risico-praktijken zijn ingegaan, samen met de verplichtingen rond AI-geletterdheid voor medewerkers die AI inzetten.
• 2 augustus 2025 — de regels voor AI-modellen voor algemene doeleinden en de governancestructuur (het AI Office en de nationale autoriteiten) zijn van toepassing geworden.
• 2 augustus 2026 — het grootste deel van de hoog-risico-verplichtingen onder Annex III, en de Artikel 50-transparantieregels, worden van toepassing. Dit is de datum waar de meeste organisaties naartoe plannen.
• 2 augustus 2027 — de verlengde deadline voor hoog-risico-systemen die onder Route B vallen (veiligheidscomponenten van producten die al onder Annex I gereguleerd zijn).

De les is niet om in paniek te raken over één afgrond, maar om te weten welke datum geldt voor *uw* classificatie. Een hoog-risico Annex III-systeem moet ruim vóór augustus 2026 klaar zijn; dat is niet veel tijd om vanaf nul een risicomanagementsysteem te bouwen, uw datagovernance op orde te brengen en een conformiteitsbeoordeling te halen.

Wat u nu doet — eerst inventariseren, dan classificeren

De praktische eerste stap is geen juridische analyse — het is een eerlijke inventarisatie. De meeste organisaties onderschatten hoeveel AI-systemen ze eigenlijk draaien, omdat inkoop, marketing, HR en losse teams allemaal zelfstandig tools hebben gekocht of gebouwd.

• Inventariseer elk AI-systeem dat u bouwt, koopt of inbedt — inclusief AI-functies binnen SaaS waar u al voor betaalt. Noteer het beoogde doel en wie er door elk systeem geraakt wordt.
• Classificeer elk systeem via de waterval — verboden, dan hoog-risico via Route A en Route B, dan Artikel 50, dan minimaal. Schrijf de redenering op, vooral waar u steunt op de uitzondering voor enge taken uit Annex III.
• Bevestig uw rol — bent u de *aanbieder* (u ontwikkelt het systeem of brengt het onder eigen merk uit) of de *gebruiksverantwoordelijke* (u zet het in onder eigen gezag)? De verplichtingen verschillen, en een gebruiksverantwoordelijke die een systeem wezenlijk wijzigt, kan aanbieder worden.
• Triageer op deadline — richt u eerst op alles wat onder Annex III als hoog-risico classificeert, gezien de datum van augustus 2026.

Voor een gestructureerde doorloop die u aan een niet-specialist kunt geven, maakt onze AI Act compliance-checklist er een werkblad van, en de bredere EU AI Act compliance-gids schetst de Nederlandse en EU-context. Wilt u die eerste slag liever niet alleen maken, dan is deze readiness assessment de kern van een AI Audit & Strategie-traject van Crux Digits — een opdracht met vaste scope en vaste prijs (EUR 2.500) die uw systemen inventariseert, classificeert en u helder vertelt welke binnen het bereik vallen en wat elk nodig heeft. Lees op onze pagina over AI-consulting hoe we werken, of neem gewoon contact op voor een kort, vrijblijvend gesprek.

Eén eerlijke kanttekening om mee af te sluiten: dit artikel is algemene informatie, geen juridisch advies. De classificatieroutes zijn goed gedefinieerd, maar grensgevallen — vooral rond de Annex III-uitzondering en de scheidslijn aanbieder/gebruiksverantwoordelijke — hangen af van de specifieke situatie. Vraag voor alles wat hoog-risico zou kunnen zijn een schriftelijk classificatieoordeel waar u op kunt bouwen.

Veelgestelde vragen