Wat is AI-governance?

AI-governance is hoe een organisatie bepaalt welke AI-systemen zij gebruikt, wie voor elk daarvan verantwoordelijk is, en welk bewijs er is dat ze doen wat de bedoeling is.

De meeste uitleg vat de regelgeving samen. Dat is niet het lastige deel. Het lastige deel is dat governance een verzameling documenten is die iemand actueel moet houden, en weten wélke is meer waard dan nog een samenvatting van de wet.

De vier documenten die governance in de praktijk vormen

1. Een modelregister: elk AI-systeem in gebruik, wat het beslist, welke data het raakt, en wie het bezit. De meeste organisaties kunnen dit niet overleggen, en het ontdekken van de schaduwtools is meestal de eerste echte bevinding. 2. Een vastlegging van menselijk toezicht: per systeem: wat een mens kan beoordelen, overrulen of stoppen, en wie die mens is. 3. Een logbeleid, wat er per beslissing wordt vastgelegd en hoelang, want "het model besliste" is geen antwoord zonder log. 4. Een incidentprocedure, wat er gebeurt als een systeem een schadelijke of duidelijk onjuiste uitkomst geeft, opgeschreven vóórdat dat gebeurt.

Begin met het register, niet met het beleid

De gebruikelijke misstap is eerst een governancebeleid schrijven. Beleid dat vóór het register komt, beschrijft systemen die niemand heeft geïnventariseerd en is achterhaald zodra het de werkelijkheid raakt. Bouw eerst de inventarisatie: loop de afdelingen langs en vraag welke hulpmiddelen mensen gebruiken om beslissingen te nemen of te onderbouwen. Reken op abonnementen waar IT niets van weet. Het register maakt het beleid schrijfbaar, omdat u dan bestaande zaken bestuurt in plaats van bedachte.

Proportionaliteit, niet elk systeem vraagt dezelfde aanpak

De inspanning hoort mee te schalen met de gevolgen. Een model dat interne verslagen opstelt en een model dat sollicitanten voorselecteert verdienen niet dezelfde toetsing, en ze gelijk behandelen garandeert dat het raamwerk genegeerd wordt. Sorteer op wie geraakt wordt en hoe omkeerbaar de uitkomst is: systemen die werk, krediet, gezondheid of rechtspositie raken krijgen de volledige behandeling; interne productiviteitstools krijgen een registerregel en een eigenaar. Dat is ook de logica van de EU AI Act, dus een proportionele interne aanpak sluit er redelijk goed op aan.

Hoe dit eruitziet zonder compliance-afdeling

Een spreadsheet met een eigenaar verslaat een niet-uitgevoerd raamwerk. De realistische eerste versie is: één overzicht met elk AI-hulpmiddel, een eigenaar en één regel over wat het beslist, per systeem een korte notitie over wat een mens kan overrulen, en een besluit over wat er gelogd wordt. Dat is ongeveer een dag werk en zet u voor op de meeste middelgrote bedrijven. Governance is een gewoonte, geen document, het register heeft alleen waarde als iets ervoor zorgt dat het herzien wordt.