Menselijk toezicht op grond van artikel 14 van de EU AI-verordening

Hoog-risico AI-systemen mogen niet functioneren als zwarte dozen die mensen klakkeloos afstempelen. Artikel 14 van Verordening (EU) 2024/1689 vereist dat ze zo worden ontworpen en ontwikkeld dat natuurlijke personen ze effectief kunnen bewaken terwijl ze in gebruik zijn. Artikel 26(2) legt de dagelijkse uitvoering van dat toezicht vervolgens bij de gebruiksverantwoordelijke. Deze pagina behandelt beide kanten en hoe een werkelijk toezichtsregister eruitziet.

Wat artikel 14 daadwerkelijk bepaalt

Artikel 14(1) vereist dat hoog-risico AI-systemen worden ontworpen en ontwikkeld op zodanige wijze, inclusief met passende mens-machineinterfacemiddelen, dat ze tijdens de periode dat ze in gebruik zijn, effectief kunnen worden gecontroleerd door natuurlijke personen. Artikel 14(2) verduidelijkt dat het doel van het toezicht is om risico's voor de gezondheid, veiligheid of grondrechten die kunnen ontstaan wanneer een hoog-risico AI-systeem wordt gebruikt overeenkomstig het beoogde doel of onder omstandigheden van redelijkerwijs te voorzien misbruik, te voorkomen of tot een minimum te beperken, met name wanneer dergelijke risico's blijven bestaan ondanks de toepassing van andere vereisten van afdeling 2.

Artikel 14(3) legt de verantwoordelijkheid voor het identificeren van de passende toezichtsmaatregelen bij de aanbieder, hetzij ingebouwd in het systeem voordat het op de markt wordt gebracht, hetzij geïdentificeerd door de aanbieder voor de gebruiksverantwoordelijke om te implementeren voordat het systeem in gebruik wordt genomen.

De vier toezichtsfuncties (art. 14(4) a–e)

Artikel 14(4) beschrijft wat de toezichtsmaatregelen de aangewezen natuurlijke persoon in staat moeten stellen te doen, waar passend en evenredig aan de omstandigheden:

De capaciteiten en beperkingen begrijpen van het hoog-risico AI-systeem en de werking ervan monitoren zodat tekenen van afwijkingen, disfuncties en onverwachte prestaties zo snel mogelijk kunnen worden gedetecteerd en aangepakt.
Bewust blijven van automatiseringsbias. De toezichthoudende persoon moet zich bewust blijven van de mogelijke neiging om automatisch te steunen op of te veel te vertrouwen op de output van een hoog-risico AI-systeem, met name voor hoog-risico AI-systemen die worden gebruikt om informatie of aanbevelingen te verstrekken voor door natuurlijke personen te nemen besluiten.
De output correct interpreteren, daarbij met name rekening houdend met de kenmerken van het systeem en de beschikbare interpretatiehulpmiddelen en -methoden.
Besluiten de output niet te gebruiken of deze anderszins te negeren, te negeren of te herroepen in een bepaalde situatie.
Ingrijpen in de werking of het systeem onderbreken via een 'stop'-knop of een vergelijkbare procedure waarmee het systeem tot stilstand kan worden gebracht in een veilige toestand.

De tweepersoonsvereiste voor biometrische identificatie op afstand

Artikel 14(5) voegt een specifieke versterking toe voor hoog-risico AI-systemen als bedoeld in punt 1(a) van Bijlage III (systemen voor biometrische identificatie op afstand). Voor die systemen moeten de toezichtsmaatregelen er tevens voor zorgen dat door de gebruiksverantwoordelijke geen actie of besluit wordt genomen op basis van de door het systeem uitgevoerde identificatie, tenzij die identificatie afzonderlijk is geverifieerd en bevestigd door ten minste twee natuurlijke personen met de nodige bevoegdheid, opleiding en autoriteit.

De tweepersoonsvereiste is niet van toepassing wanneer het Unierecht of nationaal recht de toepassing van dit vereiste als onevenredig beschouwt.

De rol van de gebruiksverantwoordelijke — artikel 26(2)

Artikel 26(2) maakt de kant van de gebruiksverantwoordelijke bij het toezicht expliciet: gebruiksverantwoordelijken moeten menselijk toezicht toewijzen aan natuurlijke personen met de nodige bevoegdheid, opleiding en autoriteit, alsmede de nodige ondersteuning. De aanbieder levert de middelen; de gebruiksverantwoordelijke levert de mensen, hun opleiding, hun autoriteit en de tijd in hun agenda.

Voor een Noordse HR-tech-gebruiksverantwoordelijke betekent dit dat een met naam genoemde recruiter, hiring manager of HR-operations-lead de menselijke schakel is — niet een naamloze beoordelaar in een leverancierscontract. Hun opleidingsdossier, functiebeschrijving en overschrijvingsautoriteit horen thuis in het artikel 26-register.

Hoe een artikel 14-toezichtsregister eruitziet

Per systeem aanwijzing van de natuurlijke persoon/personen die verantwoordelijk zijn voor het toezicht.
Bewijs van hun bevoegdheid en opleiding (functieprofiel, opleidingslogboek, datum van aftekening).
Autoriteitverklaring: de persoon heeft uitdrukkelijke autoriteit om het systeem te overschrijven of stop te zetten.
Verwijzing naar de artikel 13 gebruiksinstructies van de aanbieder en de door de aanbieder geïdentificeerde toezichtsmaatregelen.
Standaardwerkprocedure voor de 'stop'- of terugdraaiprocedure.
Waar Bijlage III punt 1(a) van toepassing is, het tweepersoonsverificatieprotocol en het logboektemplate.
Periodieke evaluatiecyclus en een incidenttrigger die een herziening afdwingt.

Veelvoorkomende misvattingen

"Een mens in de keten is voldoende." Artikel 14 vereist effectief toezicht. Een beoordelaar die 100% van de outputs goedkeurt omdat de wachtrij te lang is, is bij vermoeden automatiseringsbias, wat artikel 14(4)(b) uitdrukkelijk benoemt.
"De aanbieder zorgt voor het toezicht." De aanbieder ontwerpt de middelen; de gebruiksverantwoordelijke moet de daadwerkelijke mensen toewijzen en financieren (artikel 26(2)) en dit documenteren.
"De tweepersoonsvereiste geldt voor elk biometrisch gebruik." Die geldt specifiek voor systemen voor biometrische identificatie op afstand op grond van Bijlage III punt 1(a). Biometrische categorisering en emotieherkenning vallen onder andere subpunten van Bijlage III en hebben hun eigen regime.
"Toezicht is een eenmalige ontwerpbeslissing." Artikel 14 spreekt over de "periode dat het systeem in gebruik is" — toezicht is operationeel en continu, niet een aftekening bij de livegang.

Verwante EU-gidsen

Bronnen

Verordening (EU) 2024/1689, artikelen 13, 14, 26; Bijlage III — EUR-Lex: eur-lex.europa.eu/eli/reg/2024/1689/oj
Europese Commissie — AI Act Service Desk, artikel 14: ai-act-service-desk.ec.europa.eu/en/ai-act/article-14

Opmerking: De passende toezichtsmaatregelen zijn systeemspecifiek. PowerQuant levert documentatietemplates en beslisregisters die u kunt gebruiken in uw interne complianceproces — geen juridisch advies. Voor systemen die worden gebruikt door entiteiten op het gebied van rechtshandhaving, migratie, justitie of kritieke infrastructuur kunnen aanvullende Unie- of nationale regels van toepassing zijn.