PowerQuantNLStuur uw vragenlijst

Artikel 5 van Verordening (EU) 2024/1689 verbiedt het in de handel brengen, in gebruik stellen of gebruiken van bepaalde AI-praktijken in de Unie. De verboden zijn handhaafbaar sinds 2 februari 2025 (artikel 113(a)). Overtreding van artikel 5 levert de hoogste sanctie op grond van artikel 99(3) op — tot EUR 35 miljoen of 7% van de wereldwijde jaaromzet, naargelang welk bedrag hoger is.

De acht verboden categorieën

  1. Art. 5(1)(a) — Subliminale, manipulatieve of bedrieglijke technieken. AI-systemen die subliminale technieken inzetten buiten het bewustzijn van een persoon, of doelbewust manipulatieve of bedrieglijke technieken, met als doel of effect het materieel vervormen van gedrag door het beoordelingsvermogen voor een geïnformeerde beslissing aanzienlijk aan te tasten, waardoor aanzienlijke schade wordt veroorzaakt of redelijkerwijs kan worden veroorzaakt.

  2. Art. 5(1)(b) — Misbruik van kwetsbaarheden. AI-systemen die misbruik maken van kwetsbaarheden van een natuurlijk persoon of een specifieke groep personen als gevolg van hun leeftijd, handicap of een specifieke sociale of economische situatie, met als doel of effect het materieel vervormen van hun gedrag op een wijze die aanzienlijke schade veroorzaakt of redelijkerwijs kan veroorzaken.

  3. Art. 5(1)(c) — Sociale scoring. AI-systemen voor de evaluatie of classificatie van natuurlijke personen of groepen over een bepaalde periode op basis van hun sociale gedrag of bekende, afgeleide of voorspelde persoonlijke of persoonlijkheidskenmerken, waarbij de sociale score leidt tot nadelige of ongunstige behandeling in sociale contexten die losstaan van die waarin de gegevens zijn gegenereerd, of tot ongerechtvaardigde of disproportionele behandeling.

  4. Art. 5(1)(d) — Voorspellende opsporing uitsluitend op basis van profilering. AI-systemen voor het beoordelen van het risico dat natuurlijke personen lopen om een strafbaar feit te plegen, uitsluitend op basis van profilering of het beoordelen van persoonlijkheidskenmerken en -eigenschappen. Uitzondering voor systemen die worden gebruikt ter ondersteuning van de menselijke beoordeling van de betrokkenheid van een persoon bij een strafbaar feit die reeds is gebaseerd op objectieve en verifieerbare feiten.

  5. Art. 5(1)(e) — Niet-gerichte scraping van gezichtsbeelden. AI-systemen die gezichtsherkenningsdatabases aanleggen of uitbreiden via niet-gerichte scraping van gezichtsbeelden van het internet of CCTV-beelden.

  6. Art. 5(1)(f) — Emotieherkenning op de werkplek en in onderwijsinstellingen. AI-systemen die worden gebruikt om emoties van een natuurlijk persoon op de werkplek en in onderwijsinstellingen af te leiden. Beperkte uitzondering voor systemen die bestemd zijn voor gebruik of het in de handel brengen om medische of veiligheidsredenen.

  7. Art. 5(1)(g) — Biometrische categorisering op basis van gevoelige kenmerken. Biometrische categoriseringssystemen die individuele natuurlijke personen categoriseren op basis van hun biometrische gegevens om hun ras, politieke opvattingen, vakbondslidmaatschap, religieuze of filosofische overtuigingen, seksueel leven of seksuele gerichtheid af te leiden of te infereren. Beperkte uitzonderingen voor de etikettering en filtering van rechtmatig verkregen biometrische datasets en voor de categorisering van biometrische gegevens op het gebied van rechtshandhaving.

  8. Art. 5(1)(h) — 'Realtime' biometrische identificatie op afstand in openbare ruimten voor rechtshandhaving. Het gebruik van 'realtime' biometrische identificatiesystemen op afstand in openbaar toegankelijke ruimten voor rechtshandhavingsdoeleinden, met drie beperkte uitzonderingen onder de waarborgen van art. 5(2)–(7) (gericht slachtofferzoeken, voorkoming van een specifieke en actuele dreiging inclusief een terroristische aanslag, identificatie van een verdachte van een ernstig misdrijf).

Waarom het verbod op emotieherkenning op de werkplek relevant is voor HR-tech

Artikel 5(1)(f) is het verbod dat het meest relevant is voor gebruiksverantwoordelijken van HR-tech. Het geldt op de werkplek ongeacht de functie van het personeel, de toestemming van de betrokkene of de commerciële intentie. Het bestrijkt bijvoorbeeld AI-functies die geluk, stress, woede of betrokkenheid afleiden uit stem, gezichtsuitdrukking of lichaamstaal tijdens sollicitatiegesprekken, functioneringsgesprekken of routinematige werkplekbewaking.

De uitzondering voor medische redenen of veiligheidsredenen is beperkt: het systeem moet bestemd zijn voor die doeleinden, en niet slechts in staat zijn op die manier te worden gebruikt. Welzijnsdashboards en betrokkenheidsanalyses die een emotionele toestand afleiden, komen niet in aanmerking voor de uitzondering.

Overweging 18 en overweging 44 maken onderscheid tussen het infereren van emoties (verboden op de werkplek en in het onderwijs) en het detecteren van fysieke toestanden zoals vermoeidheid (niet verboden). Een slaperigheidsdetector voor een veiligheidsysteem voor vrachtwagenchauffeurs kan derhalve worden voortgezet; een sollicitatiegesprekstool die de emotionele toestand van de kandidaat beoordeelt, kan dat niet.

Richtsnoeren van de Commissie — februari 2025

Op 4 februari 2025 heeft de Europese Commissie richtsnoeren gepubliceerd over verboden kunstmatige-intelligentiepraktijken als bedoeld in Verordening (EU) 2024/1689. De richtsnoeren lichten elk subparagraaf van artikel 5 toe, de uitzonderingen en de verhouding tot andere Uniewetgeving (AVG, Richtlijn rechtshandhaving, Handvest van de grondrechten). Ze zijn niet bindend maar weerspiegelen het handhavingsstandpunt van de Commissie.

Boeterisico (art. 99(3))

Artikel 99(3) stelt de hoogste boetecategorie vast voor overtredingen van artikel 5: tot EUR 35 000 000 of, indien de overtreder een onderneming is, tot 7% van de totale wereldwijde jaaromzet over het voorgaande boekjaar, naargelang welk bedrag hoger is. Artikel 99(6) stelt een lager maximum (het laagste van de twee bedragen of percentages) vast voor kmo's inclusief start-ups.

Nationale toezichtauthoriteiten van de lidstaten passen de handhaving van artikel 5 toe op nationaal niveau; voor bepaalde praktijken (artikel 5(1)(h)) gelden vergunningstelsels voorafgaand aan het gebruik.

Screeningchecklist voor gebruiksverantwoordelijken

  • Controleer voor elk AI-systeem in de inventaris: is er sprake van een trigger uit artikel 5? Gedocumenteerd ja/nee met redenering.
  • HR-tech-systemen: expliciete controle op functies voor het afleiden van emoties (art. 5(1)(f)).
  • Betrokkenheids-/welzijnstools: bevestig dat zij geen emotionele toestand afleiden.
  • Contractclausule van de aanbieder die vereist dat de leverancier bevestigt dat er geen praktijk uit artikel 5 van toepassing is.
  • Procedure om het gebruik te staken indien een verboden functie later door de aanbieder wordt toegevoegd.
  • Artikel 4-opleidingsdekking die de acht categorieën van artikel 5 vermeldt.

Veelvoorkomende misvattingen

  • "Toestemming maakt het toegestaan." Artikel 5 verbiedt de praktijk; toestemming van de betrokkene maakt die niet toegestaan.
  • "Emotie-AI is toegestaan als het als welzijn wordt gepresenteerd." Indien het systeem de emotionele toestand van personeel op de werkplek afleidt, is het label niet relevant — art. 5(1)(f) is van toepassing.
  • "Artikel 5 treft alleen aanbieders." Het verbod bestrijkt het in de handel brengen, het in gebruik stellen en het gebruiken. Gebruiksverantwoordelijken die een verboden systeem gebruiken, zijn evenzeer blootgesteld.
  • "Artikel 5 gaat pas in augustus 2026 in." Nee. Artikel 5 is handhaafbaar sinds 2 februari 2025 (artikel 113(a)).

Gerelateerde EU-gidsen

Bronnen

Noot: Of een specifieke functie onder artikel 5 valt, hangt af van het ontwerp, het beoogde doel en het effect van het systeem — van geval tot geval kan juridisch advies nodig zijn. PowerQuant levert software en documentatie voor gebruik in uw interne nalevingsproces — geen juridisch advies.

PowerQuant Module 1

AI-inventaris plus een screeningmatrix voor artikel 5 en een attestatiedossier van de aanbieder, geleverd binnen 5 werkdagen. Vaste prijs, geen abonnement.