Onderwijsinstellingen die AI-systemen gebruiken voor toelating, beoordeling of examentoezicht vallen in hoge mate onder de AI-verordening. Veel scholen, universiteiten, beroepsopleidingen en edtech-organisaties kopen kant-en-klare AI-tools in en denken dat de verantwoordelijkheid uitsluitend bij de bouwer van het systeem ligt. Zo is het niet. Wie een AI-systeem in gebruik neemt, draagt eigen, zelfstandige verplichtingen onder de verordening. Deze pagina legt uit wat dit betekent voor de onderwijssector en hoe u zich voorbereidt op inkoop en toezicht.

Uw rol: aanbieder (provider) of gebruiksverantwoordelijke (deployer)

De AI-verordening onderscheidt twee rollen. Een aanbieder is degene die een AI-systeem ontwikkelt en onder eigen naam op de markt brengt. Een gebruiksverantwoordelijke is de organisatie die het AI-systeem in haar werkzaamheden gebruikt. Een school die een toelatingstool inkoopt is doorgaans een gebruiksverantwoordelijke, terwijl de systeemontwikkelaar de aanbieder is.

Let op dat de rol kan veranderen. Volgens artikel 25 kan een gebruiksverantwoordelijke worden geherclassificeerd als aanbieder – bijvoorbeeld als u een hoogrisicosysteem wezenlijk wijzigt of er uw eigen naam op zet. Dan neemt u de volledige verplichtingen van de aanbieder over. Daarom is het belangrijk dat u vroeg voor elk afzonderlijk systeem uw rol vaststelt.

Onderwijs-AI als hoog risico volgens Bijlage III

De kern voor de onderwijssector ligt in Bijlage III punt 3, dat verschillende veelvoorkomende AI-toepassingen als hoog risico classificeert. Het gaat om AI-systemen voor toegang en toelating tot onderwijs, AI die wordt gebruikt om studieresultaten te beoordelen, en AI om fraude bij examens te bewaken en op te sporen. Deze systemen beïnvloeden iemands toegang tot onderwijs en zijn of haar toekomstige kansen, en vallen daarom onder de strengste eisen.

Daarnaast moet u Bijlage III punt 4 over wervings-AI in overweging nemen, dat relevant wordt wanneer u AI-ondersteuning gebruikt bij het aanwerven van docenten en ander personeel. Ook deze systemen zijn hoog risico.

Verplichtingen van de gebruiksverantwoordelijke (artikel 26)

Als gebruiksverantwoordelijke van een hoogrisicosysteem heeft u volgens artikel 26 onder meer de volgende verplichtingen: het systeem gebruiken in overeenstemming met de instructies van de aanbieder, menselijk toezicht door bekwaam personeel waarborgen, de werking van het systeem monitoren en ernstige incidenten melden, en logbestanden bewaren. U dient ook betrokken studenten en personeel te informeren dat er een hoogrisicosysteem wordt gebruikt.

Een basisvoorwaarde is dat u overzicht heeft over welke AI-systemen zich in de organisatie bevinden. De verplichting om voldoende AI-geletterdheid bij het personeel te waarborgen (artikel 4) geldt sinds 2 februari 2025, evenals het verbod op bepaalde AI-toepassingen (artikel 5).

Menselijk toezicht en FRIA (artikel 14 en 27)

Bij de beoordeling van studenten is menselijk toezicht volgens artikel 14 doorslaggevend. Een AI-systeem mag niet als enige het cijfer, de toelating of een fraudebeschuldiging van een student bepalen – een bevoegde mens moet de output van het systeem kunnen begrijpen, controleren en terzijde schuiven.

Bent u een openbare onderwijsinstelling, dan komt daar artikel 27 bij, dat een effectbeoordeling op het gebied van de grondrechten (FRIA) vereist voordat een hoogrisicosysteem in gebruik wordt genomen. De beoordeling dient onder meer te beschrijven hoe het systeem wordt gebruikt, welke groepen worden geraakt en welke risico's voor de grondrechten er bestaan.

Tijdlijn

• 2 februari 2025: Artikel 4 (AI-geletterdheid) en artikel 5 (verboden praktijken) in werking.
• 2 augustus 2026: Artikel 50 (transparantie) en de verplichtingen voor gebruiksverantwoordelijken van hoogrisicosystemen volgens Bijlage III gaan gelden.
• Voorstel: De Digital Omnibus stelt voor om de toepassing van Bijlage III uit te stellen tot 2 december 2027. Het voorstel is op 16 juni 2026 door het Europees Parlement goedgekeurd, maar de Raad wacht op publicatie in het EU-Publicatieblad en het is nog niet in werking. Plan op basis van 2 augustus 2026 totdat anders is bevestigd.

Sancties

De sancties volgens artikel 99 zijn voelbaar. Voor overtreding van de verboden in artikel 5 kunnen boetes oplopen tot 35 miljoen EUR of 7 procent van de wereldwijde jaaromzet. Voor overtredingen van de hoogrisico-eisen en artikel 50 geldt tot 15 miljoen EUR of 3 procent. Voor onjuiste informatie aan autoriteiten geldt tot 7,5 miljoen EUR of 1 procent.

Voorafgaand aan inkoop

• Breng in kaart of het systeem onder Bijlage III punt 3 (onderwijs) of punt 4 (werving) valt.
• Vraag de technische documentatie en gebruiksaanwijzing van de aanbieder op.
• Stel uw rol volgens artikel 25 vast voordat u het systeem aanpast.
• Plan menselijk toezicht (artikel 14) bij elke beoordeling van studenten.
• Bereid een FRIA (artikel 27) voor als u een openbare onderwijsinstelling bent.
• Waarborg de AI-geletterdheid van het personeel (artikel 4) en stem af met uw NIS2-verplichtingen.

PowerQuant wordt geleverd als documentatieondersteuning: Module 1 (AI-inventarisatie + Artikel 4-register) en Module 2 (Documentatiepakket aanbieder). SEK-prijzen zijn voorlopig.

Deze pagina bevat algemene informatie over de AI-verordening en vormt geen juridisch advies.