AI en kansengelijkheid: handreiking voor een zo positief mogelijke impact

Wat je als onderwijsinstelling zelf kunt doen

Onderwijsinstellingen kunnen zelf veel doen om AI-toepassingen goed te gebruiken in het onderwijs. Voor een overzicht van mogelijke oplossingen gebruiken we een indeling van Sennay Ghebreab, hoogleraar Socially Intelligent AI. Hij deelt oplossingen in vijf gebieden: Purpose (waarom), People & perspectives (voor wie), Past & present (waarmee), Processes & procedures (hoe) en Participation & practice (met wie). De oplossingen zijn gebaseerd op wat alle geïnterviewden, literatuur, medewerkers uit het onderwijs en lopende projecten van Npuls en SURF hebben opgeleverd. 

“Hou in de gaten dat AI geen vervanging is voor menselijke contact, dat het ondersteunend is en dat je ook nee kunt zeggen.”

Monique Leygraaf, Lector Kansengelijkheid

Om kansengelijkheid en AI goed met elkaar te laten samenwerken, kunnen instellingen onderstaande oplossingen toepassen.

1. Purpose

Kies kansengelijkheid als een van de doelen voor de inzet van AI

• Denk als docent of onderwijsinstelling goed na over het doel van het gebruik van AI. Gebruik hiervoor bijvoorbeeld de WaardenWijzer voor digitalisering in het onderwijs van SURF, het Ethiekkompas van Kennisnet of de ethische overwegingen van de Europese Unie.
• Een belangrijk doel moet zijn om het onderwijs te verbeteren en kansengelijkheid te vergroten. Maak eerst duidelijk wat je met elkaar precies onder kansengelijkheid verstaat: gelijke kansen op toegang tot onderwijs, op een diploma, op werk of een vervolgstudie, of ook op culturele en sociale ontwikkeling. Besef dat kansengelijkheid soms betekent dat studenten ongelijk behandeld moeten worden om tot dezelfde resultaten te komen met bijvoorbeeld extra uitleg, begeleiding of tijd.
• Integreer in de ontwikkeling van het onderwijs als team van docenten het gebruik van AI en de impact op kansengelijkheid in een leerplan op alle niveaus van het onderwijs. Op het niveau van de leerling (nano), van de groep (micro), van onderwijsinstelling of opleiding (meso) en de landelijke kerndoelen of eindtermen (macro). Besteed aandacht aan digitale vaardigheden – waaronder het gebruik van AI – in het curriculum.
• Zet AI niet in de eerste plaats in om tijd te besparen, bijvoorbeeld bij het nakijken van toetsen, of om studenten te controleren, zoals bij het opsporen van fraude. Zet AI in om kansengelijkheid te vergroten.
• Zorg voor een balans tussen menselijk contact en AI. Vervang ze niet door elkaar, maar laat ze elkaar aanvullen zodat ze elkaar verrijken. Vraag jezelf altijd af: is AI echt nodig en helpt het bij wat je met het onderwijs wilt bereiken? Soms wordt AI gebruikt omdat het een hype is en onderwijsinstellingen bang zijn om achter te blijven. 

2. People & perspectives

Betrek een breed publiek en meerdere manieren van kijken bij het maken of inzetten van AI

• Betrek verschillende groepen mensen met diverse achtergronden bij het ontwikkelen en gebruiken van AI. Dit gaat om zowel werkervaringen als persoonlijke ervaringen. Zorg dat deze perspectieven in alle lagen van de organisatie een plek krijgen: in het bestuur, onder het personeel en in de medezeggenschap. Onderzoek systemische ongelijkheid in je eigen instelling. Ook hiervoor is het Ethiekkompas van Kennisnet is een goed hulpmiddel.
• Wees je ervan bewust dat algemene AI-oplossingen soms niet goed passen bij specifieke situaties op jouw onderwijsinstelling of de persoonlijke situatie van een student. Zo kan bijvoorbeeld een adaptief assessment dat is ontwikkeld in de VS niet goed werken voor studenten met een taalachterstand.
• Denk in termen van ‘verschil’ in plaats van ‘tekort’. In een eerlijke samenleving zorg je ervoor dat iedereen, ondanks verschillen, goed kan meedoen. In het onderwijs wordt vaak gekeken naar wat leerlingen niet kunnen, in plaats van naar wat ze wel kunnen. Houd rekening met persoonlijke omstandigheden van studenten. Als je AI gebruikt, zorg er dan voor dat deze manier van denken wordt meegenomen in de ontwikkeling en het gebruik.
• Zorg ervoor dat AI niet alleen wordt gebruikt voor individuele toepassingen die bestaande verschillen nog verder kunnen vergroten. Kijk of AI ook kan helpen om studenten met elkaar te verbinden en een gevoel van gemeenschap te versterken. 

3. Past & present

Wees je bewust van bias in data en onderzoek de effecten van de inzet van AI-toepassingen

• Wees je ervan bewust dat de data die gebruikt wordt voor AI-toepassingen vooroordelen (bias) kunnen hebben. Onderzoek aan de hand van concrete cases welk vooroordelen dat zijn en neem maatregelen voordat je de toepassing gaat gebruiken. Zorg dat docenten getraind zijn om hun eigen vooroordelen en die van AI te herkennen en daarmee rekening te houden.
• Vraag aan leveranciers welke vooroordelen in hun AI-toepassingen zitten en hoe ze die aanpakken, zodat de toepassing eerlijk is voor alle studenten. Leg zo goed mogelijk aan studenten uit hoe voorspelmodellen die worden gebruikt werken, welke gegevens zijn onderzocht en welke rol die gegevens spelen in het model. Geef studenten de mogelijkheid om te kiezen of ze – als er een AI-toepassing of voorspelmodel wordt aangeboden – daar wel of geen gebruik van willen maken. Licht ze daarbij goed voor over de persoonlijke voor- en de nadelen van het gebruik.
• Ontwikkel AI-toepassingen speciaal voor studentengroepen die niet doorsnee zijn, zoals studenten met een migratieachtergrond, neurodiverse studenten of studenten met een visuele of auditieve beperking. Ga ervan uit dat studenten in je onderwijsinstelling meer divers zijn dan je denkt.
• Zet AI-toepassingen in die studenten feedback op maat geven en goed aansluiten bij persoonlijke leerpaden, maar houd de docent in de lead. Ontwerp die toepassingen zo dat ze studenten helpen om te gaan met tegenslagen en meer zelfvertrouwen te krijgen.
• Onderzoek wat de effecten van een AI-toepassing zijn op studenten en docenten. Leidt de inzet van een AI-taalassistent bijvoorbeeld tot meer kansengelijkheid onder Caribische studenten? Pas de toepassing aan als dat nodig is.

4. Processes & procedures 

Wees transparant en verantwoordelijk

• Kijk welke AI-toepassingen er in je onderwijsinstelling worden gebruikt, wie daarvoor verantwoordelijk is, wat deze toepassingen precies doen en of ze genoeg rekening houden met kansengelijkheid. Maak dit overzicht begrijpelijk en openbaar. Npuls heeft een praktisch format hiervoor gemaakt in het landelijke algoritmeregister voor onderwijs.
• Onderzoek of alle studenten toegang hebben tot goede digitale hulpmiddelen, zoals een goede laptop en software, en of ze weten hoe ze die moeten gebruiken. Organiseer deze toegang als deze er niet blijkt te zijn. Maak digitale vaardigheden een vast onderdeel van de basisvaardigheden die studenten leren.
• Leg aan studenten en docenten uit hoe AI gebruikt kan en mag worden in het onderwijs. Maak duidelijk bij wie studenten terecht kunnen met vragen en wie is er binnen de onderwijsinstelling verantwoordelijk voor het AI-gebruik. Zorg dat iedereen via de onderwijsinstelling toegang heeft tot AI. Sluit hierbij aan bij landelijke initiatieven zoals het EduGenAI platform van Npuls.
• Zorg er daarnaast voor dat AI op een zorgvuldige en verantwoorde manier wordt ingezet in het onderwijs, zodat het bijdraagt aan gelijke kansen voor alle studenten en hen op de juiste manier ondersteunt in hun leerproces. Evalueer het beleid meerdere keren per jaar om mee te gaan met nieuwe ontwikkelingen.
• Let op eventuele bias bij fraudezaken die worden behandeld door examencommissies. Gebruik eventueel AI om tegenspraak te organiseren in de vorm van alternatieve ideeën en standpunten.

5. Participation & practice 

Betrek studenten en docenten en werk samen met andere onderwijsinstellingen

• Betrek docenten en studenten die invloed kunnen ondervinden van een AI-systeem. Denk daarbij aan het testen, volgen en verbeteren van AI, maar ook aan het ontwikkelen van lesmateriaal over AI of regels.
• Houd rekening met de verschillende ideeën van docenten over hoe zij lesgeven en studenten begeleiden. Stel ook hier de waarden uit de WaardenWijzer centraal en betrek alle gebruikers in een ethisch gesprek met bijvoorbeeld de hulp van het ethiekkompas.
• Zoek de samenwerking hierin op met andere onderwijsinstellingen en lopende initiatieven in Npuls, SURF, Kennisnet en NRO.
• Investeer in kennis en expertise over AI binnen je onderwijsinstelling.

Het afgelopen halfjaar publiceerden we hier op de Vraagbaak een serie blogposts over de Visie AI en kansengelijkheid van Npuls. Elk artikel ging in op een ander deel van de visie: in deel 1 bespreken we de mogelijke voor- en nadelen van AI voor kansengelijkheid. Daarna verduidelijkten we de begrippen AI, studiedata en kansengelijkheid in deel 2. En tot slot gaven we in dit derde deel advies aan collega’s van onderwijsinstellingen en landelijke initiatieven, zoals Npuls en Kennisnet, in de vorm van een praktische handreiking. 

Cases uit de praktijk

De voorbeelden die we in de blogposts aanhalen, voorzien we zoveel mogelijk van nieuwe cases. Heb je een interessante case die we kunnen meenemen? Laat het weten via Theo Bakker.

Wil je het liefst direct aan de slag? Lees dan alvast de hele visie via de website van Npuls.

Bronnen 

1. Ghebreab, S. (2022). Fair & Inclusive AI is not (only) about technology. Van https://www.womeninc.nl/wp-content/uploads/2022/05/WOMEN-Inc.-congres-1…. Zie ook het Responsible Tech model van SURF dat inhoudelijk hierbij aansluit. Baten, D., & Walker, J. (2023). Responsible Tech: On Public Values and Emerging Technologies (pp. 1–20). Utrecht: SURF. https://doi.org/10.5281/zenodo.10054653
2. Autoriteit Persoonsgegevens. (2024). Sectorbeeld Onderwijs 2021-2023 (pp. 1–12). Van https://www.autoriteitpersoonsgegevens.nl/documenten/sectorbeeld-onderwijs-2021-2023
3. Bulathwela, S., Pérez-Ortiz, M., Holloway, C., Cukurova, M., & Shawe-Taylor, J. (2024). Artificial Intelligence Alone Will Not Democratise Education: On Educational Inequality, Techno-Solutionism and Inclusive Tools. Sustainability, 16(2), 781. doi: 10.3390/su16020781
4. Kizilcec, R. F., & Lee, H. (2020). Algorithmic Fairness in Education. arXiv. doi: 10.48550/arxiv.2007.05443
5. Smeets, E., Geurts, R., & Helvoirt, D. van. (2024). Algoritmen in het onderwijs. Een onderzoek in opdracht van het College voor de Rechten van de Mens (pp. 1–39). KBA Nijmegen/ResearchNed.
6. Wise, A. F., Martinez-Maldonado, R., Hilliger, I., Williamson, K., & Kizilcec, R. (2022). A Review of Learning Analytics Dashboard Research in Higher Education: Implications for Justice, Equity, Diversity, and Inclusion. LAK22: 12th International Learning Analytics and Knowledge Conference, 260–270. doi: 10.1145/3506860.3506900
7. Bok, C., Veld, I. H. in ’t, Bomas, E., Dondorp, L., & Pijpers, R. (Zonder datum). WaardenWijzer voor digitalisering in het onderwijs. Kennisnet en SURF. Van Kennisnet en SURF website: https://www.surf.nl/files/2021-09/waardenwijzer_def.pdf.
8. Gebruik ook het Ethiekkompas van Kennisnet om ethische vraagstukken verder te verduidelijken. Handleiding Ethiekkompas - Kennisnet. (2021). Van https://maken.wikiwijs.nl/156828/
9. Een goede aanvulling zijn de ethische overwegingen van de Europese Unie. (2022). Ethische richtsnoeren voor het gebruik van artificiële intelligentie (AI) en data bij onderwijzen en leren voor onderwijsactoren (pp. 1–40). Van https://op.europa.eu/nl/publication-detail/-/publication/d81a0d54-5348-11ed-92ed-01aa75ed71a1/language-en.
10. Een goed document om als onderwijsinstelling na te denken over de invulling van kansengelijkheid is de Denkplaat Kansengelijkheid en digitalisering van Kennisnet. Denkplaat Kansengelijkheid en digitalisering - Kennisnet. (Zonder datum). Van https://www.kennisnet.nl/tools/denkplaat-kansengelijkheid-digitalisering/.
11. Zie Thijs, A., & van den Akker, J. (2009). Leerplan in ontwikkeling. Stichting Leerplan Ontwikkeling (SLO) voor een verdere uitwerking van de leerplanproducten per leerplanniveau.
12. Zie de oratie van Inge Molenaar, Mens-AI samenwerking in onderwijs: De hybride toekomst, uitgesproken op 26 september 2024. https://www.ru.nl/over-ons/nieuws/terugblik-oratie-inge-molenaar-heel-veel-lijnen-naar-de-toekomst
13. Zie Crul, M. R. J., Schneider, J., & Lelie, F. (2013). Superdiversiteit. Een nieuwe visie op integratie. VU University Press. https://www.elitesproject.eu/publications/books.