De weg vinden in een digitaal doolhof

VR-bril on steroids

Steeds vaker gebruiken we technologie die bij onze geboortes nog ondenkbaar was. Denk aan een vaccinatie-app op je smartphone als toegangsbewijs voor het theater, of met 12 miljoen mensen een virtueel concert bezoeken in het computerspel Fortnite. Wat ooit alleen in sciencefiction leek te bestaan, is tegenwoordig de werkelijkheid. Na de recente lancering van Apple’s nieuwe eXtended reality-headset verschenen er video’s online van mensen die met deze ‘VR-bril on steroids’ op hun hoofd de snelweg opgingen in een zelfrijdende auto. Een tafereel dat nu voor verbazing zorgt, maar over een tijd misschien wel heel normaal is.

Antwoordapparaat

Dat gebeurt vaker bij de introductie van nieuwe technologieën. Zo creëerde  de invoering van de rekenmachine in het onderwijs in de jaren ‘80 veel weerstand, maar vandaag de dag is de aanschaf ervan op middelbare scholen verplicht. Ook de fameuze documentaire van Frans Bromet uit 1998 illustreert de scepsis ten opzichte van nieuwe technologie. Bromet interviewt mensen op straat over de komst van de mobiele telefoon en krijgt antwoorden als: “Ik heb een antwoordapparaat en dat is prima” en “Dan word ik straks zeker nog gebeld terwijl ik op de fiets zit!”

Die scepsis is in zekere zin logisch. Nieuwe technologie beïnvloedt de manier waarop we met elkaar omgaan en geeft ons werk- en privéleven opnieuw vorm. De mate waarin dat gebeurt kunnen we niet altijd voorzien. Dat roept allerlei ethische en maatschappelijke vragen op. Als reactie daarop worden we overspoeld door een golf van (nieuwe) termen en bewegingen: publieke waarden, responsible innovation, trustworthy AI, ethical AI, values-by-design, AI safety. Er ontstaan ook allerlei nieuwe werkvelden; we hebben digital ethics consultants, privacy officers en ethiekcommissies. De discussie over het verantwoord gebruik van nieuwe technologieën is levendiger dan ooit tevoren, maar soms zorgt dat eerder voor verwarring dan voor verheldering.

Digitaal doolhof

Nieuwe technologie zorgt voor een digitaal doolhof waarvan we de uitgang nog niet hebben gevonden. Beslissers binnen onderwijsorganisaties krijgen een grote lading technologische mogelijkheden, ethische vraagstukken en maatschappelijke zorgen voor hun kiezen, zowel op strategisch als existentieel niveau. Wat moet je daar precies mee en welke keuzes maak je daarin? Welke rol speelt technologie in de toekomst van het onderwijs? En welke verantwoordelijkheden brengt dat met zich mee? Belangrijke vragen, zeker nu steeds meer complexe technologie in het onderwijs wordt geïntegreerd. Maar de vragen zijn niet eenvoudig te beantwoorden, zo beschrijft socioloog David Collingridge het naar hem vernoemde ‘Collingridge dilemma’: “Als verandering gemakkelijk is, kan de noodzaak ervan niet worden voorzien; wanneer de noodzaak tot verandering duidelijk is, is verandering duur, moeilijk en tijdrovend geworden”.

‘Face not found’
Onderwijsinstellingen moeten wel iets met deze vragen, de instelling is namelijk zelf verantwoordelijk voor de technologie die ze gebruiken. Dit werd duidelijk in een recente uitspraak van het College voor de Rechten van de Mens. Een student diende een klacht in tegen een universiteit, omdat de gebruikte tentamensoftware haar zou hebben gediscrimineerd: tijdens het inloggen kreeg zij van de AI-software meldingen als ‘face not found’ of ‘room too dark’. Dat gebeurde volgens de student, omdat het algoritme haar gezicht niet herkende door haar donkere huidskleur. De universiteit werd niet schuldig bevonden aan discriminatie, maar kreeg wel te horen dat een instelling “een zorgplicht heeft om te controleren of de software die zij gebruikt niet-discriminerend werkt, voordat zij deze in gebruik neemt”. 

Hoog-risico toepassingen

Dat bij het gebruik van nieuwe technologie, zoals AI-toepassingen, betrouwbaarheid, rechtvaardigheid en veiligheid centraal moeten staan onderschrijft ook de Europese Commissie in de ethische richtsnoeren voor het gebruik van AI bij het onderwijs. Ook is er op dit moment een AI-verordening in de maak, waarin verplichtingen en eisen beschreven zijn voor ‘hoog-risico’ toepassingen van AI in het onderwijs. AI-systemen die in het onderwijs worden ingezet bij de toelating van studenten, de evaluatie van leeruitkomsten, het kiezen van onderwijspaden en het afnemen van tentamens, worden gezien als ‘hoog-risico toepassingen’, omdat ze invloed kunnen hebben op studiesucces en daarmee op iemands verdere toekomst. Dit bevestigt dat de vragen over de verantwoorde inzet van technologie urgent zijn.

Geen hapklare antwoorden

Maar…. hoe doe je dat dan, verantwoord omgaan met nieuwe technologie? Dat gaat verder dan compliance en wetgeving, het gaat ook over het uitoefenen van ethiek. En dat is helaas geen duidelijk afgebakende activiteit die hapklare antwoorden oplevert. Maar wat dan wel?

Ik denk dat het formuleren van je morele ambities een goede eerste stap is. Creëer vervolgens een omgeving waarin ruimte is voor (beladen) gesprekken over ethische dilemma’s. Zorg hierbij voor inclusie: betrek zoveel mogelijk mensen op wie dit onderwerp impact heeft. Houd jezelf verantwoordelijk voor je beslissingen en deel je ervaringen met anderen. En besef: dit is een lerend proces. Niemand heeft nog de antwoorden, maar daar kunnen we wel samen naar op zoek.

Lees meer in het discussiepaper over ‘Responsible Tech’

Welke ethische vraag rondom digitalisering speelt er bij jou? Laat het ons weten in de comments hier beneden. Of weet ons te vinden op responsibletech@surf.nl.