John Walker
Young professional from Montana, USA. I currently work on projects for… Meer over John Walker
Verantwoordelijkheid nemen
Al een paar jaar houden we ons bezig met responsible tech. Dit is meer geworden dan alleen een discussie over technologie; responsible tech is een methode om technologie vorm te geven zonder de publieke waarden uit het oog te verliezen. Van besluitvorming tot toepassingsprocessen, responsible tech beïnvloedt de strategie en de praktijk die sturing geven aan onze technologische innovaties en hun gebruik in de echte wereld.
Publieke waarden zorgen voor een gedeelde taal, een gemeenschappelijke basis. Die gedeelde taal kan helpen om de dialoog te voeren over wat we verstaan onder verantwoorde technologie, wat het moet het bereiken, en hoe het er in de toekomst uit zou moeten zien. Hiermee creëren we ruimte voor het bespreken van moeilijke onderwerpen, zoals wat voor soort virtuele ervaringen we willen creëren voor het onderwijs, welke AI-systemen we betrouwbaar vinden voor onderzoeksinstellingen en zelfs welke wenselijke toekomstscenario’s we samen willen bereiken.
Recente ontwikkelingen in baanbrekende technologieën, zoals AR-brillen of nieuwe taalmodellen, leiden tot bezorgdheid binnen het onderwijs, met dringende discussies over de rol van ethiek in technologie tot gevolg. Er rijzen belangrijke vragen: Wat is verantwoorde technologie? In welke vorm kan technologie onze publieke waarden weerspiegelen? En hoe kan de maatschappij zich voorbereiden op toekomstige ontwrichtende technologieën?
Dit is de basis van discussies over responsible tech.
Verantwoordelijkheid in essentie
Responsible tech gaat in essentie over onze ambities, over waar we naar streven. In tegenstelling tot formele concepten zoals aansprakelijkheid en verantwoording, draait verantwoordelijkheid om de intentie om het beter te doen. Misschien zelfs om een gevoel van verplichting richting een betere wereld.
’Verantwoording’ betekent dat je eigenaarschap toont over je acties en de effecten daarvan, en ‘aansprakelijkheid’ heeft betrekking op juridische verantwoordelijkheid. Hoewel dit onderscheid niet altijd intuïtief is, is het wel cruciaal. Denk aan de term ‘verantwoord drinken’: we vinden het relatief makkelijk om te begrijpen wat ‘verantwoord’ in deze context betekent als het gaat om het gebruik van alcohol. Misschien moeten we deze betekenis van ‘verantwoord’ dan ook uitbreiden naar het gebruik van technologie?
Verantwoordelijkheid als praktijk
Het verkennen van de filosofie en theorie achter responsible tech brengt het verschil tussen ‘verantwoordelijkheid in de praktijk’ en ‘verantwoorde systemen’ aan het licht. Terwijl het laatste gaat over de plicht om verantwoordelijk gebruik van systemen te stimuleren, richt ‘verantwoordelijkheid als praktijk’ zich op het ontwikkelen van verantwoordelijkheid als een praktische vaardigheid.
Filosofe Helen Nissenbaum wijst factoren zoals ‘gedeelde verantwoordelijkheid’ en ‘technologie als zondebok’ aan als redenen voor een gebrek aan verantwoordelijkheid. Ze stelt dat maatschappelijke systemen er niet in slagen om verantwoordelijkheid te ondersteunen, een cruciaal gat in ethische techpraktijken. Dit perspectief kan nuttig zijn om nieuwe technologieën in onze onderwijs- en onderzoeksinstellingen beter te begrijpen. Denk bijvoorbeeld aan extendedrealitytechnologieën waarbij ethische overwegingen steeds belangrijker worden.
XR-technologie, de markt en onze instellingen
Vaak wordt de markt gezien als scheidsrechter voor ethische normen, maar deze benadering heeft beperkingen. Verkeerd omgaan met biometrische gegevens bij XR-technologieën kan bijvoorbeeld ernstige gevolgen hebben. Dit vereist een zorgvuldige afweging van de prioriteiten van een organisatie en welke invloed deze hebben op de ontwikkeling van technologie.
Bij het bespreken van waarden, vooral bij extendedrealitytechnologieën (XR), is het belangrijk om je af te vragen om wiens waarden het gaat. Neem bijvoorbeeld Apple's Vision Pro-headset. Aanvullend op het gestroomlijnde ontwerp dat de Vision Pro gebruikt om de gebruikerservaring te verbeteren, brengt het apparaat de omgeving rondom gebruikers in kaart om digitale elementen te integreren in de echte wereld. Voor mensen lijken deze gedetailleerde kaarten misschien onschuldige draadmodellen, maar voor computers onthullen ze een schat aan informatie. Vision Pro-apps hebben toegang tot deze gegevens met toestemming van de gebruiker, net zoals iPhone-apps locatiegegevens opvragen. Dit leidt tot grote zorgen over de privacy, omdat het risico op misbruik publieke waarden als privacy, zelfbeschikking en veiligheid in gevaar brengt.
In een recent rapport benadrukt het Rathenau Instituut deze zorgen en waarschuwt voor de ernstige bedreigingen die de mainstream-acceptatie van immersive technologieën met zich meebrengt. Naarmate XR-hardware en -toepassingen toegankelijker worden, wordt het risico op grootschalige verzameling van gegevens steeds groter.
Instellingen die deze technologieën willen gebruiken doen er goed aan om deze uitdagingen proactief aan te pakken, zodat ze de ontwikkeling en integratie van XR-technologieën zodanig kunnen sturen dat ethische overwegingen en publieke waarden prioriteit krijgen. Een open dialoog, diepgaande reflectie en proactieve strategieën zijn essentieel om te zorgen dat de ethiek zich even snel ontwikkelt als de technologische vooruitgang. In het ideale geval is dat vóórdat een technologische toepassing massaal is omarmd.
Maar wie bouwt er dan aan de toekomstige virtuele werelden voor onderwijs en onderzoek? Hoe werken we hierin samen en welke waarden geven we prioriteit? Responsible tech navigeert door deze spanningsvelden en faciliteert een productievere discussie en actie.
Vooruitgang boeken met responsible tech - onze aanbevelingen
Kunnen we meer doen om responsible tech te promoten? De sleutel ligt in het betrekken van de gemeenschap en het inzetten van beschikbare middelen. Daarom benadrukken we dat het belangrijk is om ethiek met behulp van gestructureerde benaderingen en praktische hulpmiddelen te integeren in de toepassing van technologie.
In onze discussion paper 'On Responsible Tech' introduceren we richtlijnen hiervoor. De paper biedt modellen en nuttige hulpmiddelen die ethische besluitvorming ondersteunen en de betrokkenheid van belanghebbenden vergroten. We pleiten ook voor het instellen van beoordelingscommissies, het stimuleren van transparantie en het delen van best practices door de community. Dit zorgt ervoor dat technologieën, nu ze hun intrede doen in onze instellingen, meer in lijn zijn met publieke waarden en ethische normen. Hierdoor stimuleren we verantwoorde innovatie waar onze leden op de lange termijn van profiteren.
Ga voor meer informatie over onze aanbevelingen en ons responsibletech-model naar https://www.surf.nl/en/themes/public-values/responsible-tech-this-is-how-we-ensure-new-technologies-meet-public-values. Laten we de handen ineen slaan en er samen voor zorgen dat nieuwe technologieën voldoen aan onze publieke waarden.
Neem contact met ons op via responsibletech@surf.nl
0 Praat mee