Project R-14463

R-EduAI - Sociaal-technologisch referentiekader ter bevordering van verantwoorde AI in onderwijs (Onderzoek)

Onderwijsinstellingen en ontwikkelaars van AIED worden steeds vaker geconfronteerd met de noodzaak om 'verantwoorde' AIED te ontwikkelen. Een manier om deze verantwoordelijkheid te nemen, is door systemen 'begrijpelijker' te maken. Echter, onderwijsinstellingen missen vaak het beleidsvoerend vermogen dat nodig is om deze verantwoordelijkheid te nemen. Aan de andere kant is het voor ontwikkelaars niet vanzelfsprekend om 'begrijpelijke' AIED te ontwerpen, aangezien het moeilijk voor hen is om de impact ervan op individuen, onderwijsinstellingen en de samenleving als geheel te beoordelen. Daarnaast compliceert de neiging van ontwikkelaars om generieke AI-systemen te creëren, in plaats van ze af te stemmen op de unieke doelstellingen van onderwijsinstellingen, de ontwikkeling van begrijpbare systemen. Ons algemene onderzoeksdoel is het bewaken en versterken van publieke belangen in Artificiële Intelligentie in het Onderwijs (AIED). Onze onderzoeksvraag luidt: Hoe kan ELSA (Ethical, Legal and Social Aspects) ingebed worden in AIED? We stellen voor om dit probleem te onderzoeken en aan te pakken door een sociaal-technologisch referentiekader te conceptualiseren, met de nadruk op het ontwikkelen, integreren en beoordelen van 'begrijpelijke' AIED, met als doel de capaciteiten van onderwijsinstellingen ten aanzien van verantwoorde AIED te optimaliseren, en de vaardigheden van ontwikkelaars te verbeteren om verantwoorde AIED-systemen te ontwerpen. Om dit doel te bereiken, richten we ons in belangrijke mate op de 'mediatie' tussen gebruiker en innovatie. We doen desk research en expertinterviews over juridische en normatieve kwesties, de politiek-economische achtergrond, betrokken belanghebbenden en technologische mogelijkheden. We identificeren ELSA-uitdagingen en bewustwording, houdingen, geletterdheid en praktijken van leerkrachten en ontwikkelaars door middel van participatieve workshops. De analyse van 'boundary objects' zal worden uitgevoerd aan de hand van kwalitatieve, 'semi'-gestructureerde expertinterviews.

01 januari 2024 - 31 december 2025