Project R-14478

Gepersonaliseerde, verklarende gebruikersinterfaces via human-inthe-loop generatieve AI (Onderzoek)

Onderzoek naar AI is zeer actueel en snelgroeiend. AI is echter vaak een zwarte doos: het is onduidelijk wat er "onder de motorkap" gebeurt en gebruikers krijgen typisch resultaten zonder uitleg of rechtvaardiging. Hier tracht explainable AI (XAI) een oplossing te bieden. XAI slaagt er vooral in om de zwarte doos (enigszins) toegankelijk te maken voor ontwikkelaars, maar niet zozeer om eindgebruikers doelmatig te ondersteunen. Wij stellen een aanpak voor om (de toegankelijkheid van) de verklaarbaarheid van AI-systemen te verbeteren, rekening houdend met contextuele verschillen tussen eindgebruikers. Dit brengt ons bij de centrale onderzoeksuitdaging: de kracht van generative AI aanwenden om gepersonaliseerde, verklarende interfaces te creëren die eindgebruikers de tools bieden om AI-gebaseerde systemen te begrijpen, ondervragen en controleren. We willen dat deze interfaces een passend niveau van vertrouwen in AI creëren door de onzekerheden die eigen zijn aan dergelijke systemen te expliciteren. De focus ligt op human-centered AI, met human-in-the-loop strategieën om controle over en aanpasbaarheid van AI-systemen te garanderen. We zullen dit onderzoek toepassen op een ander actueel onderwerp: de energiesector. Hoewel er veel onderzoek gebeurt rond AI in dit domein, voornamelijk rond voorspellende modellen, ligt onze focus op eindgebruikers met verschillende informatiebehoeften op verschillende momenten en hoe (X)AI hen praktische inzichten en aanbevelingen kan bieden.

16 september 2023 - 15 september 2027