Sunil Choenni is sinds mei 2008 actief als lector binnen het Kenniscentrum Creating010. Momenteel werkt hij aan het project Data Driven Society. Daarbinnen voert Sunil onderzoek uit naar transparantie van algoritmen, big data analytics, toepassingen van Large Language Models (LLM) en privacy and security engineering.
-
Wat was jouw persoonlijke drijfveer om met dit onderwerp aan de slag te gaan?
"Ik vind het belangrijk dat wij in een samenleving leven, waarin de vele gemakken die digitalisering ons kan bieden, toegankelijk zijn voor iedereen. Digitalisering en de bijbehorende (informatie)systemen bieden hiervoor tal van mogelijkheden.
Daarnaast zie je dat digitalisering ook een 'dark side' met zich mee kan brengen die in strijd kan zijn met de basisfundamenten van onze rechtstaat. Daarom is het belangrijk dat we aandacht hebben voor mogelijkheden, die negatieve gevolgen kunnen verminderen. Ik kijk daarom naar manieren om de fundamenten van een rechtstaat, zoals het gelijkheidsbeginsel, bij digitalisering in te bedden in de bijbehorende systemen. Bijvoorbeeld door steeds de vraag te stellen; hoe ontwerp en implementeer je eigentijdse informatiesystemen waarbij het gelijkheidsbeginsel ingebouwd is?"
- Kun je in eigen woorden vertellen waar jouw lectoraat zich op richt?
Momenteel richt mijn lectoraat zich op het operationaliseren van het gelijkheidsbeginsel in eigentijdse data en AI intensieve systemen. Zo zijn er verschillende standaarden gedefinieerd om 'fairness' te meten. We hebben al aangetoond dat het toepassen van meerdere metrieken voor een bepaalde toepassing niet werkbaar is. Een belangrijke vraag is daarom; welke standaarden kunnen we het beste toepassen, in welke situaties? Het lectoraat kijkt ook naar hoe de potentie van LLM benut kan worden en de ‘dark side’ (zoals hallucinaties) zo veel mogelijk beperkt kan worden. Met die reden hebben we eerder ook gekeken naar onderwerpen zoals open data, cybercrime en cybersecurity en privacy engineering.
- Waarom vind je het belangrijk dat er juist nu aandacht is voor dit thema?
Binnen de samenleving staan wij nu op het punt waarop we de vele mogelijkheden van digitalisering en de grote hoeveelheden data die we met zijn allen gegenereerd hebben, te gaan benutten. Hiervoor worden uiteenlopende systemen ontwikkeld, al dan niet behulp van AI. Het is dus essentieel dat we er nu alert op zijn, zodat onze maatschappelijke bouwstenen - de waarden van de rechtstaat - op een adequate manier verankerd worden in de digitale systemen.
- Welke ambities of dromen heb je nog voor de toekomst van je lectoraat en het werkveld?
"Ik hoop dat de nieuwe generatie informatiesystemen op termijn zodanig zijn ingericht, dat de fundamenten van de rechtstaat hierin ondersteund worden. En daarmee specifiek en op maat zijn gesneden voor individuen, niet alleen voor bepaalde groepen.
Je kan weliswaar waarden en waarheden voor groepen bepalen aan de hand van statistiek en modellen, zoals bij profilering gebeurt, maar de vraag is dan; wat zeggen deze waarheden over het individu?"
- Als je één belangrijke boodschap zou willen meegeven aan studenten, professionals of partners, welke zou dat zijn?
"Besef goed dat digitalisering in algemene zin, en het inrichten van informatiesystemen in het bijzonder, niet langer moet worden overgelaten aan bepaalde groepen mensen binnen onze samenleving, zoals engineers of witte mannen. Het bouwen van de juiste socio-technische systemen, met aandacht voor gezamenlijke maatschappelijke fundamenten is een aangelegenheid van ons allemaal. Bemoei je er dus vooral mee!'
Meer weten over het onderzoek van Sunil? Hier vind je meer informatie over haar lectoraat en lopende projecten.