Carmen Mazijn uit Brugge is een van de vijf laureaten die strijden om de Eos Pipet. Het tijdschrift Eos Wetenschap en de Jonge Academie nomineerden deze gastprof aan de VUB als een van de meest beloftevolle onderzoekers van het land.
In september 2023 voltooide Carmen Mazijn (31) haar doctoraat aan de VUB. Ze promoveerde met het ontwikkelen van een techniek die discriminerende patronen in artificiële intelligentie opspoort. Deze oud-leerlinge van de Athenea in Assebroek en Brugge behaalde eerst een master wiskunde en studeerde nadien politieke wetenschappen.
Ben je al van jongs af geïnteresseerd in wiskunde?
“Alle wetenschappen genoten mijn interesse in mijn tienerjaren. Toen ik afstudeerde aan het Brugs Atheneum bekeek ik mijn punten. Ik scoorde het hoogst voor wiskunde en vond dat een leuk vak. Dus trok ik naar de VUB om wiskunde te studeren.”
Na je master in wiskunde studeerde je politieke wetenschappen. Een bizarre keuze?
“Na mijn erg abstracte, fundamentele wiskunde wou ik iets meer werelds doen, ik ben maatschappelijk geëngageerd. In het Atheneum zat ik in de leerlingenraad, nadien aan de VUB in de studentenraad. Toen ik voor Erasmus in Granada studeerde, kwam ik in een internationale studentengroep terecht.”
De opmars van AI is niet te stuiten
“Dat contact met zoveel verschillende culturen was zo stimulerend. In Granada rijpte de idee om een schakeljaar te doen en zo een tweede master in de politieke wetenschappen te behalen. Gelukkig had ik in dat schakeljaar een vrijstelling voor statistiek!”
En nadien volgde een doctoraat!
“Het was niet mijn bedoeling om er nog eens vier jaar studiewerk bij te doen. Maar een prof zocht een jonge onderzoeker die een doctoraat wilde maken over artificiële intelligentie. Dat interdisciplinair doctoraat bracht mijn twee interessevelden samen: het wiskundig coderen en een ethische reflectie op hoe omgaan met artificiële intelligentie.”
Hoe diep zit AI in ons leven?
“Veel meer beslissingsprocessen dan we denken zijn tegenwoordig geautomatiseerd en maken gebruik van AI. Denk maar aan de apps op je gsm, zoals Google Maps of Waze, die de snelste weg naar je bestemming berekenen. Maar ook de taalcorrecties in Word. We zien enkel de input en de output, hoe die processen werken, weten we niet.”
“De opmars van AI is niet te stuiten. Ook al is het een geweldige techniek die ons op veel domeinen kan helpen, er blind op vertrouwen mogen we niet. AI kan immers discriminerende of absurde regels hanteren. Met de techniek LUCID heb ik een tool gecreëerd die deze blackbox opent. Zo wordt artificiële intelligentie transparanter en kunnen we discriminerende patronen detecteren en aanpassen.
Dat klinkt nogal abstract.
“Als personeelsdiensten van grote bedrijven vacatures uitschrijven, krijgen ze honderden sollicitaties binnen. Om tijd uit te sparen doen ze met behulp van AI een selectie. Ze reduceren het aantal kandidaten tot tien. Als dit vijf mannen en vijf vrouwen zijn, lijkt dit fair.”
“Met de tool LUCID kunnen we nagaan op welke basis die personen geselecteerd werden. De selectiecriteria voor vrouwen en mannen kunnen verschillen. Was het omdat die mannen polo spelen? Of de vrouwen een populaire Vlaamse voornaam dragen?”
AI beslist wie recht heeft op een lening
“Zelfs bij de premies voor autoverzekeringen en hypothecaire leningen kan er een discriminerend patroon zitten. AI wordt gebruikt om te beslissen of iemand recht heeft op een lening of een verzekering en hoe hoog de te betalen premie is. LUCID is gratis online beschikbaar, waardoor ontwikkelaars vrij hun AI-systeem kunnen controleren op discriminatie. Zeker overheden moeten waken over de ethiek bij het gebruik van artificiële intelligentie.
Je beweert zelfs dat AI levensgevaarlijk kan zijn. Waarom?
“Ook voor defensie wordt gebruik gemaakt van AI. Het is levensgevaarlijk als in oorlogstijd een machine beslist waar en wie dient aangevallen te worden. Het baart mij zorgen dat niet de mens, maar AI die beslissing over leven of dood neemt. Een systeem duidt aan welke mogelijk onschuldige burgers opgeofferd kunnen worden.”
“Op welke gronden gebeurt dit? Heeft deze AI vooroordelen? Maar ik maak mij geen illusies: LUCID zal nooit een audit van een blackbox voor defensie mogen uitvoeren…”
The post Brugse onderzoeker Carmen Mazijn: “Artificiële intelligentie is levensgevaarlijk” is provided by KW.be.
