HomeNieuwsAI bepaalt wie je wordt
ThisIsEngineering (Pexels)

AI bepaalt wie je wordt

Het wereldwijde debat over AI-ethiek wordt nu vooral gevoerd in Silicon Valley. Maar volgens UT-onderzoeker Kristy Claassen stellen ze daar de verkeerde vragen. Jarenlang onderzocht ze hoe AI invloed heeft op waarden en identiteiten in verschillende culturen. “Langzaam worden we allemaal een beetje hetzelfde”, zegt ze. Op 8 april verdedigt ze haar proefschrift.

Het zogeheten Instagram-gezicht laat zien hoe AI een abstract begrip als schoonheid versimpelt. Denk aan het ‘ideale’ gezicht volgens AI-beeldgeneratoren: hoge jukbeenderen, volle lippen, bruin haar en een licht getinte huid. Dat beeld komt niet voort uit hoe mensen er echt uitzien, maar uit wat vaak voorkomt in de data. De gemiddelde Nederlander (statistisch gezien blond en lang) past daar niet in. En het grootste deel van de wereld ook niet.

Hoe AI onze identiteit beïnvloedt

AI leert van data. Maar die data is niet voor iedereen gelijk. Grote taalmodellen worden vooral getraind op Engelstalige teksten. Daardoor weerspiegelen ze vooral één manier van denken. De wereld wordt bekeken door een Amerikaanse bril. Als AI wereldwijd wordt gebruikt, beïnvloedt dat ongemerkt hoe mensen praten en denken.

Volgens Claassen gaat het probleem nog dieper dan vertekende data. In de Ubuntu-filosofie, die zijn oorsprong heeft in Sub-Sahara Afrika, word je pas mens in relatie tot anderen, via cultuur, taal en gemeenschap. Als je die diversiteit terugbrengt tot één wereldwijde standaard, verdwijnt iets fundamenteels van wat ons mens maakt.

Ik ben omdat wij zijn

Ubuntu wordt vaak samengevat als: ‘Ik ben omdat wij zijn.’ Het is een filosofie waarin relaties centraal staan. Je bent geen los individu, maar wie je ontstaat in verbinding met anderen. Claassen gebruikte deze denkwijze om anders naar AI-ethiek te kijken.

Ze reisde naar Zuid-Afrika en sprak daar met gemeenschappen die vanuit Ubuntu leven. Ze vroeg welke waarden zij belangrijk vinden bij AI. “Als we nu naar AI-ethiek kijken gaat het vaak over het voorkomen van schade”, zegt ze. “Maar zij hadden het juist over het stimuleren van creativiteit en diversiteit.” Eén deelnemer zei: “Stel je voor dat AI je identiteit afneemt.”

Want to learn more about inclusive AI?
Read more

Dus: wat nu?

Claassen heeft nog geen kant-en-klaar antwoord. Wel ontwikkelde ze een andere manier om naar AI te kijken. In plaats van te vragen: is dit AI-systeem eerlijk?, stelt Ubuntu andere vragen. Helpt deze technologie je om meer mens te worden? Versterkt ze relaties en gemeenschappen? En draagt ze bij aan culturele en taalkundige diversiteit? Dat zijn geen makkelijke vragen. Maar het zijn wel de vragen die ertoe doen.

Intussen ontstaan er al alternatieven. In Nederland werkt SURF aan GPT-NL, een taalmodel dat is afgestemd op de Nederlandse context. In Zuid-Afrika bouwt Lelapa.AI modellen op basis van Afrikaanse talen en culturen. “Zo ziet het eruit als je niet langer uitgaat van one-size-fits-all oplossing”, zegt Claassen. “Je ontwikkelt AI die aansluit bij de mensen voor wie die bedoeld is, in plaats van ze allemaal in dezelfde mal te duwen.”

Over Kristy Claassen

Dr. Kristy Claassen is onderzoeker, docent en specialist op het gebied van AI-ethiek. Ze behaalde masters in filosofie en theologie, met een focus op technologie. Haar promotieonderzoek voerde ze uit aan de Universiteit Twente, binnen het ESDiT-consortium (Ethics of Socially Disruptive Technologies), gefinancierd door NWO. Haar supervisors waren prof. dr. Ciano Aydin (Universiteit Twente), prof. dr. ir. Peter-Paul Verbeek (Universiteit van Amsterdam), prof. dr. Wijnand IJsselsteijn (TU Eindhoven) en dr. Julia Hermann (Universiteit Twente).

Claassen is ook medeoprichter van EthicEdge, een adviesbureau dat zich inzet voor ethische AI in Afrika. Het bureau combineert academisch onderzoek met praktijkadvies, en vertrekt vanuit Afrikaanse waarden, geschiedenissen en toekomstbeelden.

K.W. Wesselink - Schram MSc (Kees)
Wetenschapscommunicatiemedewerker (aanwezig ma-vr)