Statistiek nieuw perspectief op kunstmatige neurale netwerken
Johannes Schmidt-Hieber, hoogleraar statistiek aan de Universiteit Twente, ontwikkelt en past wiskundige statistiek toe om ons begrip van zowel kunstmatige als biologische neurale netwerken te verbeteren. “Door de statistische eigenschappen, die ten grondslag liggen aan het leren in de hersenen, beter te begrijpen, kunnen we de huidige beperkingen van kunstmatige netwerken aanpakken.”
Johannes Schmidt-Hieber is opgeleid als wiskundige die de theoretische eigenschappen van statistische methoden analyseert en heeft in de loop der jaren bijgedragen aan verschillende onderwerpen binnen de wiskundige statistiek. Hij wordt met name erkend voor zijn werk aan het theoretisch begrip van kunstmatige intelligentie (AI).
“Ik was verbaasd over de snelle vooruitgang en de maatschappij veranderende successen van AI,” zegt hij. “AI ontwikkelt zich heel snel, maar we kunnen nog steeds niet volledig verklaren hoe het werkt. Duizenden datawetenschappers passen het toe, maar we begrijpen niet waarom het zo goed werkt.”
Dat is de kloof die Johannes Schmidt-Hieber wil aanpakken. De UT-professor zag al snel in dat de statistische theorie die in de afgelopen eeuw is ontwikkeld, gebruikt kan worden om kunstmatige neurale netwerken, die de kern vormen van de AI-revolutie, beter te begrijpen.
“Als je AI beschouwt als een verzameling statistische procedures, kun je voortbouwen op een reeks geavanceerde technieken om kunstmatige neurale netwerken te analyseren,” legt Schmidt-Hieber uit. Dit is echter een enorme uitdaging. “Kunstmatige neurale netwerken zijn niet-lineaire en zeer complexe objecten met doorgaans miljoenen parameters die uit gegevens worden geleerd. In de publieke media worden ze vaak afgeschilderd als black-box machines die theoretisch niet meer te begrijpen zijn. Hoewel deze zienswijze overdreven pessimistisch is, plaatst de complexiteit van neurale netwerken hen ver buiten het bereik van de klassieke statistische theorie met haar focus op interpreteerbare statistische modellen en lineaire structuren. Toch biedt statistiek een compleet nieuw perspectief op het begrijpen van kunstmatige neurale netwerken.”
Het doel van de wetenschapper is ervoor te zorgen dat theoretische inzichten een tastbare impact hebben op de ontwikkeling van AI-technologie. “Op dit moment wordt de vooruitgang in AI grotendeels bepaald door vallen en opstaan. Wiskundigen komen vaak tussenbeide nadat er nieuwe vorderingen zijn gemaakt om deze te verklaren, wat betekent dat de theorie de praktijk volgt in de informatica. Een belangrijk nadeel van deze aanpak is dat we uiteindelijk machines maken die we niet volledig begrijpen.”
Idealiter zouden theoretische inzichten vooraf moeten gaan aan praktische ontwikkelingen en deze moeten sturen, benadrukt Schmidt-Hieber. “Deze motivatie drijft mijn onderzoek,” zegt hij, eraan toevoegend dat de huidige situatie nog zorgwekkender is. “Kunstmatige netwerken blinken uit in scenario's waar de klassieke theorie suggereert dat geen enkele methode goed zou moeten presteren, waardoor hiaten tussen bestaande theorie en praktische resultaten aan het licht komen. Ons werk is erop gericht om deze kloven te overbruggen.”
Nu heeft de professor zijn onderzoeksfocus verlegd naar een verwant, maar ander gebied - biologisch leren. Met andere woorden, bestuderen hoe onze hersenen leren. “Je kunt de hersenen zien als een statistische methode”, zegt de UT-wetenschapper. “Door de statistische eigenschappen die ten grondslag liggen aan het leren in de hersenen beter te begrijpen, kunnen we de huidige beperkingen van kunstmatige netwerken aanpakken.”
Hoewel kunstmatige neurale netwerken geïnspireerd zijn op het brein, verschillen ze op veel cruciale punten. In zijn project, dat wordt gefinancierd door een ERC Consolidator Grant, past Johannes Schmidt-Hieber statistische methoden toe om de biologisch geïnspireerde leerregels te begrijpen. “Nadat we AI-methoden hebben geïnterpreteerd als statistische procedures, bekijken we het leren in de hersenen nu als een statistisch proces,” legt hij uit. “Door de theorie die we eerder ontwikkelden uit te breiden, wil ik diepere inzichten krijgen in hoe de hersenen signalen verwerken en hoe we leren. Met dit inzicht hopen we te verklaren waarom de hersenen veel minder gegevens nodig hebben om te leren, inzichten die kunnen leiden tot de ontwikkeling van efficiëntere algoritmen voor het trainen van kunstmatige neurale netwerken.”
Onderwijs
Johannes Schmidt-Hieber vindt het vooral leuk om studenten te begeleiden, waarbij zijn belangrijkste doel is om hen te helpen onafhankelijke onderzoekers te worden. “Universiteiten lijken tegenwoordig meer dan ooit op scholen en bieden weinig ruimte voor onafhankelijkheid en flexibiliteit,” zegt hij. “Op een gegeven moment moeten studenten echter autonomie ontwikkelen. Ze moeten hun eigen concepten en onderzoeksvragen leren formuleren en leren omgaan met tijd. Ik probeer ze daarbij te helpen omdat ik geloof dat zelfstandigheid de sleutel tot succes is.”
Over Johannes Schmidt-Hieber
Johannes Schmidt-Hieber is hoogleraar Statistiek bij de afdeling Toegepaste Wiskunde van de Universiteit Twente. Hij studeerde wiskunde met een minor in theoretische natuurkunde aan de Universität Freiburg en de Universität Göttingen, gevolgd door promotieonderzoek aan de Universität Göttingen en de Universität Bern (2007- 2010). Daarna bekleedde hij postdocposities aan de Vrije Universiteit Amsterdam en ENSAE Parijs voordat hij assistent-professor werd aan de Universiteit Leiden (2014-2018). In 2018 werd hij benoemd tot hoogleraar aan de Universiteit Twente, waarmee hij op dat moment de jongste hoogleraar aan de universiteit was.
Johannes Schmidt-Hieber ontvangt verschillende prestigieuze persoonlijke beurzen, waaronder een VIDI-beurs (2019-2024) en een ERC Consolidator Grant (2024). In 2024 werd hij benoemd tot IMS (Institute of Mathematical Statistics) Fellow, een eer die voorbehouden is aan experts die zich hebben onderscheiden in onderzoek naar statistiek of waarschijnlijkheid of die leiderschap hebben getoond dat het vakgebied diepgaand heeft beïnvloed.
Pers Foto's
Deze persfoto’s mogen gebruikt worden onder vermelding van fotograaf Fokke Eenhoorn.