News

Hoe krijgen we de robotauto veilig

De Volkskrant - 07-04-2018

Bij een ongeval met een Tesla S in de zelfrijdende modus komt in 2016 de bestuurder om het leven. © AP

Kunstmatige intelligentie

Zelfrijdende auto's moeten 'domme' ongelukken voorkomen, maar het tegendeel lijkt het geval. Wat is daaraan te doen?

BARD VAN DE WEIJER

Het was een slechte tijd voor de zelfstandig rijdende auto; eerst werd een voetganger aangereden door een robot-Uber, later overleed de bestuurder van een Tesla Model X nadat de semiautomatische piloot een betonnen wegafscheiding over het hoofd had gezien. De tragische ongevallen kostten twee mensen het leven en sloegen een deuk in het vertrouwen in zelfrijdende auto's.

Deze auto's zouden juist 'domme' ongelukken als deze moeten voorkomen. Als ze dit al niet kunnen, hoe is het dan gesteld met de veiligheid van robotauto's? Hoe kunnen we er zeker van zijn dat een robotauto veilig is?

Tot enkele jaren geleden was de vraag of een auto veilig is, vrij makkelijk te beantwoorden. Voordat een model de weg op mag, wordt het uitgebreid gekeurd door nationale toezichthouders als de Nederlandse RDW. 'De afgelopen eeuw waren de regels om een nieuw model auto toe te laten op de weg altijd gericht op hardware', zegt Gerben Feddes, senior adviseur intelligen! te mobili teit bij RDW. 'Deze regels hebben ervoor gezorgd dat er geen slechte voertuigen worden gemaakt.' Voldeed een auto aan de technische normen, dan mocht hij de weg op. Om de kwaliteit van de bestuurder te waarborgen, was er het rijbewijs.

Deze zaken zijn aan het veranderen. De bestuurder is niet langer per definitie een mens. De computer neemt (een deel van) zijn taken meer en meer over. Dit betekent dat soms de mens, soms de computer stuurt, en soms allebei. Bij robotauto's bepalen niet alleen de moertjes en boutjes de veiligheid, maar ook de software die de besturing regelt. Een robotauto heeft geen rijbewijs. Hoe wordt bepaald of de software goed genoeg is om een auto veilig te besturen? Wat gebeurt er als de fabrikant de software tussentijds aanpast, zoals bij mobieltjes heel gewoon is? Of als de software zelf bijleert? '

Dit is een uitdaging'
'Over software is formeel weinig vastgelegd.'
Feddes


Voorstanders van robotauto's roemen vooral de veilighe! idsvoorde len. Een computer valt nooit in slaap achter het stuur, zeggen ze. Een computer is nooit dronken, heeft geen relatieproblemen, laat zich niet afleiden door gejoel op de achterbank. Bovendien zijn de ogen van een zelfrijdende auto beter dan die van de mens. Lasers, radars, hogeresolutiecamera's, ultrasoonsensoren; een robotauto is een rijdende Awacs die veel beter in het donker ziet dan de mens en waarvan de ogen zelfs door mist en slagregens priemen.

En toch werd de overstekende Elaine Herzberg door een Uber-auto over het hoofd gezien.

Het ongeval zette de schijnwerpers op een vraag die onder veel burgers leeft: is een zelfrijdende auto echt veiliger dan een auto met een mens achter het stuur? 'Het antwoord op die vraag is helaas niet eenvoudig te geven', zegt Marieke Martens, onderzoeker bij TNO en hoogleraar aan de Universiteit Twente. Zij houdt zich bezig met de interactie tussen slimme voertuigen en de mens.

Af en toe wordt de indruk gewekt da! t de zelf rijdende auto al bestaat, zegt Martens, maar dat beeld klopt niet. Dé zelfrijdende auto is er nog niet, het is een technologie die geleidelijk komt, die gaandeweg zal verbeteren en in steeds meer omstandigheden te gebruiken is. Ook als de auto in de toekomst verregaand geautomatiseerd is, zal de bestuurder het soms nog helemaal zelf moeten doen.

Hoeveel een voertuig straks kan, hangt af van de situatie waarin wordt gereden, aldus Martens. 'Niet alleen van hoeveel sensors er aan boord zijn, hoeveel lidars, hoeveel radars en wat die systemen allemaal meten.' Ook de ervaring van de menselijke bestuurder speelt mee, evenals de situatie op de weg, het overige verkeer, de kwaliteit van de belijning, het weer, het moment van de dag, hoe hard er wordt gereden. Afhankelijk van deze factoren kan een auto zelfrijdend zijn, de chauffeur ondersteunen, of het sturen overlaten aan de mens. 'Je koopt voorlopig dus niet zomaar een autonome auto, wat in de media weleens wordt gesug! gereerd', aldus Martens.

Een fabrikant - en de eigenaar, maar ook de voetganger - wil het liefst een stempeltje: deze auto is zelfrijdend en honderd procent veilig. Dat zit er voorlopig niet in, zegt Martens. Ze maakt de vergelijking met iemand die net zijn rijbewijs heeft gehaald. 'Dat is geen bewijs dat je veilig rijdt, maar dat je over bepaalde basisvaardigheden beschikt.'

Net zoals een jonge chauffeur aanvankelijk wat meer in de gaten wordt gehouden en enigszins beperkt is in wat hij mag, zou dat ook voor een nieuw model zelfrijdende auto moeten gelden. Pas als het ervarener is en bewezen heeft het zelfstandig te kunnen, mag het meer dingen zelf. Een soort rijbewijs voor robotauto's dus. Dat idee spreekt ook minister van Infrastructuur Cora van Nieuwenhuizen aan, zei ze onlangs tijdens de beurs Intertraffic in Amsterdam.

Hoewel we bij menselijke bestuurders vergevingsgezind zijn, lijkt dat voor autonome auto's niet te gelden, zegt Martens. 'Van menseli! jke chauf feurs verwachten we ook niet dat ze tijdens het examen kunnen rijden in de sneeuw of remmen onder extreme omstandigheden. Het is interessant dat we aan een 'zelfrijdende auto' opeens wel zulke eisen stellen.'

Onderzoekers en fabrikanten zijn nu aan het verkennen wat deze voertuigen wel of niet kunnen, zegt de onderzoeker, aan welke criteria ze zouden moeten voldoen en welke eisen we in de toekomst aan deze auto's moeten gaan stellen. 'Veiligheid vereist een totaalbenadering. Je moet zo veel mogelijk gegevens verzamelen: van het voertuig, maar ook over voertuigen in de buurt, de mens in het voertuig, weersvoorspellingen, files.'

Wanneer al deze informatie in de auto is samengebracht, stelt Martens, is beter te voorspellen wanneer de mens het moet overnemen en krijgt de bestuurder genoeg tijd om de situatie meester te worden. 'Je weet dan wanneer er ingegrepen moet worden en zo kun je onveilige situaties voorkomen.'

GEDRAGSONDERZOEK

De mens blijft voorlopig een belangrijke factor achter het stuur. Maar over zijn gedrag is nog veel onbekend. TNO onderzoekt momenteel samen met onder meer de RDW hoe bestuurders gebruikmaken van zogenoemde rijtaakondersteunende systemen, zoals rijstrookbewakers en automatische cruisecontrol. Acht auto's zijn volgehangen met camera's en sensoren en meten twee maanden lang wanneer en hoe bestuurders dergelijke hulpmiddelen inzetten in de dagelijkse praktijk.