Verklaarbare AI: sleutel voor veilige transitie naar automatisch rijden

Verklaarbaarheid van AI is cruciaal voor een veilige inzet en succesvolle certificering van geautomatiseerde voertuigen in Europa. Om dit te bereiken, moeten zelfrijdende auto’s het vermogen ontwikkelen om situaties te begrijpen en kunnen redeneren. Daarom werkt TNO aan een nieuwe generatie Hybride-AI die automatische voertuigen bewust maakt van hun situatie en context, wat bijdraagt aan hun veiligheid en betrouwbaarheid op de weg.

Zelfrijdende voertuigen hebben de belofte in zich om autorijden veiliger en comfortabeler te maken. Maar dat succes hangt wel sterk af van de sociale acceptatie. Wereldwijd laten talloze incidenten vooral zien hoe het niet moet.
“We zien een trend, vooral in de VS, dat bedrijven end-to-end deep learning gebruiken om de huidige uitdagingen met geautomatiseerd rijden op te lossen”, vertelt Jochem Brouwer, Consultant Automated Driving bij TNO. “Bekend voorbeeld is een video waarop een zelfrijdende taxi van Waymo te zien is die achter een auto met aanhanger aan rijdt met daarop een boom. De taxi begint te slingeren, probeert de boom te ontwijken maar blijft de voorligger toch volgen. Hij weet zicht duidelijk geen raad met de situatie en dat komt omdat de software niet getraind is op deze specifieke situatie. Zonder begrip van de situatie of contextbewustzijn kun je dit probleem onmogelijk oplossen. Deep learning is slechts beperkt schaalbaar, omdat je elke specifieke situatie moet definiëren.”

Bal op de weg

Daarom pleit TNO voor het gebruik van Hybride-AI, dat nog steeds sterk leunt op data, maar redeneervermogen toevoegt aan zelfrijdende voertuigen. Om dit te voor elkaar te krijgen, moet een voertuig zich bewust worden van de situatie en context waarin het zich bevindt: oftewel situationeel bewustzijn en contextbewuste bewegingsplanning. Expert op dit gebied is Chris van der Ploeg, onderzoekswetenschapper bij TNO. “De huidige rijhulpsystemen in auto’s, zoals Adaptive Cruise Control of Lane Keeping Assist, zijn puur reactieve systemen die uitsluitend vertrouwen op sensoren. Bij situationeel bewustzijn gaat het er om dat het voertuig zijn rijomgeving begrijpt en potentiële risico's afweegt. Als je bijvoorbeeld in een dichtbevolkt gebied rijdt en er rolt een bal op de weg, dan zouden de huidige systemen het object herkennen en afremmen om een botsing te voorkomen. Door te redeneren kunnen we context toevoegen: in zo’n omgeving heb je vaak veel voetgangers en het feit dat het een bal is, vergroot de kans dat iemand de weg op rent om de bal te pakken. Situationeel bewustzijn betekent dat het voertuig de situatie begrijpt en hier naar handelt.”

Voelen, begrijpen, voorspellen, plannen, handelen

Dat klinkt eenvoudig, maar er gaat een complex proces schuil achter dit bewustzijn, legt Van der Ploeg legt uit. “Ons concept maakt gebruik van een uitgebreid ‘sense-comprehend-predict-plan-act’ proces. Een combinatie van sensoren levert waarnemingen van de verkeerssituatie en objecten rond het voertuig. Om de situatie te begrijpen, gebruiken we softwaretools die bepalen of de waargenomen situatie overeenkomt met een vooraf gedefinieerd model van de rijomgeving. Het begrip van de combinatie van omgevingsfactoren wordt vervolgens gebruikt om de voertuigbeweging nog nauwkeuriger te plannen, waardoor deze zowel adaptief als contextbewust is.”

Knowledge graph als brein

De zogeheten ‘knowledge graph’ vormt het brein van TNO’s Hybride-AI-systeem. Het monitort de omgeving en legt in elke situatie relaties tussen objecten en rijregels, waarbij naast verkeersregels ook richtlijnen voor veilig, comfortabel en sociaal geaccepteerd rijgedrag worden overwogen. Van der Ploeg: “Op basis van waargenomen objecten voegt de knowledge graph relaties en verwachte gedragingen toe, wat leidt tot de beslissing welke rijregels prioriteit hebben. Dit helpt risicovelden te identificeren, waarna het voertuig een veilige route plant. Als het voertuig bijvoorbeeld een doos op de weg ziet liggen en er ruimte is om in te halen, dan zal het systeem dat overwegen. Maar bij een doorgetrokken streep kunnen verkeersregels dit verbieden. Prioriteiten kunnen veranderen: als er bijvoorbeeld een persoon op de weg staat in plaats van een doos, dan kan veiligheid prioriteit krijgen boven verkeersregels.” In TNO's aanpak worden menselijke inzichten over prioriteiten in dergelijke situaties nu vastgelegd in de knowledge graph.

Verklaarbaarheid essentieel

Met een reeks succesvolle use-cases heeft TNO inmiddels aangetoond dat het Hybride-AI-concept de veiligheid van zelfrijdende voertuigen fors kan verhogen. Bovendien verwacht TNO dat verklaarbare AI-technologie essentieel gaat zijn voor een veilige introductie van automatische voertuigen in Europa. Jochem Brouwer: “Voordat je met een geautomatiseerd voertuig op de Europese wegen mag rijden, moet je bewijzen dat het in alle situaties veilig is. Een van de problemen met de veelgebruikte deep learning AI technologie is de verklaarbaarheid: het is extreem moeilijk om oorzaak en gevolg aan te tonen als een systeem zijn gedrag baseert op simulaties met een grote hoeveelheid niet-gespecificeerde data. Met een Hybride-aanpak voegen we redenering toe aan AI, waardoor de transitie van 'sense' naar 'act' transparant wordt. Dit concept biedt te allen tijde duidelijkheid over de oorzaak en het gevolg van het rijgedrag van het voertuig, zelfs in zeer subtiele gevallen. In Europa is dit een cruciaal element voor het succesvol certificeren en veilig inzetten van geautomatiseerde voertuigen. Bij TNO zijn we ervan overtuigd dat dit concept een positieve invloed kan hebben op een veilige transitie naar geautomatiseerd rijden.”