'AI moet worden geaccepteerd'

Kunstmatige intelligentie gaat niet meer weg en de inzet ervan moet door de maatschappij worden geaccepteerd. Gebeurt dat niet dan kan het verkeerd aflopen. Daarvoor waarschuwt Reggie Townsend, hoofd van de Data Ethics Practice bij analytics- en AI-ontwikkelaar SAS en lid van het AI-comité dat de Amerikaanse president adviseert. Hij zit momenteel in Singapore en vertelt via videoverbinding: ‘Zonder vertrouwen komt er geen acceptatie.’

Welke invloed gaat kunstmatige intelligentie, AI, hebben op overheden?

Townsend: ‘Het is belangrijk om te beseffen dat wat wij AI noemen, beslissingen zijn die we al maken maar dan geautomatiseerd en opgeschaald. Het is een tool. De goedaardige vormen zullen meer operationeel zijn, maar er zullen ook problematische vormen zijn. Als beslissingen gebaseerd op vooroordelen worden opgeschaald, bijvoorbeeld. En de overheid heeft al zo veel invloed op ons, dus het is belangrijk dat beslissingen die ze met AI maken transparant en uitlegbaar zijn.’

Europa wil de belangrijkste risico’s aanpakken met wetgeving zoals de Artificial Intelligence Act. Is dat de juiste aanpak?

‘Laten we onder ogen zien dat risicomanagement eerder een kunst is dan een wetenschap. Ik doe geen uitspraken over welke aanpak de juiste is, maar de Europese Unie heeft misschien wel de meest uitgebreide aanpak. Hier, in Singapore, hebben ze richtlijnen maar ze wagen zich niet aan wetten. Zo heeft elke cultuur, elke samenleving, een eigen aanpak. Het belangrijkste is dat wat de EU doet, werkt voor de EU. Maar dat werkt mogelijk niet in Brazilië.’

‘We houden wereldwijd in de gaten wat de opkomende ideeën zijn. Sommigen zetten de mens centraal, anderen beginnen vanuit eerlijkheid en transparantie, weer anderen kijken per sector. Het is belangrijk dat het uiteindelijk allemaal samenkomt tot een soort standaard van wat belangrijk is voor AI. Het is net als met elektriciteit: in sommige landen heb ik misschien wel een adapter nodig, maar ik kan overal mijn laptop inpluggen.’

Hoe schat u de relatie tussen Amerika en Europa in? Overheden maken veel gebruik van Big Tech-bedrijven, maar tegelijkertijd kijken ze er met argusogen naar. Is dat terecht?

‘Ik denk dat er voor beide kanten voordelen zijn, maar er is een natuurlijke spanning. De precieze situatie in Nederland ken ik niet, maar ik weet dat we als industrie transparanter kunnen zijn. Sommige bedrijven hebben twijfelachtig en intransparant gehandeld en dat schaadt het vertrouwen. Het is belangrijk dat we vertrouwen als de ultieme valuta beschouwen want zonder vertrouwen komt er geen acceptatie.’

‘AI moet worden geaccepteerd. De reden dat ik dat zo stellig zeg is omdat het hier nu al is en niet weggaat. Het maakt beslissingen makkelijker en als de bevolking de technologie niet kan vertrouwen en de technologie niet wordt gebruikt dan is mijn angst dat degenen met kwade bedoelingen misbruik ervan zullen maken. Als overheden en de bevolking er dan niet mee om kunnen gaan, winnen de bad guys. Dat is een scenario dat volgens mij niemand wil.’

Wat vindt u van de rol van China in dit alles?

‘Ze investeren flink in AI. Ze kunnen nummer een, twee of drie zijn, maar ze behoren in ieder geval bij de wereldwijde top. Net zoals andere landen gaan ze de technologie gebruiken in lijn met hun waarden. We zullen erop moeten letten. Teruggaand naar mijn idee van elektriciteit: als ik naar Beijing ga dan wil ik dat mijn laptop gewoon werkt. Er zal een set standaarden moeten komen om dat mogelijk te maken, want China wil zaken doen in de rest van de wereld en vice versa. We zullen het nooit helemaal eens worden, maar ik hoop dat er wat consistentie komt in hoe we AI gebruiken, met transparantie, aansprakelijkheid en menselijke tussenkomst.’

Is er iets dat Nederland over het hoofd ziet?

‘Men is oprecht geïnteresseerd in voorkomen dat de toepassingen mensen schaden. Belangrijk daarvoor zal zijn om het bewustzijn bij de bevolking te verbeteren. Een campagne voor meer digitale geletterdheid zou zeer behulpzaam zijn.’

‘Mijn tweede gedachte is dat, in wat toch een relatief homogene regio van de wereld is, het belangrijk zal zijn om rekening te houden met de minder vertegenwoordigde bevolkingsgroepen. Of het nou gaat om gender, etniciteit of seksuele voorkeur, bijvoorbeeld. Subgroepen uit de samenleving kunnen worden geschaad door geautomatiseerde beslissingen. De technologie zal slim genoeg moeten zijn om dat te voorkomen.’