Combi cultuur en AI cruciaal

door Caroline Nevejan * 

De eerste Digitale Stad was Amsterdam. Deze is opgericht in 1993 en was het resultaat van een samenwerking tussen gemeente, cultuurinstelling De Balie en de start-up XS4ALL. Het succes destijds was gebaseerd op het feit dat overheid, cultuur, wetenschap, onderwijs en bedrijfsleven intensief samenwerkten. Ook nu is dit weer mogelijk, al denk ik dat veel spelers de kracht van de culturele bijdrage destijds en ook nu weer onderschatten.

Met name in die culturele bijdrage ontstaat het gesprek over de kwaliteit en de potentiele maatschappelijke ervaring van een nieuwe technologie. Een ethische discussie vereist toegankelijkheid en begrip van de technologie zodat mensen ook kunnen weten waar men over spreekt. Te snel worden dergelijke gesprekken anders gedomineerd door angst voor het onbekende. Ethiek is van persoonlijk belang voor onderzoekers. Men zou hier meer in kunnen investeren. Hoe kan je als wiskundige nadenken over de ethiek van je vak? Welke ‘waarden’ zijn van belang en hoe kunnen deze worden geborgd in een ontwerp? Hoe weet je als ingenieur waar je werk terecht komt en kan je daar invloed op uitoefenen?

Technologieontwikkelingen zijn niet neutraal en waardevrij. Een hamer kan gebruikt worden om een huis te bouwen, maar ook om iemand de kop mee in te slaan. Dat ligt niet aan de hamer, zegt men dan. Een hamer is echter een werktuig dat we allemaal kunnen begrijpen en als het nodig is ook hanteren. Een auto is al ingewikkelder. De snelheid en complexiteit van de machine is door de industrie ontwikkeld en veel mensen genieten van het gebruik van de auto. Maatschappelijk bleek het nodig om verkeersregels te maken, om een rijbewijs in te voeren, om opleidingen voor het repareren van auto’s te creëren, snelwegen aan te leggen en een jaarlijkse verplichte technische keuring in te voeren met een bijbehorend boetesysteem. Nog minder mensen begrijpen de softwareprogramma’s die onze levens ook ingrijpend hebben veranderd, zoals de mobiele telefoon en de computer.

Voor een gemeente gaat het wat mij betreft niet zozeer om ethiek als we denken over beleid voor AI, als wel om het borgen van de rechtsstaat in deze ontwikkelingen. Ethiek is persoonlijk, en ook voor politici in tijden van campagnevoeren makkelijk om een beroep op te doen. Maar ethiek kan ook vrijblijvend worden gebruikt. In snelle en ongekende ontwikkelingen in de wetenschap, het bedrijfsleven of de cultuur, heeft de overheid de plicht om de rechtsstaat te borgen. Dat is een evenwicht tussen laten gebeuren en bijsturen.

Dienstverlening gemeente
Om de wettelijke context voor AI veilig te stellen is het van groot belang dat duidelijk wordt wat men onder AI verstaat. Welke verschillende vormen men kan herkennen, welke maatschappelijke vragen van belang worden, welke maatregelen mogelijk nodig zijn. Hiervoor zijn bestuurlijk engagement en moed nodig om dit aan te gaan. Net als met klimaatontwikkelingen, vraagt AI van politici zich te engageren met een toekomst die verder weg ligt dan de eerste vier jaar van een bestuurstermijn. De juridische en maatschappelijke implicaties kunnen niet door wetenschappers alleen worden bedacht en we kunnen hen ook niet alleen laten met deze grote maatschappelijke vragen. Het is van belang het maatschappelijke debat zo te voeren dat het ook consequenties voor wetenschappelijke ontwikkelingen kan hebben.

Voor de gemeentelijke dienstverlening kan AI veel betekenen. Op het Science Park hebben wetenschappers bijvoorbeeld een applicatie – ontwikkeld door het Centrum voor Wiskunde en Informatica en in de markt gezet door de start-up Stokhos – gemaakt waardoor ambulances vijf minuten kortere aanrijtijd kunnen hebben. Het AI-algoritme heeft geleerd van wanneer en waar ongelukken gebeurden in de afgelopen 25 jaar en voorspelt op basis daarvan waar een volgend ongeluk verwacht kan worden. Op basis van die verwachtingen herpositioneren de ambulances zich voortdurend in de stad.

Als er ergens een ongeluk gebeurt, gaat er een ambulance heen en veranderen alle andere ambulances van positie opdat zij dan sneller bij een volgend te verwachten ongeluk zijn. Uiteraard is het van groot belang dat de gemeente ook in het tijdperk van AI zeer zorgvuldig met de vele persoonlijke data van burgers omgaat. Transparantie bieden over waar en hoe en voor wie AI wordt gebruikt is cruciaal voor de rechtsstaat. Het is goed dat de vele ambtenaren zich realiseren dat AI-toepassingen in infrastructuur en de gemeentelijke dienstverlening openbaar zijn.

Commercieel
Zonder data kan AI niet ontstaan. Wie de data heeft kan met AI technisch accelereren en daarmee commercieel en op geopolitiek niveau veel invloed en effect hebben. In de westerse wereld zijn grote monopolies als Google en Amazon leidend in AI omdat zij de data hebben van miljoenen mensen, inclusief van veel Europeanen. In China zijn de data voornamelijk van de overheid en is de overheid ook leidend in AI. Europa wil niet geregeerd worden door commerciële monopolies en wil ook niet dat de staat leidend is. Zeker in Nederland wil men de samenleving vormgeven dóór en mét een goed georganiseerde markt.

Daarom zijn initiatieven die gedistribueerde datamarkten mogelijk maken van groot belang. Op initiatief van de Amsterdam Economic Board heeft een samenwerking tussen verschillende grote bedrijven, de kennisinstellingen en de gemeente het voorstel voor de Amsterdam Data Exchange (AMDEX) gemaakt. Dit is een dataserviceprovider die helpt de markt te organiseren. Met dit initiatief en met andere gedistribueerde dataserviceproviders is de gemeente in gesprek met de Europese Commissie hoe deze markt gestimuleerd kan worden en weerbaar kan worden vormgegeven. Het gaat erom om voor onderwijs, wetenschap, cultuur, bedrijfsleven en maatschappelijke partners een ecologie te maken waarin men elkaar op het juiste moment kan vinden en in staat is om transacties met elkaar te doen.

Kunstenaars
Voor de overheid is transparantie van broncodes van software belangrijk om te weten wat de gemeente zelf doet, maar ook om te weten wat anderen doen die in de stad opereren en de stad beïnvloeden. Burgers hebben het recht om te weten hoe de gemeente software gebruikt bij de uitvoering van haar dienstverlening. Kennis van AI is ook belangrijk om te weten wat er in de stad gebeurt en hoe de markt zich ontwikkelt. Zo is het voor de gemeente bijvoorbeeld onduidelijk of de financiële markten, waar AI een groot onderdeel van is, conform onze rechtsstaat opereren in Amsterdam. Getuige de Amsterdamse Aanpak Ondermijning is dit niet het geval. Men ziet wel de effecten van miljoenen euro’s die de stad in- en uitstromen, maar de oorzaak is ondoorzichtig. Echter, net als bij juristen, gaat het hier om specialistische kennis waarvoor op lokaal, nationaal en Europees verband voorzieningen moeten worden getroffen.

Voor een gemeente als Amsterdam is het van groot belang om zich te verbinden met andere overheden, bedrijven, wetenschap en kunst- en cultuurinstellingen om beter te begrijpen hoe we AI in onze samenleving willen vormgeven. Ik denk dat meer mensen, met meer creativiteit en in grotere diversiteit, hierover moeten nadenken. Net als internet destijds, zal AI ingrijpende gevolgen hebben voor hoe cultuur wordt gedeeld en beleefd. Het is net als toen een ‘slow growing animal’, dat pas zichtbaar wordt wanneer het zijn kantelpunt heeft bereikt. Daarom is de bijdrage van kunstenaars hier ook zo belangrijk. Zij kunnen de mogelijkheden en gevolgen van AI verkennen waardoor zij het grote publiek in staat stellen deze technologie zelf te onderzoeken. De gemeente Amsterdam besteedt veel aandacht aan de opbouw van de interne informatiearchitectuur. Data zijn ‘open tenzij’ en er is sinds 2015 een dataplatform waarop vele datasets van de gemeente Amsterdam zijn te vinden via Internet. Broncode is ‘open source tenzij’, en ook deze wordt gepubliceerd in de opensourceplatforms. Er wordt gewerkt aan het transparant maken van modellen die de gemeente gebruikt. Toch heeft de gemeente nu nog een achterstand op het gebied van AI.

De expertise en ook veel data zijn niet aanwezig. Je zou kunnen zeggen dat GDPR vijftien jaar te laat is vormgegeven, want alle data van Amsterdammers die sociale netwerken hebben gebruikt (Facebook startte in 2005) zijn verdwenen in Amerikaanse bedrijven waar de gemeente geen toegang tot heeft. Deze bedrijven kunnen AI gebruiken met deze data en op een gegeven moment weten zij meer over Amsterdam dan de gemeente of Amsterdammers zelf. Ontwikkelingen als deze zijn heel voelbaar in de stad. Met deze ontwikkelingen is alleen maar om te gaan in grotere verbanden. Nationale en internationale overeenkomsten en handelsverdragen zijn nodig om data en AI te beschermen.

Over data spreken we als ‘dingen’ en als eigendom. AI is geen ding; het geeft een proces vorm. En daarmee zal het op een andere manier geborgd moeten worden. Een ouder, maar nog steeds actueel idee is ’The Right to Redress’. Dit concept vindt zijn oorsprong in de tijd van de grote mediatisering begin jaren ‘80 vorige eeuw: dat mensen het recht hebben om terug te spreken tegen de media, de computers, de grote industrie. Dit leidde tot ‘The Right to Information Act’ in verschillende landen en bij ons tot de Wet openbaarheid van bestuur, waardoor burgers informatieverzoeken kunnen doen die de overheid niet mag weigeren. Een dergelijk ‘Right to Redress’ zou op AI-applicaties van toepassing kunnen zijn.

Visuele taal
Een andere maatregel die de gemeente kan treffen gaat over het documenteren van AI. Het is mogelijk nu te bepalen hoe AI wordt gedocumenteerd en eisen te stellen aan deze documentatie. Soms is het van groot belang dat bestuurders en burgers kunnen begrijpen wat er gebeurt, soms kan het aan experts worden overgelaten. Dergelijke transparantie is ontstaan in de medische wetenschap onder andere door de introductie van internet. Als AI deel wordt van vitale processen van het dagelijks leven, dan is het voor de democratie van groot belang dat veel mensen, in ieder geval in concept, kunnen begrijpen wat er gebeurt.

Ik zou graag willen dat we een conceptuele en visuele taal ontwikkelen waarin de relatie tussen algoritmes, broncode en betekenisgeving kan worden uitgedrukt. Een dergelijke taal is onontbeerlijk voor de netwerksamenleving waarin de kloof tussen degenen die de kennis hebben en zij die de kennis niet hebben, steeds groter wordt. Als mensen de technologie van hun samenleving niet begrijpen, dan kunnen zij niet volwaardig participeren in de democratie.

Dit is een voorpublicatie uit ‘AI: Amsterdamse Intelligentie’, deze maand uitgegeven door de gemeente Amsterdam.

Caroline Nevejan is chief science officier van Amsterdam. Zij is ook bijzonder hoogleraar ‘desiging urban experience’ bij de Universiteit van Amsterdam