Verantwoorde technologie is mensenwerk

Responsible technology betekent zoiets als ‘technologie ontwikkelen met oog voor de impact en mogelijke onbedoelde consequenties ervan’. De verantwoordelijkheid ligt in de eerste plaats bij de mensen die aan de knoppen zitten: bestuurders en IT'ers.

Verantwoorde technologie is geen buzzword

Responsible technology is geen buzzword meer, maar een serieus onderdeel van de bedrijfsvoering. Dat concludeert MIT Technology Review Insights in een onderzoek in opdracht van technologieconsultancybedrijf Thoughtworks. De onderzoekers interviewden 550 leidinggevenden van grote organisaties uit negen landen, van de Verenigde Staten tot China. Martin ter Horst, managing director van Thoughtworks Nederland, vertelt wat verantwoorde technologie inhoudt in de Nederlandse context.  

Volgens de definitie in het rapport gaat het erom dat waarden, onbedoelde consequenties en negatieve impact van technologie nadrukkelijk worden afgewogen. Een relevant onderwerp nu AI het wereldnieuws beheerst, maar het is breder dan AI alleen: het gaat ook over duurzaamheid, inclusiviteit en de werkomstandigheden van mensen die computers en software maken.  

Menselijke keuzes

In de kern gaat verantwoorde technologie over menselijke keuzes, zegt Ter Horst. ‘Iedereen die bezig is met software-oplossingen bedenken en ontwikkelen, heeft een verantwoordelijkheid. Het grootste deel van de mensheid heeft relatief weinig verstand van technologie en is niet betrokken bij de totstandkoming, maar heeft wel te maken met de gevolgen.’

Brede blik op winnaars en verliezers

Zowel IT’ers als bestuurders zouden een ‘verantwoorde technologie-spier’ moeten ontwikkelen, stelt hij. ‘We kijken vaak naar het realiseren of inkopen van oplossingen met een focus op wie ervan zal profiteren. Maar waar winnaars zijn, zijn vaak ook verliezers. Richt een brede blik op je stakeholderveld. Wie raken we met deze technologie? Zijn we ons voldoende bewust van de bedoelde en onbedoelde consequenties van het inzetten van deze technologie?’

Variant op greenwashing

De onderzoekers vroegen wat organisaties motiveert om te kiezen voor responsible technology. Met name grote bedrijven bleken vooral gemotiveerd om aantrekkelijker te zijn voor investeerders en partners. Daarmee ontstaat het risico op een tech-variant op greenwashing. ‘Tien jaar geleden was maatschappelijk verantwoord ondernemen ook iets wat je bij deed, een clausule in het jaarverslag. Je wil niet dat met responsible technology hetzelfde gebeurt,’ zegt Ter Horst. Daarom hebben lokale overheden een belangrijke rol te vervullen. ‘Het bedrijfsleven kan relatief makkelijk de stakeholders beperken tot de markt waarin ze opereren, de potentiële winnaars. Voor de overheid zijn de stakeholders alle burgers, waaronder de potentiële verliezers. De lat ligt hoog.’

Diversiteit stimuleren

Maar wat betekent dat concreet voor het handelen van een lokale overheid? Moet de overheid bijvoorbeeld opletten of de eigen softwareleveranciers wel een inclusieve werkomgeving aanbieden? ‘Eigenlijk wel. Diversiteit maakt een belangrijk onderdeel uit van die ‘verantwoorde technologie-spier’. Als je voor diverse groepen software wil maken, moet je ook een divers team hebben. We denken dan snel aan gender of etniciteit, maar het gaat ook om opleidingsniveau, economische achtergrond, opleidingsniveau van je ouders, geografie, et cetera. Diversiteit gaat niet over ‘jij mag ook meedoen’, maar stelt je in staat om de gevolgen van jouw initiatieven door heel verschillende lenzen te bekijken. Dat betekent dat zowel de leveranciers als de afnemers moeten proberen om zo divers mogelijk te zijn, of in ieder geval te denken en handelen.’

Bedrijfsleven wil duidelijkheid

Daarnaast heeft de overheid natuurlijk een belangrijke rol op het gebied van regulering. In rap tempo vinden er wereldwijd ingrijpende technologische ontwikkelingen plaats, waarbij Europa zich opwerpt als een voorloper op het gebied van wet- en regelgeving. Beleidsmakers hebben echter moeite om technologische ontwikkelingen bij te benen. Toch is ook onder bedrijven de roep om meer regulering groot, blijkt uit het onderzoek. ‘Het bedrijfsleven heeft vooral behoefte aan duidelijkheid,’ zegt Ter Horst. ‘Regelgeving beperkt risico’s en kan daardoor versnellend werken. De ambitie van verregaande regulering is bescherming en versnelling, zodat organisaties op een veilige en verantwoorde manier kunnen innoveren. Ook in China en de Verenigde Staten is daar draagvlak voor.’

Met de Werkagenda Waardengedreven Digitaliseren is Nederland al een eind op weg om een voortrekkersrol te pakken. Verstandig, vindt Ter Horst. ‘Als Nederland een rol van betekenis wil spelen in de technologie, ligt het voor de hand om dat met name over de as van de verantwoorde technologie te doen. Daar liggen kansen om ons te onderscheiden.’

Responsible tech coalitie

Volgens het onderzoek moeten er drie zaken gebeuren om tot meer verantwoorde technologie te komen. Voor commerciële organisaties moet de markt druk uitoefenen. Daarnaast moeten medewerkers eisen stellen. Dat is in de krappe arbeidsmarkt niet denkbeeldig; met name de nieuwere generatie ziet het toevoegen van waarde als een randvoorwaarde voor betekenisvol werk. De derde pijler bestaat uit wettelijke kaders. ‘Wat nog ontbreekt is de vierde pijler, de mensen die aan de knoppen zitten,’ zegt Ter Horst. ‘Dat is de technologiesector zelf. Daar maken wij ons hard voor. Niet alleen bij de IT-leveranciers, maar ook de gebruikers, de IT-teams van een waterschap, een gemeente of provincie. Ik zie  voor me dat we in Nederland tot een responsible tech coalitie komen. Die coalitie zou vooruitlopen op regelgeving, en bij voorkeur besluiten om er nog een schepje bovenop te doen.’