Inzet drone als dilemma

Ssteeds meer gemeenten richten ethische commissies in

Enschede wil de dronehoofdstad van Europa worden. Een aanlokkelijk vooruitzicht voor een kennisstad met een technische universiteit en een gesloten vliegveld in de nabije omgeving, maar ook een voornemen dat uitdagingen met zich meebrengt. Welke regulering is er nodig voor private partijen? Is het mogelijk om pakketjes te bezorgen met drones, zonder dat dit onveilige situaties of overlast veroorzaakt? Op welke manieren kan de gemeente zelf drones inzetten? Behoort crowdcontrol met behulp van drones tot de mogelijkheden? Hoe doe je dat dan zonder dat de privacy van de bewoners in het geding is?

Zomaar wat vragen waar de ethische commissie voor vraagstukken over technologie en data zich momenteel over buigt. De ethische commissie van Enschede houdt zich niet alleen bezig met drones, maar met allerhande maatschappelijke vraagstukken waarbij technologie een rol speelt. Mag je warmtescans voor de klimaatopgave ook gebruiken om henneptelers op te sporen? Wat zijn de ethische grenzen van de inzet van algoritmes?

De kerntaak van de commissieleden: meedenken over wat de gemeente Enschede fatsoenlijk, moreel en ethisch toelaatbaar vindt op het gebied van technologie in de publieke ruimte. De commissie is een initiatief van burgemeester Onno van Veldhuizen. Hij vroeg Peter-Paul Verbeek, hoogleraar filosofie van mens en techniek aan de Universiteit Twente (UT), om als voorzitter op te treden. Die was meteen enthousiast. ‘Er wordt veel technologie ingevoerd in steden, de smart city is hip, maar er is weinig systematische ruimte om er echt kritisch over na te denken. Het is heel waardevol om vanuit de wetenschap bij te dragen aan de vormgeving van kaders om het verantwoord aan te pakken.’

Afspiegeling
Vooraf stond vast dat de ethische commissie een afspiegeling moest vormen van verschillende ethische perspectie - ven en ook op het gebied van gender en culturele achtergrond divers moest zijn. Dat is gelukt. Sophie Kuijt, chief technology officer (CTO) en hoofd data en AIethiek bij IBM Benelux, vertegenwoordigt het bedrijfs leven. Het juridisch perspectief komt van advocaat en hoogleraar ict-recht Lokke Moerel en van Michiel Heldeweg, hoog leraar Recht, Bestuur & Technologie aan de UT. Met Behnam Taebi, universitair hoofddocent techniekethiek aan de TU Delft, is ook het technisch-ethische perspectief goed vertegenwoordigd. Vijf keer per jaar komt de commissie bijeen in een besloten zitting. De eerste was in juni 2020. De commissieleden bepalen zelf over welke kwesties ze zich buigen, in samenspraak met de gemeente. En hoewel ze kritisch zijn, is het zeker niet de bedoeling om innovatieve gemeentelijke initiatieven bij voorbaat af te wijzen.

‘We gaan kritisch constructief reflecteren op beleidsvoornemens,’ zegt Verbeek ‘We doen meer dan alleen maar de grenzen aangeven van wat we níet willen. De bedoeling is dat we voorwaardenscheppend zijn om een goed democratisch debat te voeren over technologie en dat we dimensies in het debat kunnen brengen die anders onderbelicht blijven. Daarmee geven we de ethiek een positieve en productieve rol.’ Tijdens de eerste bijeenkomst wordt een aantal relevante partijen uitgenodigd om de commissie te informeren over de casuïstiek. De commissie stelt vervolgens vast welke ethische kerndimensies er in het geding zijn. Waar knelt het en waarom? Welke waarden staan er op het spel? Welke mogelijke impact heeft de technologie op de samenleving en het functioneren van de stad?

Op grond van de eerste verkenning schrijft de voorzitter met het secretariaat van de commissie een ruwe versie van een reflectie. Nadat de aanvullingen van de commissieleden zijn verwerkt, wordt de definitie reflectie vastgesteld. Die gaat naar B&W en gemeenteraad. Ook zal de tekst online te vinden zijn.

Niet bindend
En dan? Wat als B&W de reflectie schouderophalend naast zich neerlegt? June Nods, wethouder financiën, economie, onderwijs en jeugdzorg (D66), is vanuit Enschede bestuurlijk verantwoordelijk voor de ethische commissie. Ze benadrukt dat de uitspraken van de ethische commissie niet bindend zijn. ‘We betrekken de reflectie bij onze besluitvorming, maar dat wil niet per se zeggen dat we alles zullen volgen. Als we afwijken van de adviezen, zullen we dat wel motiveren.’

Verbeek wil ook uitdrukkelijk geen toetsingscommissie voorzitten. ‘Als het alleen het uitleggen en toepassen van het wetboek zou zijn, dan is de lol er voor mij per soonlijk snel af. We zetten het op als een experiment, waarbij we samen ontdekken hoe je dit zou moeten aanpakken.’ Wat hem betreft zouden burgers daarin een grote rol moeten spelen. ‘Je moet af van het frame dat ethiek een monopolie is van experts. Daarmee vervreemd je mensen en dat is het laatste wat je wil, als je een gemeente probeert te besturen.’

Toen ze in Enschede begonnen met de ethische commissie, was er nog geen voorbeeld om de kunst van af te kijken. Inmiddels beschikt Helmond over een soortgelijke ethische commissie en zijn die van Eindhoven en Hilversum in oprichting. Wethouder Nods is blij dat het voorbeeld van Enschede navolging kent. ‘Het betekent dat we met elkaar resultaten kunnen delen. Per stad kunnen de vraagstukken verschillend liggen, maar er zullen ongetwijfeld zaken zijn die voor iedereen van belang zijn. Het zou mooi zijn als we dat kunnen bundelen, bijvoorbeeld via de VNG.’

Ze denkt aan een databank met casuïstiek, waarmee iedere gemeente zijn voordeel kan doen. Verbeek verwacht dat de commissies veel van elkaar kunnen leren, ondanks verschillen in opzet. Waar de ene ethische commissie neigt naar een burgerpanel, is de andere commissie breed samengesteld, met niet alleen ethici, maar burgers uit alle gelederen van de samenleving. Verbeek: ‘En in tegenspraak met mijn pleidooi voor burgerethiek is ons model eigenlijk heel klassiek: een groep experts die reflecteert. Maar in onze reflectie zullen we burgers heel expliciet en actief betrekken.’

Wat vindt de technologie-criticus?
Privacy-ontwerper Tijmen Schep: ‘Ik vind de houding van de ethische commissie erg zalvend: “We denken kritisch, maar gaan niet alleen kritiek leveren.’’ Dat is een noodgedwongen houding, omdat er nog altijd veel mensen zijn die technologie-kritiek associëren met pessimisme. Maar van mij mogen ze pittig zijn. Er is genoeg kennis en theorie beschikbaar waarmee we al in een vroeg stadium kind en badwater van elkaar kunnen onderscheiden en risico’s kunnen inschatten. In de toekomst zal ethische verantwoorde innovatie een groeimarkt zijn, net zoals biologisch eten dat nu al is. Een stad die innovatief wil zijn, moet stoppen met het napraten van Silicon Valley en een eigen Europese stem ontwikkelen. Zie technologie-kritiek dus niet als iets vervelends, maar als een kans.’

Wat vindt de hoogleraar bestuurskunde?
Hoogleraar bestuurskunde Zeger van der Wal: ‘Een ethische commissie is een waardevol initiatief in een tijdsgewricht dat vraagt om stevige en kritische reflectie op de inzet van technologie door overheden. Zeker als de implicaties ervan nu nog niet te overzien zijn. Tot nu toe is de reflex vaak geweest om iets als gemeente dan maar niet te doen. Of juist vanuit een preventief-legalistisch perspectief initiatieven te smoren in regels en protocollen. Mooi ook dat het Enschedese initiatief in andere gemeenten navolging vindt. Het adviserende maar tegelijkertijd kritische karakter van de commissie past ook bij het Nederlandse openbaar bestuur. In Singapore en Dubai heb ik met eigen ogen gezien hoe overheden al wat verder zijn met de inzet van dit soort technologie, terwijl technisch- ethische afwegingen vaak een net wat andere uitkomst hebben.’