'AI vraagt om politiek bewustzijn'

De voornaamste zorg is de verspreiding van misinformatie. Het gesprek over generatieve AI, over taalmodellen, gaat over een paar spelers, zoals ChatGPT en Bard (van Google, red.). Zij halen hun data veelal uit dezelfde bronnen, voornamelijk van het internet en boeken. In het datacorpus zitten fouten en bepaalde politieke gekleurdheden, die in de taalmodellen terechtkomen. Als iemand ervoor kan zorgen dat een bepaald type informatie in het proces wordt opgenomen, dan kan diegene er ook voor zorgen dat er informatie wordt verspreid die past bij zijn overtuigingen. Dit vraagt van mensen een bepaald maatschappelijk bewustzijn, naast digitale vaardigheden. Die combinatie is momenteel nog op een laag niveau. We moeten niet alleen digitale vaardigheden verbeteren, maar mensen ook betrokken krijgen bij de samenleving en bewustmaken van dit politieke proces.

Ik wou dat ik daar een antwoord op had. Ken je de Edelman Trust Barometer, die het relatieve vertrouwen in instituties over tijd laat zien? Onder meer door de aanpak van covid-19 en de opkomst van autocratieën beschouwen steeds meer mensen wereldwijd overheden als incompetent en onethisch. De enige manier waarop overheden dat vertrouwen kunnen herstellen, is door transparantie en bereidheid om verantwoording af te leggen.

Een totaalverbod is overcorrectie. Generatieve AI is een techniek. Het is niet de output. Als je wat tijd doorbrengt met ChatGPT of Bard, dan ontdek je dat het vaak prima werkt, al zou ik het niet raadplegen voor medische informatie of financieel advies. Zie het als een nieuwe, effectieve manier om in een kennisbank te zoeken met natuurlijke taal. Ik herinner me nog hoe je door een kaartencatalogus in de bibliotheek moest zoeken om boeken op de plank te vinden. Dat proces had waarde, maar Google, met al z’n links, is een stuk makkelijker. En ChatGPT en Bard zijn nog weer makkelijker dan zoekmachines. Ze distilleren informatie voor je. Het is aan jou om de verschillende mogelijkheden kritisch te bekijken en de juiste voor de toepassing te kiezen.

Niet alleen efficiëntie, maar ook de democratisering van informatie. Voor sommige groepen in de samenleving is het vinden van een goed antwoord op een vraag best lastig. Dat ze de informatie gedestilleerd krijgen door AI is een groot gemak. Ook niet onbelangrijk: taalmodellen kunnen worden gefinetuned voor bepaalde doeleinden, met een datacorpus dat daarop is afgestemd. En dan zijn ze extreem waardevol voor bijvoorbeeld gemeenten, om hun inwoners effectiever van dienst te zijn.

Bias is een menselijk probleem. We gaan de bias niet uit mensen krijgen, en dus ook niet uit de data die mensen produceren. Maar we kunnen wel AI-technologie gebruiken om bias te herkennen en te ondervangen. Ik maak me steeds minder zorgen over de extremere vormen van bias omdat ze door AI kunnen worden gevonden. Tegelijkertijd heb je ook te maken met subtielere, impliciete bias.

Ja, dat is een probleem. Sommige grotere beeldbanken bevatten veel suggestieve afbeeldingen van vrouwen in sexy poses. Ik denk niet dat we moeten vertrouwen op OpenAI of Microsoft of Google om dat op te lossen. Maar naarmate meer burgers zich bewust worden van hoe de modellen werken, kunnen we samen de modellen gaan voeden met meer representatieve beelden. Daar zouden bedrijven als SAS graag bij helpen.

In de AI-verordening zie ik niet veel inconsistenties met onze eigen AI-principes. In grote lijnen komt het overeen met onze 'ethical by design’-benadering. Natuurlijk moet je goed naar de details kijken om te weten wie als een general provider wordt gezien en wie als een service provider, en wat er valt onder laagrisico en hoogrisico-AI. Dat heeft belangrijke implicaties.

Over het algemeen ben ik een fan van wat ze proberen te doen. Neem de Data Act, waarmee de EU de soevereiniteit van data wil veranderen. Wanneer je de vercommercialisering van data door de grote techbedrijven als Amazon en Google aanpakt, dan gaan ze daar ongetwijfeld iets tegenin brengen. Of het allemaal gaat lukken, gelet op de grote belangen van de gevestigde partijen, is dus weer een andere vraag.

Ik reageer even als privépersoon. Laat ik eerst zeggen dat we al veel regelgeving voor AI hebben, in de zin dat de uitkomsten van AI meestal een effect hebben in de fysieke wereld. Als je bijvoorbeeld AI gebruikt om fraude te plegen, dan hebben we daar wetten tegen. Het is dus belangrijk bij het bedenken wat er nodig is voor het reguleren van AI om te zorgen dat het niet overlapt met bestaande wetten. Daarnaast moeten we vooruitkijken naar de komende 15 jaar. Dat is ook waarom ik een fan ben van wat de EU probeert te doen met de digitale economie. De EU is over het algemeen proactiever met dit soort zaken, terwijl de VS eerder een afwachtende houding aanneemt, maar in veel opzichten zitten we op één lijn.

Get into the fight. Doe mee, leer, zorg dat je de basis van AI begrijpt, dat je weet wat het betekent om toegang tot data te krijgen op een manier die aansluit bij de toepassing. Begrijp wat het inhoudt om AI in verschillende contexten toe te passen. Momenteel is het verhaal vaak: zet je schrap, want AI komt eraan. Wij voeren graag het bredere gesprek over generatieve AI, zodat mensen ook weten welke rol ze in het grotere geheel spelen. Ik denk dat dat gesprek uiteindelijk voor vertrouwen gaat zorgen. Omdat het mensen het gevoel geeft dat ze er meer controle over hebben.