Groeiende onvrede en afhakende mensen die zich niet gehoord voelen: kunstmatige intelligentie kan soelaas bieden. Het kan besluitvorming veel zorgvuldiger en completer helpen maken, laten hoogleraar Hybride Intelligentie Catholijn Jonker en innovatieconsultant Ilyaz Nasrullah zien.
Eerst iets rechtzetten over democratie
Computerwetenschapper Catholijn Jonker en informaticus Ilyaz Nasrullah zijn helemaal thuis in algoritmen en datasystemen, maar kijken ook met een heldere blik naar hoe wij samenleven en wat democratie eigenlijk is.
Nasrullah: ‘Dat de meerderheid bepaalt wat er gebeurt, is niet het hele idee van een democratie. Naast de rechtsstaat die belangen beschermt, is het ook essentieel dat je bereid bent naar elkaar te luisteren.’
Jonker ziet dat precies zo. ‘Je moet elkaar begrijpen voordat je tot een besluit komt. Oog hebben voor de normen en waarden van anderen, willen zorgen voor anderen: waar zitten zij mee, wat blokkeert hen om ja te zeggen tegen een voorstel? Zolang je elkaar niet begrijpt, is de ander een bozerik die jouw belangen niet wil zien.’
Ze noemt corona als voorbeeld. ‘Bij strenge coronamaatregelen speelden verschillende belangen. Ze hadden grote impact op bedrijven, die ze dus het liefst snel wilden loslaten. Aan de andere kant had je de angst die mensen hadden over hun gezondheid. Het is niet interessant wie er fout zit, we moeten met elkaar iets beslissen. Het is wel belangrijk dat je het gevoel hebt dat jouw belang gehoord is. Dat wil ik met AI beter mogelijk helpen maken. Daarom doe ik mee met het Centre for BOLD Cities.’
Een algoritme kan álle stemmen horen
Algoritmen bieden ongekende mogelijkheden om besluitvorming te verbeteren. Jonker: ‘Stel je deze casus voor: inwoners van een woonwijk mogen stemmen over de verdeling van drie ton om de wijk op te knappen. Mensen hebben voorstellen ingediend en nu mag iedereen die voorstellen rangschikken én noteren waarom welk voorstel wel of niet de voorkeur heeft.’
Als er 20.000 mensen stemmen, is het onmogelijk voor een ambtenaar om al die stemmen door te ploegen.'
Daar kun je niets mee, zou je zeggen. ‘Als er 20.000 mensen stemmen, is het onmogelijk voor een ambtenaar om al die stemmen door te ploegen. Je kunt ze alleen tellen en de meerderheid zijn zin geven. Dan gaat het geld naar het beste verhaaltje.’ Een algoritme kan wél alle stemmen en toelichtingen doorploegen.
‘Stel: een project krijgt net geen meerderheid. Omdat er een paar dingen niet duidelijk bleken, of er bestaan bepaalde zorgen, of het paste niet in het budget. Een algoritme kan dat naar boven halen en zo kan een gesprek ontstaan over de aanpassing van het voorstel.’ In een tweede kiesronde, een kleine moeite met zo’n algoritme, kunnen dan de voorstellen winnen die mensen écht willen.
Zulke algoritmen bestaan en worden al gebruikt
De meeste lerende algoritmen zijn erop gericht ‘een beetje de gemiddelde mening’ boven water te krijgen, zegt Jonker. ‘Maar een gevoel dat mensen na zo’n raadpleging krijgen, is: je zegt wel dat je naar me luistert, maar je doet er niets mee! Je kunt AI trainen ook om juist diversiteit te meten, om waarden, zorgen en motivaties te clusteren.’ Een stille meerderheid kan dan nuance aanbrengen. Dat gebeurt al bij PWE: Participatieve Waarde Evaluatie, ontwikkeld door onder meer wetenschappers van de TU Delft.
Zo hielden drie universiteiten en het RIVM in het voorjaar van 2020, tijdens de eerste corona-lockdown de coronaraadpleging. De 30.000 deelnemers kregen op hun telefoon of tablet acht versoepelopties te zien met hun voor- en nadelen. Daarnaast mocht de druk op het zorgsysteem niet meer dan 50% toenemen. Ook kregen deelnemers informatie over de effecten van elke optie op het aantal sterfgevallen en bijvoorbeeld de afname in het aantal huishoudens met langdurig inkomensverlies.
Deelnemers adviseerden welke maatregelen volgens hen moesten worden versoepeld, daarna konden zij hun keuzes motiveren. Ook konden ze ideeën inbrengen voor eventuele andere versoepelingen. Een algoritme analyseerde de uitkomsten om inzicht te krijgen in de waarden, motivaties en zorgen van mensen. In maart 2023 startte de Tweede Kamer de Nationale Klimaatraadpleging, die ook op deze manier werkt. De PWE-onderzoekers van de TU Delft richtten eind 2020 een startup op rond de methode: Populytics.
AI kan sterke stemmen versterken, maar ook zwakkere stemmen naar voren halen."
Bedenk altijd: waar doen we het voor?
Nasrullah vindt de hoofdvraag bij technologievraagstukken zó evident, dat hij zich bijna schaamt om hem te stellen. Toch merkt hij vaak dat juist die vraag niet wordt gesteld. ‘Wat is het doel van je technologie? Je kunt AI gebruiken om de sterkste stem te versterken of om de zwakkere stem naar voren te halen. De technologie-keuze die je maakt, komt pas na het antwoord op je doel-vraag.’
Jonker: ‘Precies, dat is superbelangrijk! Je wilt recht doen aan de bevolking, representatief en inclusief zijn en alle belangen zo goed mogelijk afwegen.’ Nasrullah: ‘Technologen krijgen te snel de opdracht om maar te gaan bouwen wat zij bedenken. Zo was er het nuttige en succesvolle systeem dat coronavirus in rioolwater kon meten, ik schreef erover in een van mijn columns. Je weet hier wat er gemeten wordt en waar het goed voor is. Maar vervolgens ontstaan plannen om uit rioolwater ook informatie te halen over obesitas, diabetes en bepaalde vormen van kanker. Waar is dat goed voor? Komt er een dikke-mensenalarm? Dat is nutteloze datahonger, precies de slimme stad die we niet willen.’
Als je weerwoord ophaalt, dan moet je er ook gevolg aan geven."
Jonker: ‘En als je weerwoord ophaalt, dan moet je er ook gevolg aan geven. Zodat mensen voelen dat je ze hebt gehoord. Hoe je dat organiseert, is een complex socio-technisch probleem met juridische, technische, praktische en sociale aspecten.’
We kunnen een voorbeeld nemen aan Taiwan
De piepjonge democratie Taiwan is leidend in het inzetten van technologie om te helpen besturen, zeggen de beide kenners. Het land heeft een minister voor digitale zaken: Audrey Tang, een van de beste softwareprogrammeurs ter wereld, volgens Nasrullah. ‘Bij ons zijn burgerraden in opkomst, in Taiwan is daarvan een technologische variant ontwikkeld.
In het online-offline consultatieproces vTaiwan waren volksvertegenwoordigers, wetenschappers en andere experts, bedrijven, burgerorganisaties en burgers vertegenwoordigd. De bedoeling was om tot legitieme – namelijk op echte consensus gebaseerde – besluiten te komen. Het proces doorliep de fasen voorstel, meningen, reflectie en wetgeving.’ In elke fase zorgden algoritmen ervoor de diversiteit of juist de consensus naar voren te brengen. Nu is vTaiwan onderdeel van het platform Join, waarover MIT Technology Review schrijft: ‘Een simpel maar ingenieus systeem waarmee Taiwan crowdsourcing op wetgeving mogelijk maakt.’
‘Er is in Taiwan een enorme bereidheid tot experimenteren’, zegt Nasrullah. Een minister voor digitale zaken lijkt hem ook voor Nederland geweldig, hij ziet mogelijkheden voor vernieuwing in onze democratie. ‘Het is ontzettend jammer dat in de Nederlandse Tweede Kamer maar heel weinig mensen zitten die écht weten wat wel en niet kan met technologie. Ik zou graag zien dat alle politieke partijen een expert op het gebied van IT hoog op de kieslijst plaatsen, want technologie beïnvloedt wezenlijk de vorm van onze samenleving.’
Catholijn Jonker is hoogleraar Interactieve Intelligentie aan de TU Delft en verbonden aan het Leiden Institute of Advanced Computer Science (LIACS). Als computerwetenschapper houdt ze zich bezig met de inbedding van kunstmatige intelligentie in de sociale omgeving.
Ilyaz Nasrullah is zelfstandig innovatieconsultant. Als informaticus werkte hij aan digitale technologie voor startups, grote bedrijven en overheden. Om het menselijke geluid over de digitale technologie te laten horen, schrijft hij columns voor dagblad Trouw.
Tekst: Rianne Lindhout
White paper over Smart Cities