Het AI-onderzoek aan de drie Zuid-Hollandse universiteiten op het gebied van vrede, recht en veiligheid vult elkaar op een interessante manier aan. Drie onderzoekers vertellen. Deel 1 van een serie over vijf thema's waarbinnen de drie universiteiten veel AI-gerelateerd onderzoek doen.
Het begon als een Delfts onderzoeksproject met de AIVD van twee wetenschappers op het snijvlak van respectievelijk cybersecurity en bestuur: Michel van Eeten en Bram Klievink. Met de Algemene Inlichtingen- en Veiligheidsdienst werken ze aan wetenschappelijk onderzoek rondom het identificeren en begrijpen van digitale dreigingen. Bijvoorbeeld door nieuwe instrumenten te ontwikkelen om het dreigingsniveau van kritieke netwerken te meten en om aanvalsgedrag te herkennen.
Overstap leidde tot nieuwe samenwerking
Vlak na de start in 2019 stapte Klievink over naar de Universiteit Leiden (Campus Den Haag), waar hij de kracht van de Leidse expertise op bestuur en beleid uit Leiden verder wil verbinden met de socio-technische kijk op cybersecurity van de Delftse onderzoekers. Ook op andere vlakken trekken de universiteiten samen op in onderzoek naar het gebruik van algoritmen in bestuurlijke context.
Zo noemt Klievink het LDE Centre for BOLD Cities, waarin de drie universiteiten samen onderzoeken hoe big, open and linked data (BOLD) werken in, met en voor steden. Klievink: 'Het centrum verenigt onder andere een sociologische invalshoek, urban studies, bestuurskunde, mediastudies, en techniek. We hebben een gezamenlijke multidisciplinaire minor ontwikkeld, die in het afgelopen najaar van start ging.'
In het algemeen denkt Klievink dat samenwerking tussen de drie Zuid-Hollandse universiteiten op zijn vakgebied vruchtbaar is, omdat er zowel complementaire als overeenkomstige expertises en speerpunten zijn. 'Zo is Rotterdam sterk in recht en bedrijfsmatige aspecten. Delft is natuurlijk bekend om de sterke technische kennis, zowel op het gebied van fundamenteel werk aan AI als op toepassingsgebieden. Minder bekend is dat in Delft ook veel kennis is over bestuur en ethiek, waar Leiden juist wel om bekend staat. Leiden heeft naast die kennis over bestuur, beleid, recht en normatieve aspecten óók een sterke technische kant.' Klievink zegt er meteen bij dat zo’n algemene kenschets op organisatieniveau geen recht doet aan de kennis die bij veel specifieke groepen en onderzoekers binnen die universiteiten aanwezig is.
World leading
De Delftse hoogleraar Cybersecurity Michel Van Eeten stipt aan hoe wetenschappers van de verschillende universiteiten elkaar ook buiten de universiteiten tegenkomen. 'Met Bibi van den Berg, hoogleraar Cybersecurity Governance uit Leiden, zit ik samen in de Cyber Security Raad.'
De Rotterdamse hoogleraar Recht en Economie Klaus Heine ziet zijn fundamentele onderzoek, waarin hij data met kernenergie vergelijkt, als complementair aan dat van de andere universiteiten. 'Ook dat is waardevol. Natuurlijk wisselen we technieken uit met bijvoorbeeld de TU Delft. Het kan een wens zijn van het management om meer samen te doen, we zouden world leading kunnen worden.'
Hieronder meer over Heines werk, en ook dat van Michel van Eeten en Bram Klievink. Ze doen allen AI-gerelateerd onderzoek op het gebied van vrede, recht en veiligheid.
Hoe je bedrijven beweegt het internet te beveiligen
TU Delft - Michel van Eeten
Het werk van hoogleraar Cybersecurity Michel van Eeten bezorgt bedrijven soms rillingen. 'Vaak hebben bijvoorbeeld hosting-bedrijven een vrij positief zelfbeeld van de veiligheid van hun netwerken, soms ten onrechte. Voor het Ministerie van Justitie onderzochten we de hosting van kinderpornografisch materiaal. Hoe goed monitoren hostingbedrijven of hun klanten geen kinderporno plaatsen, en hoe gaan ze ermee om als dat wel gebeurt?'
Namen en shamen hoeft niet
Onder politieke druk werd de naam bekend van het bedrijf dat ruim negentig procent van het materiaal bleek te hosten. Voor Van Eeten, gespecialiseerd in het bestuur van cyberveiligheid, hoeft dat namen en shamen niet, er zijn effectievere manieren om de problemen op te lossen.
De rode draad in Van Eetens werk: kijken naar de relatie tussen techniek en gedrag bij cyberrisico’s. 'Wij zoeken kwetsbaarheden in systemen die aan internet hangen, kijken vervolgens hoe we bij lekken de eigenaren bereiken van de systemen en welke prikkel hij of de internetbeheerder nodig heeft om het probleem op te lossen.' Van Eeten en zijn mensen ontwikkelen en gebruiken technieken om te meten of aan internet gekoppelde apparaten zich veilig over de digitale snelweg verplaatsen.
Twee bedrijven bleken lek
Zo deed zijn team een grootschalige meting naar camera's, digitale videorecorders, thermostaten en andere apparaten die aan het internet hangen. 'Het Internet Of Things is soms heel slecht beveiligd en vatbaar voor hackers en malware.' Van Eeten deed een belangrijke ontdekking. 'Er zijn tienduizenden fabrikanten, maar slechts twee van die bedrijven, belangrijke spelers, bleken verantwoordelijk voor de helft van alle gehackte apparaten.'
Stap één is vervolgens dat het ministerie van Economische Zaken een brief stuurt naar die bedrijven. Fabrikanten aanspreken lost al veel op, volgens Van Eeten: 'Pas later komt de dreiging dat de EU deze bedrijven zou weren van de Europese markt, wat die bedrijven een van hun grootste afzetmarkten zou kosten.' Prachtig toch, om zo het internet veiliger te maken.
Wat big data en kernenergie met elkaar gemeen hebben
Erasmus Universiteit Rotterdam - Klaus Heine
Europa hobbelt achter de VS en China aan op tech-gebied, omdat we bescherming van privacy hier belangrijk vinden. Hoogleraar Recht en Economie Klaus Heine broedt op creatieve manieren om daarvan juist een winstgevend unique selling point te maken. 'De EU kan juist het veiligste en aantrekkelijkste ecosysteem zijn voor kunstmatige intelligentie met de mens in het centrum.'
Toen Facebook WhatsApp kocht, was dat volgens het mededingingsrecht geen probleem: WhatsApp was maar een klein bedrijfje. Maar al die data... Daar had dit recht geen oog voor. Volgens Klaus Heine, die big data en privacy onderzoekt, had men ernaar moeten kijken vanuit het eigendomsrecht. 'Aan de ene kant werd hier gehandeld met een technologie, maar aan de andere kant met big data, die in feite een soort brandstof zijn.'
Spannende vergelijkingen
Het handelsmerk van Heine: hij ziet de boeiendste vergelijkingen. Bijvoorbeeld met het verleden. 'Rond 1950 hadden we met kernenergie net zo'n uitdaging als nu met big data. Er was enerzijds de techniek van de kernfysica, en anderzijds de toegang tot kernbrandstof, het radioactieve materiaal. De vraag was: hoe maken we die technologie op een veilige manier nuttig voor de maatschappij? De oplossing die nog altijd werkt: kerncentrales zijn privaat, maar de brandstof is van de overheid.'
De Europese Gemeenschap voor Atoomenergie (Euratom) stemt de onderzoeksprogramma's voor ontwikkeling en vreedzaam gebruik van kernenergie van de lidstaten op elkaar af. Zo'n Euratom is voor Heine een inspiratiebron. 'Facebook, Amazon en Google mogen hun datatechnologie gebruiken, zolang een soort Euratom oordeelt dat wat zij doen in het belang van de maatschappij is. Zo kan Europa the place to be worden voor veilige nieuwe technologie,'
Heine: 'Ik denk bij een issues op het gebied van cyberveiligheid: waar heb je dat nog meer in de maatschappij? Toen de Universiteit Maastricht werd gegijzeld met ransomware, zag ik een analogie met een overstroming door een dijkdoorbraak. Dan komt het leger helpen. Ik kan me voorstellen dat er in zo'n geval vrijwilligers en commando's komen die de infrastructuur herstellen. De kaders voor zo’n soort Cyber Militia worden al besproken, bijvoorbeeld door het Ministerie van Defensie in de VS.'
'Dé AI-uitdaging bij de overheid: neutrale systemen bestaan niet'
Universiteit Leiden - Bram Klievink
Voor de overheid ligt het gebruik van kunstmatige intelligentie ingewikkelder dan voor bedrijven. Hoogleraar bestuurskunde Bram Klievink en zijn collega’s leggen de knelpunten bloot en zoeken oplossingen voor digitalisering in publiek beleid.
Schrijnend voorbeeld: begin 2020 veegde de rechter het Systeem Risico Indicatie (SyRI) van tafel. Dit overheidsinstrument moest fraude met toeslagen en uitkeringen voorkomen middels gegevenskoppeling en patroonherkenning. De rechter vond de inbreuk op het privéleven te groot. Klievink: 'Als je zulke technieken inzet, maak je altijd keuzes. Je moet veel parameters afstellen. Die keuzes zijn nooit neutraal, maar we kunnen ze niet vermijden.'
Dilemma's rond afwegingen blijven vaak verborgen, omdat beleidsmakers en de technische makers van het systeem elkaars taal niet spreken. De samenwerking tussen mensen uit diverse disciplines die aan publieke AI-projecten werken kan daarom niet nauw genoeg zijn, aldus Klievink.
Vijf thema's vol AI-onderzoek in Zuid-Holland
Dit artikel is deel 1 van een serie waarin we laten zien hoe onderzoek met of naar kunstmatige intelligentie een rol speelt bij de Erasmus Universiteit Rotterdam, de Universiteit Leiden en de TU Delft. De artikelen beslaan deze vijf thema's, waarbinnen de universiteiten zowel met elkaar als naast elkaar werken:
- AI voor Vrede, recht en veiligheid
- AI voor Haven en maritiem
- AI voor Energie en duurzaamheid
- AI voor Gezondheid en zorg
- AI voor Technologische industrie
