platform voor kennis, nieuws en opinie
Zoeken
platform voor kennis, nieuws en opinie

AP: maak burger brein van de smart city

AP: maak burger brein van de smart city

Artificial intelligence

Veel smart city-toepassingen verzamelen onnodig veel data en maken zo inbreuk op de vrijheden van burgers. Dat stelt de Autoriteit Persoonsgegevens na onderzoek onder twaalf gemeenten. “Het betrekken van burgers lijkt in smart city-toepassingen een sleutel tot succes, echter wordt dit nog maar zelden uitgevoerd.”

Wifi-tracking, microfoons, camera’s en andere sensoren: gemeenten verzamelen onder de noemer smart city veel en graag data in de openbare ruimte, onder meer voor crowd management, verkeersadviezen en virtuele gebiedsontwikkeling. Maar, waarschuwt de Autoriteit Persoonsgegevens, zij staan daarbij onvoldoende stil bij de privacywetgeving en betrekken burgers hier te weinig bij.

Kunnen en mogen

Dat is het beeld dat ontstaat bij lezing van het onderzoek dat de AP deed naar de inzet van smart city-toepassingen, en of (en in hoeverre) daarbij de persoonsgegevens van bewoners en bezoekers voldoende beschermd worden. Hiervoor keek zij naar twaalf gemeenten, variërend van steden die zich prominent profileren als smart cities tot ‘gemiddelde’ gemeenten zonder specifieke focus op dit onderwerp.

De waarschuwing van de AP is niet zonder gevolgen, want die slechte implementatie van smart technologieën kan ten koste gaan van de vrijheid van inwoners en bezoekers van die gemeente, stelt de AP. “Bijvoorbeeld wanneer burgers in de openbare ruimte worden gevolgd op een manier die niet nodig is of niet is toegestaan.” Bovendien verbiedt de Algemene verordening gegevensbescherming (AVG) het onnodig of ongeoorloofd verzamelen of gebruiken van persoonsgegevens in de openbare ruimte, zodat gemeenten de kans lopen op sancties (zoals een verwerkingsverbod van data of een boete). Oftewel: dat iets technisch kán, betekent nog niet dat het ook mág.

Surveillancemaatschappij

Vrijwel alle onderzochte gemeentes hebben nog te weinig kennis over en aandacht voor de gevolgen van smart city-toepassingen voor burger en bezoeker, stellen de AP-onderzoekers. Want hoewel er tussen de twaalf gemeenten een enorm verschil in volwassenheid van het smart city-niveau genoteerd werd, bleken de lacunes overal aanwezig. Kaders over wat er qua dataverzameling en -analyse wel en niet mag ontbreken, het bewustzijn over de gevolgen voor rechten en vrijheden van de burgers is niet sterk genoeg, en de reden voor de inzet van de ‘slimme’ datatechnologie en -sensoren is vaak onvoldoende onderbouwd. Het is daarom vaak de vraag of de verzameling van gegevens in het publieke domein wel rechtmatig is.

Ook de noodzaak voor dataverzameling (in plaats van een alternatieve en meer algemene oplossing) ontbreekt vaak. “Is het echt noodzakelijk om persoonsgegevens te verwerken om het doel te bereiken?”, luidt een van de concluderende aanbevelingen. “Als er geen grondslag is voor de verwerking of als de gegevensverwerking niet noodzakelijk is voor het vastgestelde doel, dan mag de smart city-toepassing niet worden ingezet. Doelverschuiving is een reëel risico dat de rechten en vrijheden van burgers kan schaden.”

Persoon met futuristische technologie

‘Persoon met futuristische technologie’ door GaudiLab (bron: Shutterstock)

Dit laatste punt wordt het best geïllustreerd door Judith Veenkamp van onderzoeksinstelling Waag. In een reflectie op het AP-onderzoek haalt zij de gemeente Rotterdam aan, dat in het begin van de coronacrisis zonder al te veel mitsen of maren camera-auto’s inzette om de 1,5-meter-regel te handhaven in de openbare ruimte.

“Het is vooral opmerkelijk dat er in een crisissituatie totaal voorbij wordt gegaan aan de mogelijkheid om elkaar aan te spreken op de noodzaak tot afstand houden. Een methode die vele malen menselijker is en direct effect heeft, dan wanneer de camerabeelden vanuit een meldkamer live worden bekeken.” Retorisch stelt zij daarom de vraag: “Zou er ook op deze maatregel zijn ingezet als bewoners hadden meegedacht over manieren om het naleven van de 1,5-maatregel te stimuleren dan wel te handhaven?”

Monique Verdier, vicevoorzitter van de AP, waarschuwt in een begeleidend bericht bij het onderzoek dat een te data-hongerige smart city kan uitmonden in een surveillancemaatschappij waar je niet meer ongedwongen over straat kunt lopen. “De inzet van technologie kan gemeenten weliswaar meer inzicht geven in het gebruik van de openbare ruimte, maar dat mag niet zonder stil te staan bij de prijs die de inwoners en bezoekers van die gemeente hiervoor betalen. Hoe verhoudt het verzamelen van hun gegevens in de openbare ruimte zich tot hun vrijheid? Wie kan er allemaal bij die gegevens en waar mogen die voor worden gebruikt? Welke informatie mag aan elkaar worden gekoppeld? De technische mogelijkheden zijn oneindig, maar aan wat ethisch en juridisch toelaatbaar is zit een grens.”

Trieste conclusie

De AP raadt daarom gemeenten aan om twee partijen meer inspraak te geven in de ontwikkeling van de smart city: de gemeenteraad en de burgers. De gemeenteraad - die volgens de AP nog te weinig aandacht aan dit onderwerp geeft - ziet zij als ideale tegenmacht, waarbij zij opmerkt dat ze vaak nog niet beschikt over voldoende kennis om die controlerende taak goed uit te voeren. “Het betrekken van experts kan helpen om de juiste vragen te stellen.”

Daarnaast zouden burgers ingezet moeten worden als ‘brein’ voor de hele smart city-operatie. Want, zo luidt een van de conclusies: “De AP ziet bij risicovolle smart city-toepassingen in de praktijk niet hoe de gemeente alle risico’s voorafgaand in kaart kan brengen zonder de burgers om hun mening te vragen. Het betrekken van burgers lijkt in smart city-toepassingen een sleutel tot succes, echter wordt dit nog maar zelden uitgevoerd.”

Het stemt wat triest, maar de AP besluit haar lijst adviezen met de slotconclusie dat verdere verantwoorde ontwikkeling van de smart city niet mogelijk is als gemeenten deze adviezen niet ter harte nemen. “Zonder aandacht voor deze aspecten loopt de Nederlandse smart city het risico om de burger uit het oog te verliezen en zelfs de rechten en vrijheden van het individu te bedreigen. Dit risico geldt juist in de openbare ruimte, waarin burgers zich vrij en onbespied moeten kunnen wanen.”

Gelijkwaardige plek

In haar reflectie stelt Waag-onderzoeker Veenkamp dat ook voor gebiedsontwikkeling data een gevaarlijke rol kan spelen. Zij verwijst daarbij specifiek naar digital twins (zoals bijvoorbeeld die van Rotterdam), de digitale tweeling van de leefomgeving om ontwikkelingen in te visualiseren en hun effecten te voorspellen.

Robotics Trends

‘Robotics Trends’ door Zapp2Photo (bron: Shutterstock)

“Private partijen zetten samen met overheden in op de ontwikkeling van dit instrument, feitelijk een dashboard 2.0. Allereerst is het hier goed om te blijven bedenken dat het altijd om een representatie van de werkelijkheid gaat en dus niet de werkelijkheid zelf is. De mensen die de technologie ontwikkelen, vaak werkzaam bij private ondernemingen of de overheid, bepalen welke data er wel en niet wordt meegenomen en schrijven de algoritmen waar de voorspellende modellen op draaien.”

“Ten tweede bestaat er een reëel risico dat de burger ook in deze tech-innovatie uiteindelijk als subject fungeert waar over gepraat wordt, in plaats van met. Zij hebben niet alleen recht om te weten welke data die hen aangaat wordt verzameld, maar zouden ook een gelijkwaardige plek aan tafel moeten hebben wanneer de digital twin wordt ontwikkeld en toegepast. Daar wordt bepaald welke data er wordt verzameld, gekoppeld en gebruikt en onder welke voorwaarden. Zo kunnen zij meepraten, mee-ontwerpen en mee-besluiten.”

Smart city: samenwerking of conflict?

Hoewel het advies van de AP simpel klinkt, is het nog lang niet eenvoudig om burgers te betrekken bij de smart city. Dat betoogt Liesbet van Zoonen, academisch directeur van het Centre for BOLD Cities. Dit instituut van TU Delft, Universiteit van Leiden en Erasmus Universiteit Rotterdam doet onderzoek naar de rol van de burger en de overheid in smart cities.

In de publicatie ‘Publieke waarden of publiek conflict: democratische grondslagen voor de smart city’ van deze zomer stelt zij dat overheden denken dat zij burgers bij de smart city kunnen betrekken door op redelijke wijze argumenten uit te wisselen met welwillenden en gelijkgestemden (de zogeheten deliberatieve democratie). Terwijl, betoogt Van Zoonen, er ook veel te zeggen valt om juist het conflict als startpunt te nemen voor beleidsvorming (de zogeheten agonistische democratie), zoals afkomstig van anti-5G-activisten.

Van Zoonen: “De vraag wordt dan wel meteen hoe een dergelijk conflict kan worden opgelost. De participatieve middelen zoals living labs en hackatons, die zo populair zijn in smart city-discours en de smart city-praktijk, zijn hier niet geschikt voor, omdat ze in de regel geen antitechnologische oplossing bespreekbaar of mogelijk maken.”

Nee, de oplossing voor de agonistische democratie ligt volgens haar in de politiek. “De fundamentele vraag wat voor slimme stad je met die technologieën eigenlijk creëert, is tot voor kort nergens een scherpe politieke kwestie geworden.” Conflicten blijven daardoor geïsoleerd bestaan, terwijl de gemeenteraad deze zou moeten behandelen. Van Zoonen hoopt daarom op een prominente rol voor de smart city in de gemeenteraadsverkiezingen van 2022. “Dan kan het ontwerp van de slimme stad en haar technologieën worden geagendeerd en uitgevochten.”

Cover: 'Artificial intelligence' door Zapp2Photo (bron: Shutterstock)

Auteur

Inge Janse - 2019 (Kevin Krebbers)
Inge Janse

Adjunct-hoofdredacteur van Gebiedsontwikkeling.nu (i.janse@tudelft.nl)

Bekijk alle artikelen