De vermaarde Britse tv-serie Black Mirror houdt ons een spiegel voor waar het heen kan gaan met de aanhoudende digitalisering. Op zijn zachtst gezegd wordt een onbehagelijk beeld geschetst. Techleider Elon Musk komt met dezelfde boodschap: de voortgang van Artificiële Intelligentie is de grootste bedreiging voor de mensheid. In de smart city komen al die technologieën samen. Welke lessen kunnen stedenbouwkundigen en bestuurders trekken uit deze gitzwarte toekomstbeelden, nu het nog niet te laat is.

Ons leven wordt met de dag meer gedomineerd door digitale technologie. Kijkend naar de snelle opkomst van de smart city gebeurt dat ook steeds meer in de stedelijke (openbare) ruimte. Publiekelijke wifi-netwerken, sensorische lantaarnpalen en vuilnisbakken, zelfrijdende auto’s… het is er al of komt er met rasse schreden aan.

Deze toepassingen kunnen zeker meerwaarde hebben. Ze kunnen behulpzaam zijn bij het leefbaar en veilig houden van steden wanneer die te maken hebben met een enorme aanwas van nieuwe inwoners. Technologie is daarbij onmisbaar, zoals in deze column op Stadszaken wordt onderschreven.

Smart city hosanna
Echter gaat de ontwikkeling en implementatie van smart city-toepassingen nu zo snel, dat ik me afvraag of er door stadsbestuurders en stadsplanners wel stil wordt gestaan bij de mogelijke risico’s. Zij schermen graag met de hippe terminologie, en gaan maar wat graag in zee met technologiereuzen als Cisco en Siemens die de technologie aanbieden. Zijn de betrokken actoren te enthousiast waardoor ze zich blindstaren?


Donkere tegenhanger
De risico’s die nieuwe technologie met zich mee kan brengen komen overduidelijk naar voren in Black Mirror. Elke aflevering van de serie staat op zichzelf, met een verschillend verhaal en cast. Steeds wordt een andere techniek als uitgangspunt genomen. De enige constante in de serie is dat elke aflevering in mineur eindigt. Een aantal van de technologieën die de revue passeren zijn ook terug te vinden in een smart city en worden hieronder behandeld.


Twee extremen
Een gebrekkige kritische blik van de smart city-gelovigen staat lijnrecht tegenover de visoenen uit Black Mirror. Waarschijnlijk is de ene kant te positief, de ander te negatief. De waarheid zal uiteindelijk - zoals wel vaker – ergens in het midden liggen. Maar op het moment lijkt het er op dat de marketeers van smart cities de overhand hebben. Om wat scherpte aan het debat toe te voegen, kan het geen kwaad hier de mogelijke negatieve gevolgen van deze slimme steden uit te lichten aan de hand van voorbeelden uit Black Mirror. Opgemerkt moet worden dat Black Mirror en de heer Musk spreken over de toekomst, wat wil zeggen dat we nu nog aan de knoppen zitten. Zo is Artificiële Intelligentie ons (in veel gevallen) nog niet te slim af. Daarom moet er juist nú worden stil gestaan bij mogelijke toekomstscenario’s, en onwenselijke scenario’s worden voorkomen.


De zelfrijdende auto als nóg groter gevaar op de weg
Zelfrijdende auto’s worden nu vermarkt als dé oplossing voor veilig verkeer. De gemiddelde autobestuurder is en blijft toch maar een gevaar op de weg. Uiteindelijk moeten er nul auto-ongevallen zijn, door de slimme algoritmes die met elk mogelijke verkeerssituatie accuraat en veilig kunnen omgaan.

In de Black Mirror- aflevering ‘Crocodile’ pakt het helaas anders uit. Een zelfrijdende pizza bezorgwagen rijdt een voetganger aan. Vervolgens probeert een verzekeringsagent uit te zoeken of de wagen harder reed dan voorgeprogrammeerd was. Bij wie ligt de fout? Bij de pizzaleverancier, de voetganger of misschien een derde partij die de wagen gehackt heeft?

Uiteindelijk wordt deze vraag niet meer beantwoord omdat de aflevering een volledig andere wending neemt. Maar het blijft relevant voor smart city-ontwikkelaars om na te denken over wie verantwoordelijk is bij een eventueel ongeluk met zelfrijdend vervoer. Ongevallen hebben al een aantal keer plaatsgevonden, met zelfrijdende auto’s van Google, Tesla en Uber.

Still uit aflevering Crocodile
Still uit de aflevering Crocodile. Bron: https://www.youtube.com/watch?v=XJ372PKQGFQ&t=758s

 

Aanbieden van publiek wifi-netwerken faciliteert de ‘smombies’
We leven inmiddels in een tijd waar de smartphone een verlengstuk van ons lichaam is geworden. Smartphone zombies - oftewel ‘smombies’ – vormen klaarblijkelijk al zo’n grote groep dat oversteekplaatsen er op sommige plekken voor worden aangepast, door het stoplicht in de stoeptegels te verwerken (link). Zo hoeven de smartphone gebruikers hun aandacht niet te verleggen naar het verkeer en kunnen ze doorgaan met hun appjes. Dit soort maatregelen werkt de wereldwijde (in mijn ogen) uit de hand gelopen smartphoneverslaving in de hand, het wordt op die manier zelfs gefaciliteerd! Het is bijna alsof de overheid verdovende middelen aanbiedt. Hetzelfde geldt voor het publieke wifi-netwerk dat in elke zichzelf respecterende smart city wordt opgetuigd. Zo wordt het nóg makkelijk om altijd en overal op je telefoon te kijken en dat maakt mensen ronduit apathisch en antisociaal.  

In Black Mirror komt die apathie door smartphone gebruik naar voren in de ‘White Bear’ episode. Een vrouw wordt achtervolgd door een stel moordenaars en verkeert in totale paniek. In plaats van te helpen, filmen omstanders de vrouw slechts hoe zij doodsangsten uitstaat. De telefoon heeft hen ontnomen van enige vorm van empathie.

Still aflevering White Bear
Still uit White Bear.Bron: https://medianerdalert.files.wordpress.com/2016/10/black-mirror-white-bear-running-lenora-crichlow.png

 

Vijf keer door rood lopen betekent dat je niet meer meedoet
De voorspelling uit de aflevering ‘Nosedive’ is helaas al werkelijkheid geworden. In deze uitzending probeert een vrouw een hypotheek te krijgen, maar moet daarvoor een minimale waardering van 4.0 hebben op haar sociale mediaprofiel. Hierdoor wordt ze gedwongen zich uiterst correct te gedragen - op een zeer geforceerde manier - zodat ze hogere waarderingen krijgt van mensen waarmee ze in contact komt. Het leidt tot een wereld waarin iedereen op een neppe en oppervlakkige manier met elkaar omgaat. Bij écht en/of onaangepast sociaal gedrag is de kans aanzienlijk dat je persoonlijke score omlaag schiet. Dat betekent dat je naast een hypotheek ook geen aanspraak meer kan maken op de meeste basale publieke- en commerciële voorzieningen.

In de Chinese stad Shenzhen wordt momenteel geëxperimenteerd met een stoplicht, uitgerust met gezichtsherkenningssoftware. Mensen die daar vijf keer door rood lopen worden herkend en hun Sociale Kredietscore wordt verlaagd. Elke Chinees krijgt vanaf 2020 zo’n score via het Sociale Kredietsysteem. Deze score is ook gebaseerd op het digitale spoor dat op internet wordt achtergelaten. Zoals data over welke boeken je koopt, welke films je kijkt en wat voor online opmerkingen je plaatst. Want dit gedrag moet uiteraard wel in lijn zijn met de gedachtegang van de  Communistische Partij. Wellicht hebben partij functionarissen hun inspiratie gehaald uit Nosedive. Want ook in China zal gelden: hoe lager je score, hoe minder je gebruik kan maken van publieke- en commerciële voorzieningen. Tot op het moment dat je gewoonweg niet meer mee kan doen in de samenleving.

Still uit de aflevering Nosedive
Still uit de aflevering Nosedive. Bron: https://www.pinterest.com/pin/334392341066549120/

 

Black Mirror als verplichte kost, nu het nog kan

Na het bespreken van het gitzwarte beeld dat regisseur Charlie Brooker ons voorlegt in Black Mirror, wil ik wil afsluiten met een bemoedigende boodschap. Deze toekomstscenario’s hoeven geen werkelijkheid te worden. Urbanisten en bestuurders kunnen nu er nog voor kiezen een andere weg in te slaan. Om zo de smart city te beperken tot slechts een bescheiden oplossing in plaats van een autonoom handelend ‘organisme’ met misschien wel kwaadaardige bedoelingen. Volgens Musk is strenge regulering en toezicht op de technologische ontwikkelingen nodig. Complexe, democratisch ingestemde wetgeving die afgestemd moet worden op de snel voortschrijdende digitalisering, geen gemakkelijke opgave. Voordat de grote klus moet beginnen: stedenbouwkundigen en bestuurders, begin eerst maar eens met een paar afleveringen van Black Mirror!

Stadszaken

 

Stadszaken
Paulus Borstraat 41 3812 TA Amersfoort
redactie@stadszaken.nl