Jelle van Buuren: Waterstanden
We vroegen de deelnemers aan het wiv-onderdeloep-debat ' Minortity Report' - heden of toekomst, dat plaats vond in Pakhuis de Zwijger op 15 maart j.l., een korte inleiding te houden. Hieronder de bijdrage van Jelle van Buuren, Universitair docent aan de Universiteit Leiden (ISGA).
Enige tijd geleden mocht ik digitaal mijn waterstanden doorgeven aan het plaatselijke waterbedrijf. Nadat ik de cijfers had ingetikt verscheen er letterlijk een rood scherm met de vraag of ik zeker wist of ik de juiste data had ingevuld. Want: uw data wijken af van wat we verwacht hadden. Nu kun je denken: wat een fijne service van het waterbedrijf. Verkeerd ingevoerde gegevens kunnen leiden tot verkeerde rekeningen, en een hoop administratief gedoe om dat later weer recht te zetten. Maar kennelijk is er op basis van het waterverbruik van de Amsterdammers een algoritme geschreven dat bepaalt wanneer kritische randvoorwaarden worden overschreden. Mijn watergebruik werd door de computer niet normaal gevonden. Ik week af van de gestelde norm. Ik was deviant.
En of het alleen maar een service was, weet ik ook niet zeker. Waterverbruik is namelijk ook één van de indicatoren die in het gemeentelijke SyRi-systeem is opgenomen, naast indicatoren als arbeidsverleden, openstaande boetes, bezittingen, verblijfstitel, vergunningen, strafblad en ziektekostenverzekering. In dat systeem staan de gegevens van alle burgers. Van al die burgers wordt een profiel opgesteld dat wordt vergeleken met een risicoprofiel. Komt jouw profiel overeen met het profiel van een 'risicoburger' dan mag je je in toenemende aandacht van de gemeente verheugen.
Het categoriseren van burgers aan de hand van een dataprofiel met het doel hen verschillend te behandelen noemen we social sorting. Het is mijn stelling dat social sorting de manifestatie is van onderliggende veranderingen in de maatschappij die veel verder gaan en misschien ook wel ingrijpender zijn voor burgers dan de vraag of inlichtingen- en veiligheidsdiensten nu wel of niet een sleepnet krijgen en hoe grof de mazen daarvan zijn. In het begrip social sorting komen een paar ontwikkelingen samen. Social sorting is gekoppeld aan risicodenken en veiligheid: burgers verschillend behandelen aan de hand van het toekomstige risico dat ze zouden kunnen betekenen. Denk aan de verschillende watch lists en profielen die worden gebruikt om internationale mobiliteit te reguleren. Op de groene lijst staan de zogenaamde vertrouwde reizigers die welkom zijn en weinig controle ondervinden; op de zwarte lijst staan de reizigers die niet welkom zijn omdat ze als gevaar worden gezien; en op de grijze lijst staan de nog-niet-vertrouwde reizigers die aan een sterkere controle worden onderworpen.
Social sorting vindt plaats in de context van de risicosamenleving en wat de Preventive Turn wordt genoemd: het willen uitsluiten van toekomstige risico's door preventief in te grijpen. En om te kunnen sorteren en categoriseren, om preventief in te kunnen grijpen, zijn data nodig. Heel veel data. Zo veel mogelijk data over zo veel mogelijk burgers. In feite gaat het om de doorwerking van een inlichtingencultuur - inlichtingendiensten kijken per definitie naar de toekomst om nog niet helemaal duidelijke bedreigingen vroegtijdig te onderkennen. Die inlichtingencultuur, het preventief kijken naar mogelijke toekomstige risico's breidt zich steeds verder uit naar allerlei andere sociale velden. Die cultuur en die praktijk wordt meer en meer een structurerend en ordenend principe van onze samenlevingen.
Die data worden uiteraard deels verzameld door publieke actoren - overheden, politiediensten, inlichtingendiensten. Maar in toenemende mate zien we private inlichtingendiensten ontstaan. Het is nog steeds een enorme blinde vlek in de discussie over inlichtingendiensten en surveillance. Enerzijds gaat het om private inlichtingendiensten in enge zin: bedrijven die data verzamelen, risicoanalyses maken en methoden inzetten die we associeren met publieke inlichtingendiensten om hun klanten te bedienen. Dat kan gaan om bedrijven die geconfronteerd worden met protestbewegingen of actiegroepen, om bedrijven die een risicoanalyse willen hebben van een land om hun investeringsstrategie te kunnen bepalen tot en met bedrijven die informatie over individuen of andere bedrijven willen hebben voordat ze er zaken mee willen gaan doen. En er is vaak nauwe samenwerking tussen publieke en private inlichtingen- en veiligheidsdiensten, al was het maar via het old-boys-network. Het is een sector waar we eigenlijk helemaal niets over weten en nooit naar kijken.
Maar er zijn ook nieuwe private inlichtingenorganisaties aan het ontstaan. In mijn optiek zijn de Facebooks en Googles van deze wereld in feite inlichtingenorganisaties: hun specialiteit is het verzamelen van zoveel mogelijk data over zoveel mogelijk burgers/klanten. En ook zij hanteren de strategie van social sorting: het categoriseren van groepen en individuen, in dit geval op hun toekomstige marktwaarde. Maar wie denkt dat deze bedrijven alleen maar wat spulletjes willen slijten, heeft het echt mis. Het zijn politiek-economische machten geworden die een grote invloed uitoefenen op bijvoorbeeld het publieke debat en de nieuwsvoorziening zoals we inmiddels weten; het zijn bedrijven die hun werkterrein steeds verder verleggen, naar de gezondheidszorg, onderwijs, verzekeringen en alles wat er vermarkt kan en zal worden. En Sillicon Valley heeft een ideologie: het zijn tech-libertariërs, die de democratie en het publieke systeem onhandig, stroperig en inefficient vinden en een Utopie nastreven van een overheidsvrije samenleving waarin een door data aangedreven markt alles regelt en reguleert. En ook over deze datamultinationals weten we eigenlijk helemaal niets. Waar deze bedrijven alles van ons willen weten, zijn ze zelf volstrekt gesloten en oncontroleerbaar.
Het gaat hierbij volgens mij daarom ook niet in de eerste instantie om de vraag of, en wat er nog van onze privacy overblijft; het gaat om macht. Ongecontroleerde macht. In het hart van onze samenlevingen zijn nieuwe, machtige actoren ontstaan die zich onttrekken aan democratische controle en beïnvloeding. Er is een nieuw technologisch machtsveld ontstaan met nieuwe machtstechnologiën. Dat geldt zowel voor de private actoren als de publieke actoren. Wie schrijven de algoritmes die bepalen in welke risico- of marktcategorie burgers worden ingedeeld? Welke keuzes worden door wie gemaakt? Technologische keuzes zijn niet neutraal, maar reflecteren altijd posities, belangen, assumpties of vooroordelen. Wie bepaalt wanneer het rode vlaggetje omhoog gaat omdat een kritische waarde is overschreden? Wie zijn de nieuwe actoren? Wie zijn de nieuwe data-analyse bedrijven, waarin dataspecialisten, neuromarketeers, psychologen en algoritmebouwers samenwerken? Bij wie moeten we aankloppen als ons risicoprofiel niet klopt? Weten we nog of en wanneer beslissingen over burgers worden genomen op basis van hun datadubbelganger?
Macht heeft altijd tegenmacht nodig. Als we naar de nieuwe WIV kijken, is er, hoe gebrekkig soms ook, wel degelijk sprake van macht en tegenmacht, in de zin van een wettelijk kader, controle en toezicht. En, zoals de afgelopen weken hebben laten zien, het is mogelijk om een maatschappelijk en politiek debat te voeren over nut en noodzaak van inlichtingendiensten. En wie de geschiedenis erop naleest, zal zien dat wat er nu aan wetgeving, controle en toezicht is, mede is afgedwongen door maatschappelijke bewegingen. Het private, en soms publiek-private machtsveld dat ik zonet schetste, ontbeert nog een dergelijke tegenmacht. Zowel in de journalistiek als de wetenschap, om me maar even te beperken tot de beroepen waar ik verstand van heb, ontbreekt het nog aan het gevoel van urgentie. We zitten te vast in onze thema's, beproefde manieren van werken, disciplines en instituten, vertrouwde bronnen en contactpersonen. De kennis is er wel, maar is gefragmenteerd. En we moeten nog leren hoe met elkaar te praten en samen te werken. Sociologen, psychologen, datadeskundigen, cyberdeskundigen, politieke wetenschappers en veiligheidswetenschappers moeten elkaar nog vinden en leren elkaar te verstaan. En daarmee moeten we wel haast gaan maken.
Ten slotte, terugkomend op de inlichtingen- en veiligheidswereld. Een bekende spreuk in de inlichtingenwereld is speaking truth to power. Daarmee wordt bedoeld dat inlichtingendiensten de politieke macht ongegeneerd moeten kunnen aanspreken en tegenspreken, ook al is de boodschap om politieke redenen niet welkom. De vraag dringt zich op of inlichtingen- en veiligheidsdiensten ook de waarheid durven te spreken tegen de nieuwe private datamachten die zich in het hart van de samenleving hebben genesteld. De diensten produceren regelmatig dreigingsanalyses waarbij ze naar de toekomst kijken. Wat zou het mooi zijn als er eens een dreigingsanalyse verscheen van de diensten over die nieuwe politiek-economische machtsvelden die zijn ontstaan en wat dat betekent voor het voortbestaan van de democratische rechtsorde.
Mocht U zich nog afvragen hoe dat nu zit met mijn waterverbruik, maakt U zich absoluut geen zorgen. Ik heb inmiddels mijn waterverbruik tot normale waarden weten op te voeren, door heel vaak mijn handen in onschuld te wassen. Nu maar hopen dat het algoritme ook tot de conclusie 'onschuldig' komt.
Jelle van Buuren
