De moraal van het policing -verhaal

Criminaliteitsbestrijding 2.0

In een wereld waar data in toenemende mate wordt verzameld onderzoekt de politie wat data voor criminaliteitsbestrijding kan doen. Een antwoord hierop is predictive policing. Het belangrijkste doel van predictive policing is het voorkomen van criminaliteit. Monitoring en slimme data-analyses helpen de politie om de wie, wat, waar en wanneer van criminaliteit te voorspellen. Volgens de Nationale Politie is predictive policing de volgende stap in het politiewerk waarbij voorspellende analyses aan de basis staan van het nemen van beslissingen over politiewerk.³ Is dit het nieuwe wondermiddel?

Geavanceerde algoritmen helpen informatie te filteren en betekenis te geven aan grote hoeveelheid data. De Nationale Politie gebruikt dit om misdaad te voorspellen en preventieve maatregelen te nemen; ook wel predictive policing genoemd. Het stelt ze in staat om daar te zijn waar de kans op criminaliteit het grootst is. Dit klinkt veelbelovend, maar onderzoek heeft nog geen uitsluitsel gegeven over de vraag of het effectiever is dan mensenwerk. Onproblematisch is het in ieder geval niet.⁴

Er zijn een aantal risico’s verbonden aan deze vorm van predictive policing. Eén van de risico’s is dat de grens van strafbaarheid opschuift richting een intentiestrafrecht. Wanneer technologie aantoont dat iemand een misdrijf wil begaan, houdt de politie de aanstaande crimineel aan voordat het incident heeft plaatsgevonden. Is de intentie aantoonbaar en zo ja, hoe bestraf je die? Daarnaast zijn sommige overtredingen juist gewenst voor het lerend vermogen van de samenleving. De wetsovertreding van de Afro-Amerikaanse dame Rosa Parks die in de jaren ‘50 weigerde op te staan voor een blanke buspassagier, is een wetsovertreding die je juist wél wilt hebben. Technologie zou zo’n wetsovertreding onmogelijk kunnen maken. Een totaal veilige samenleving kan zo ook een beklemmende samenleving worden.

Daarnaast zijn er risico’s met betrekking tot de werking van predictive policing-technologieën. Critici benadrukken de mogelijkheid van systematische vooringenomenheid van de voorspelling en dus profilering op basis van uiterlijke en persoonlijke kenmerken. Bovendien belooft predictive policing geen daadwerkelijke vermindering van misdaadcijfers. Voorspellingen zijn niet altijd specifiek genoeg of worden verkeerd geïnterpreteerd. Algoritmen op basis van gemelde misdaad voorspellen voornamelijk aangiften en zeggen niets over daadwerkelijke misdaad of misdaadpotentieel. Daarnaast beïnvloeden de activiteiten van het operationele politieteam gemelde misdaad. Hierop worden voorspellingen gebaseerd die gebruikt worden om deze activiteiten aan te sturen. In het beste geval leidt dit tot onnauwkeurige voorspellingen, in het ergste geval kan het zelfs discriminatoir beleid tot gevolg hebben.

Al met al kan predictive policing de politie helpen om misdaad te voorspellen en daardoor te voorkomen. Echter dienen risico’s als systematische vooringenomenheid, beperkte criminaliteitsbestrijding, onnauwkeurige voorspellingen en discriminatoir beleid in ogenschouw genomen te worden.

 

 

Gedragsbeïnvloeding; een morele vrijbrief?

Een ander voorbeeld waar kunstmatige intelligentie en big data invloed uitoefenen op de veiligheid en leefbaarheid van de samenleving is te vinden in China. Al geruime tijd wordt er vanuit de Chinese Communistische Partij aangemoedigd om kunstmatige intelligentie en big data te gebruiken in de Chinese samenleving. Nu is het plan om ‘shehui xinyong’, het sociaal kredietsysteem te implementeren in 2020. Op basis van big data kan de politie met geheime methodologie het gedrag van de burger monitoren en hier een ‘sociaal krediet’ aan koppelen. Hiermee wordt niet alleen getracht beter toezicht te houden maar ook wenselijk gedrag in de hand te werken. Nu is gedragsbeïnvloeding vanuit de (Nederlandse) overheid geen vreemd verschijnsel, denk aan boetes of accijnzen. Het Chinese sociaal kredietsysteem gaat echter een stap verder.

Afhankelijk van de hoogte van dit sociaal krediet kan de toegang tot sociale voorzieningen, scholen of banen ontnomen worden en kan ‘slecht burgerschap’ publiekelijk gemaakt worden. Tijdens verkeersovertredingen verschijnen jouw hoofd en persoonsgegevens op een billboard op straat. Met andere woorden, de overheid oefent invloed uit op de levenssfeer van de burger door de keuzes die een dergelijk systeem maakt.⁵ Het sociaal kredietsysteem maakt autonome keuzes gebaseerd op algoritmen die zijn gevoed met data uit het verleden. Het gevaar is dat algoritmen, gebaseerd op data aangeleverd door mensen, kunnen leiden tot vooringenomenheid in de data met het gevolg dat ook hier onterecht beslissingen worden gemaakt.⁶ De vraag is in hoeverre de burger nog een vrije keuze heeft wanneer een bevooroordeeld systeem direct invloed uitoefent; op jouw toekomst en de toekomst van jouw kinderen. Een samenleving die wordt gestuurd door een bevooroordeeld systeem brengt niet alleen het gevaar mee dat onterechte beslissingen worden gemaakt voor het individu, maar ook invloed wordt uitgeoefend op de persoonlijke levenssfeer. Enerzijds draagt dit systeem bij aan overheidsregulering ten behoeve van de collectieve veiligheid. Anderzijds doet het mogelijk afbreuk aan de individuele veiligheid van de burger. Dit maakt een balans tussen de mate waarin de burger wordt voorzien in collectieve versus individuele veiligheid fragiel. Daarom dient binnen de samenleving bewust over deze vraagstukken te worden nagedacht.

 

Vijf acties om veiligheid en leefbaarheid te waarborgen

Aan de hand van deze voorbeelden stellen we dat, naast tal van mogelijkheden, een informatiegestuurde politiecultuur risico’s met zich meeneemt. Het gebruik van voorspellende datamodellen verandert bovendien de kijk vanuit de politie op de samenleving en op het individu. Wij stellen een vijftal acties voor die ondernomen moeten worden om technologische toepassingen omtrent informatiegestuurd werken weloverwogen en betekenisvol in te zetten in het veiligheidsdomein.

 

1. Maak gebruik van proeftuinen.

Door een toenemende invloed van ‘predictive policing’ technologieën op onze samenleving is het van belang om de maatschappelijke impact te evalueren. In het veiligheidsdomein wordt al gebruik gemaakt van proeftuinen; een omgeving waarin technologische innovaties ontwikkeld en getest worden. Naast het experimenteren met de praktische kant van technologische toepassingen, is er binnen proeftuinen ruimte om samen met ketenpartners na te denken over juridische en ethische kaders waarbinnen de toepassing dient plaats te vinden.

 

2. Communiceer over de voor- en nadelen van toegepaste predictive policing-technologieën.

Er kunnen mispercepties ontstaan binnen de samenleving over de intenties van de Nationale Politie wanneer zij predictive policing technologieën inzetten. Een burger die beter geïnformeerd is over wie wat voor welke doeleinden verzamelt, kan de verbinding met de overheid versterken. Dit draagt bij aan het vertrouwen in de overheid. Anderzijds is dit belangrijk voor de publieke verantwoording naar de gemeenschap toe.⁷

 

3. Zoek publiek-private samenwerking om ethische kaders te stellen.

Het veiligheidsdomein is een netwerk van ketenpartners die elkaar versterken en nodig hebben om hun kerntaken uit te voeren. Wie is er verantwoordelijk voor het verzamelen, bewaren en gebruiken van data? Dit zijn belangrijke vragen waar de samenleving een antwoord op nodig heeft. Samenwerking met onderzoeksinstituten, IT-organisaties en juridische organen is noodzakelijk voor overeenstemming van verantwoordelijkheden. Op basis van deze samenwerking kunnen ethische richtlijnen opgesteld worden over de begrenzing van kunstmatige intelligentie en big data binnen policing technologieën. Zo heeft Capgemini bijgedragen aan de ontwikkeling van een Artificial Intelligence Impact Assessment.8 Een andere uitkomst die minstens zo belangrijk is: het creëren van draagvlak binnen de samenleving wanneer er gemeenschappelijke consensus is.

 

4. Ontwikkel (inter)nationaal en lokaal beleid over het datagebruik binnen ‘predictive policing’ technologieën.

Vanuit de staat, de EU en de NAVO wordt al decennia intensief samengewerkt op het gebied van veiligheid. Hiermee wordt kennisdeling vanuit de theorie én praktijk gestimuleerd. Tegelijkertijd is er momenteel nauwelijks tot geen wetgeving die de verantwoordelijkheid en/of aansprakelijkheid vastlegt over het gebruik van data en de begrenzing van ’predictive policing’-technologieën. Zonder internationale ethische en juridische kaders worden waardevolle kennisdeling en informatie-uitwisseling belemmerd. Ook lokaal beleid, zoals de vernieuwde Wet Politiegegevens, dient zich verder te ontwikkelen.9

 

5. Investeer in educatie over privacy, vrijheden en verschillen in machtsbalans die predictive policing technologieën met zich meebrengen.

Wij pleiten voor de beantwoording van morele vraagstukken omtrent predictive policing technologieën binnen de samenleving. Om dit constructief te doen dienen burgers voldoende mogelijkheden te hebben om zich te scholen. Door mensen bewust te maken over hoe kunstmatige intelligentie en big data werken en hun rechten hieromtrent, vergroot je gelijkwaardig gebruik van technologie. Dit dient via publieke kanalen, op scholen en in organisaties gefaciliteerd te worden.

 

Grenzeloze mogelijkheden en acties voor de samenleving

De toepassingen van kunstmatige intelligentie en big data ten behoeve van predictive policing biedt grenzeloze mogelijkheden voor de Nationale Politie. Daarom is het noodzakelijk om over de begrenzing na te denken. Ook in de samenleving zelf dienen gesprekken plaats te vinden over wat wenselijk is binnen de mogelijkheden. Wij adviseren dit te doen middels de inzet van proeftuinen, het communiceren over predictive policing-technologieën, publiek-private samenwerking, (door)ontwikkeling van beleid omtrent predictive policing en investering in educatie. Vanuit deze integrale aanpak kan het ethische kader ontworpen worden. Hiermee wordt draagvlak gecreëerd om de veiligheid en leefbaarheid binnen de samenleving te waarborgen.