Rapporten

Trust me, I’m an algorithm

Met de komst van Artificial Intelligence (AI) geven we een deel van onze beslissingsbevoegdheid uit handen. Daarmee vertrouwen we erop dat AI beslissingen neemt die in ons belang zijn. Maar dat vertrouwen is niet per definitie terecht. Dat heeft verschillende redenen. Bijvoorbeeld: AI-systemen worden steeds complexer en daarmee steeds lastiger te doorgronden. En hoewel AI-systemen worden ‘getraind’ met neutrale historische data, kunnen ze toch een bias ontwikkelen die onwenselijke beslissingen in de hand werkt. Nu de rol van AI groter wordt – denk aan het zelfstandig besturen van auto’s of het opsporen of voorspellen van misdaden – groeit ook het belang van betrouwbaarheid. De risico’s van een rogue AI worden immers steeds groter. De auteur gaat in dit artikel op zoek naar manieren om die betrouwbaarheid aan te tonen. Dat is geen gemakkelijke taak, maar wel een cruciale.

Computers met intuïtie: wen er maar aan!

Onze intelligentie omvat twee cognitieve functies: logisch redeneren en intuïtie. Artificial Intelligence (AI) richtte zich traditioneel altijd op logisch redeneren, met bekende toepassingen zoals de schaakcomputer. Intuïtie werd lange tijd beschouwd als het domein van de mens; computers zouden daarin altijd achter blijven lopen. Inmiddels komt men daarvan terug. Intuïtieve AI-systemen zijn volop in ontwikkeling, dankzij de voortschrijdende chiptechnologie, de opkomst van Big Data en de steeds verfijndere algoritmes. Die nieuwe generatie AI biedt volop kansen, maar ook uitdagingen. Wordt de mens als het gaat om intuïtie binnenkort ingehaald door de machine?

Vertrouwen in artificial intelligence voor het veiligheidsdomein begint met experimenteren

Artificial Intelligence is here to stay. En dat is mooi, want AI kan van grote toegevoegde waarde zijn voor het veiligheidsdomein. We zullen ook wel moeten trouwens, want de innovatieve crimineel maakt zeker gebruik van AI en dan waarschijnlijk op een wat minder frisse manier. Daarvoor moeten we de ogen niet sluiten. AI kan, als het onzorgvuldig of met verkeerde intenties wordt toegepast, grote schade aanrichten. Iedereen kan zich bijvoorbeeld wat voorstellen bij het Big Brother-angstbeeld. En dan bestaat er ook zoiets als automation bias, waarbij een AI-systeem verkeerde keuzes maakt omdat niet genoeg werk is gemaakt van de training – machine learning – of onzuivere en/of onvoldoende data is toegepast. En ook als dat allemaal in orde is, zijn we er nog niet. De auteur breekt in dit artikel een lans voor het – behoedzame - experiment. Dat moeten we, bij de zoektocht naar de beste toepassing van AI, niet uit de weg gaan

Een gewaagde technologie in de kinderschoenen: experimenteren met artificial intelligence binnen de jeugdzorg

In mei 2019 bepleitte minister Grapperhaus tijdens een evenement van het ministerie van Justitie & Veiligheid om meer aan te sturen op informatievoorziening in de keten, om samenwerking binnen het veiligheidsdomein te bevorderen. De ketensamenwerking in de jeugdzorg kwam hier specifiek aan de orde, in een aansluitend panel met Mariënne Verhoef van SpiRit. Hierbij was de rol van data één van de hoofdthema’s. Voorkomen is beter dan genezen en aangezien artificial intelligence (AI) steeds meer in staat lijkt te zijn om voorspellingen over de toekomst te maken, lijkt het belang van data science en het uitwisselen van informatie tussen ketenpartners ook steeds belangrijker. Aangezien er middels analysemethoden als AI steeds meer mogelijkheden lijken te zijn om data te gebruiken, rijst de vraag: wat is de huidige visie vanuit de jeugdzorg op de inzet van AI ter preventie van (zware) jeugdzorgtrajecten? Wat zijn de uitdagingen van deze toepassingen in de ketensamenwerking? Hoe zit het met privacyoverwegingen?

Kennis en kansen van artificial intelligence in het veiligheidsdomein

Het publieke debat over AI wordt gevoerd door twee tegenpolen. Enerzijds is technologie als AI noodzakelijk om de samenleving veiliger te maken. Anderzijds heerst de angst dat AI onze vrijheid en veiligheid beperkt. De werkelijkheid is complexer. De weerzin tegen AI is deels terecht. Ze is echter ook geboren uit angst voor het onbekende. Volgens de auteurs van dit artikel is er daarom een brede maatschappelijke discussie nodig, over de rol die AI in onze samenleving moet spelen. De auteurs van dit artikel concluderen dat de toepassing van AI vooruitloopt op die discussie. Dat geldt ook voor de technologische kaders waarbinnen het moet opereren; die zijn onvoldoende ontwikkeld. Ten slotte valt er ook nog veel te verbeteren aan de skills van mensen die ermee moeten werken. Door AI op al deze fronten goed in te bedden, kunnen we straks echt profiteren van de grote voordelen – met behoud van veiligheid en maatschappelijk draagvlak.