Rapporten

Trust me, I’m an algorithm

Met de komst van Artificial Intelligence (AI) geven we een deel van onze beslissingsbevoegdheid uit handen. Daarmee vertrouwen we erop dat AI beslissingen neemt die in ons belang zijn. Maar dat vertrouwen is niet per definitie terecht. Dat heeft verschillende redenen. Bijvoorbeeld: AI-systemen worden steeds complexer en daarmee steeds lastiger te doorgronden. En hoewel AI-systemen worden ‘getraind’ met neutrale historische data, kunnen ze toch een bias ontwikkelen die onwenselijke beslissingen in de hand werkt. Nu de rol van AI groter wordt – denk aan het zelfstandig besturen van auto’s of het opsporen of voorspellen van misdaden – groeit ook het belang van betrouwbaarheid. De risico’s van een rogue AI worden immers steeds groter. De auteur gaat in dit artikel op zoek naar manieren om die betrouwbaarheid aan te tonen. Dat is geen gemakkelijke taak, maar wel een cruciale.