25 augustus 2017

Cathy O’Neil: “big data is slecht voor de armen en de zwakken” II

Het gebruik van big data leidt tot het bevestigen van vooroordelen, schrijft Cathy O’Neil. Zo kan met behulp van big data eenvoudig nagegaan worden waar en door wie de meeste (grote en kleine) misdaden begaan worden. Als de politie zich bij zijn misdaadbestrijding door die statistieken laat leiden, zal men zich vooral gaan richten op de ‘risicogroepen’. In Nederland zijn dat de allochtone minderheden. Dit etnisch profileren is in Nederland omstreden en kwam in de publieke discussie toen zanger Typhoon het aan de kaak stelde. Er lijkt geen kwaad te zitten in etnisch profileren: als je misdaad wilt bestrijden, moet je je aandacht richten op de groepen waar de meeste misdaad voorkomt. Het heeft geen zin mensen staande te houden waarvan het (vrijwel!!) zeker is dat ze geen misdaad op hun geweten hebben, bijvoorbeeld topbankiers. Er zijn echter volgens O’Neil minstens twee redenen waarom etnisch profileren ongewenst is. De eerste reden is dat mensen die aangehouden worden, zeker als ze volkomen onschuldig zijn, verontwaardigd kunnen reageren op hun aanhouding, zich wellicht gaan verzetten en, voor ze het weten, gearresteerd worden wegens openlijk verzet tegen de justitie, of nog erger zoals Mitch Henriquez overkwam. Dat is dan direct weer nieuwe big-data invoer voor de misdaadstatistieken. Zo bevestigt een ‘objectief’ vastgesteld feit (minderheden zijn misdadiger) zichzelf als justitie zich door dit feit laat leiden bij de misdaadbestrijding. Erger is dat het feit daardoor juist versterkt wordt. Naarmate de politie meer mensen uit de risicogroepen aanhoudt, worden er meer strafbare feiten in deze groepen geconstateerd en is er des te meer reden deze groepen op de huid te zitten. Kortom, deze groepen zitten dankzij etnische profilering in een neerwaartse spiraal, waar niet meer uit te komen is (wordt vervolgd). 

Geen opmerkingen:

Een reactie posten