17 augustus 2017

Cathy O’Neil: “big data is slecht voor de armen en de zwakken” I

De big-data economie is hot. Mijn eigen universiteit is zelfs een hele opleiding begonnen die gewijd is aan big data. De studenten stromen toe. Als oudere jongere (1951-) begreep ik enige tijd niet zo goed wat er zo bijzonder is aan big data: er waren altijd al data (gegevens dus) en het enige verschil is dat er nu veel meer gegevens zijn en dat die min of meer op straat liggen. Die gegevens kunnen overal vandaan komen. Van heel veel mensen kan nagegaan worden in welke winkels ze hun inkopen doen, waar ze wonen, op welke school ze gezeten hebben, wat voor medische testen ze ondergaan hebben, welke overtredingen ze begaan hebben, enzovoorts. Terwijl je vroeger als statisticus veel moeite moest doen om gegevens van mensen aan elkaar te koppelen, is dat nu een peuleschil geworden. Ergens zijn er mensen die heel veel van jou (ja, van jou) weten. Degenen die deze data beheren (of verkopen!) kunnen uit al die gegevens allerlei samenhangen afleiden. Is dat erg? Vaak wel helaas, schrijft Cathy O’Neil in een boek (zie plaatje en hier voor een interview). Het gebruik van die data bevestigt vooral vooroordelen en straft de armen en de zwakken van de samenleving. De samenhangen die gevonden worden, zijn bovendien alleen aan ‘insiders’ bekend. Als jij als niets vermoedend persoon voor een hypotheek naar de bank gaat, zou de rente die je over die hypotheek moet betalen wel eens gebaseerd kunnen zijn op het gebruik van big data door de bank. Zonder dat je dat weet en zonder dat je kunt nagaan of de samenhangen, die de bank denkt te kennen, kloppen. Vaak klopt het niet, zegt O’Neil en worden mensen ten onrechte ‘gestraft’ door big-data gebruikers (wordt vervolgd).

Geen opmerkingen:

Een reactie posten