 Een long read bij The Verge roept vragen op rond voorspellende technologie, die gebaseerd is op data uit het verleden. Het verhaal betreft ene Robert McDaniel, een man die van de politie op een mooie dag te horen kreeg dat hij 99,9%kans maakte om betrokken te worden in een schietpartij. Maar... of hij de dader of het slachtoffer zou zijn, kon de politie niet zeggen.
Volgens data zou de man namelijk in een gebied wonen die bij een hittemap oplicht omwille van de vele moorden en schietpartijen. En volgens nog andere data zou een algoritme hem aanwijzen omdat hij enkele schutters in zijn kennissenkring heeft, en in de nabijheid was bij enkele schietpartijen.
Onnodig te zeggen dat de man helemaal overstuur was. Hij werd dan wel niet door de politie als een verdachte beschouwd, want er was 'nog' niets gebeurd. De man kreeg hulp aangeboden van een sociaal assistent, maar die onzekerheid bleef natuurlijk.
Over het gevaar van predictieve modellen gebaseerd op statistieken, gaat dit artikel. Vooral omdat in die data vaak discriminatie doorsijpelt. En er ook "dirty data" zijn, waarbij data van onbekende oorsprong gemengd worden met echte misdaadverslagen.
Om over na te denken!
https://www.theverge.com/22444020/chicago-pd-predictive-poli ...
|
