Algoritm visar risk för ekonomisk brottslighet
Borta på javlaskitsystem.se har Simon Winter och jag diskuterat om algoritmer i sig är problemet – eller om det är hur de konstruerade. En bra illustration till det är förmodligen appen som White Collar Crime Risk Zones. Medan andra appar ”förutsagt risk för brott” utifrån statistik som förfördelar minoritetsgrupper och fattiga, riktar New Inquirys app […]
Automatiska beslutssystem hotar demokratin och ökar ojämlikheten
Borta på inUse-bloggen har jag en text om Cathy O’Neils bok Weapons of Math Destruction: ”Ett typiskt fel med många algoritmer, framhåller O’Neil, är att de saknar vettiga feedback-mekanismer. En algoritm för att bedöma cv:n har ingen möjlighet att ta reda på om en sökande som rensats bort sedan blir en stjärna på nästa jobb […]