Weapons of Math Destruction
En användbar bok för alla som bygger tjänster där data påverkar människors möjligheter. O’Neil visar varför automatiserade bedömningar behöver granskas även när de ser objektiva ut.
När en modell får sista ordet
Weapons of Math Destruction undersöker hur storskaliga datamodeller kan förstärka ojämlikhet. Cathy O’Neil tar upp områden där bedömningar påverkar människors liv, bland annat arbete, utbildning och ekonomiska möjligheter. Svårigheten att förstå eller ifrågasätta ett beslut är en central fråga.
Vi rekommenderar den till produktteam som behöver bli bättre på att se följderna av sina mätetal. En modell kan vara användbar för verksamheten och ändå fungera dåligt för den människa som blir bedömd. För oss är det skäl att diskutera möjligheten att överklaga, upptäcka fel och förstå vilka människor som inte syns i ett genomsnitt.
Vem ska läsa?
Designers, analytiker, chefer och beställare av datadrivna tjänster. I ett omdöme som Penguin återger framhåller Financial Times bokens tillgängliga och kritiska behandling av ämnet.
Äldre exempel, relevanta frågor
Originalet kom 2016 och många exempel hör hemma i USA. Boken ska därför inte användas som beskrivning av svensk rätt eller av dagens språkmodeller. Dess värde som lästips ligger i frågorna om insyn, återkoppling och ansvar. Använd dem som en utgångspunkt för att granska det egna systemet.
Utgåva och underlag
Originalet utkom 2016. Bokuppgifterna och köplänken avser den engelskspråkiga utgåvan från 2017, ISBN 9780141985411.
Redaktionellt lästips baserat på bokpresentation och bibliografiska uppgifter. Rekommendationen är inte en recension efter fullständig läsning.