The Alignment Problem
För dig som vill förstå hur mänskliga värderingar hamnar i maskininlärning, avsiktligt och oavsiktligt. Brian Christian för samman tekniska problem med frågor om mål, rättvisa och ansvar.
När systemet lär sig fel sak
The Alignment Problem handlar om glappet mellan vad människor vill uppnå och vad ett maskininlärningssystem faktiskt lär sig att göra. Brian Christian berättar om forskare och praktiker som försöker hantera problem med bland annat snedvridning, mål och mänskliga värderingar.
Vi rekommenderar den för att göra begreppet alignment mer konkret. För ett produktteam kan frågan börja mycket närmare än i ett framtidsscenario: vad belönar vi, vad mäter vi och hur upptäcker vi att ett bra mätvärde döljer ett dåligt resultat? Boken är ett läsval för den som vill undersöka sambandet mellan tekniska val och mänskliga konsekvenser.
Vem ska läsa?
Den passar läsare som vill ha mer fördjupning än en allmän introduktion, men som uppskattar människor och berättelser som väg in i ämnet. På författarens webbplats lyfter Cathy O’Neil i ett rekommendationsord kopplingen mellan rättvisa i AI och större filosofiska frågor.
Både nära och långsiktigt
Originalet publicerades 2020. Läs den som en bakgrund till frågor som fortsätter att utvecklas, snarare än som en förteckning över färdiga lösningar. Vi skulle särskilt rekommendera den till den som behöver formulera bättre frågor inför ett AI-projekt.
Utgåva och underlag
Originalet utkom 2020. Bokuppgifterna och köplänken avser den engelskspråkiga utgåvan från 2021, ISBN 9780393868333.
Redaktionellt lästips baserat på bokpresentation och bibliografiska uppgifter samt kompletterande underlag. Rekommendationen är inte en recension efter fullständig läsning.