Superintelligence
En krävande men relevant bok för den som vill förstå argumenten bakom långsiktig AI-risk. Bostrom undersöker kontrollproblemet när maskiners förmåga tänks överstiga människans.
Vad händer om vi inte längre är smartast?
Superintelligence utgår från en villkorad fråga: om maskiner blir överlägsna människor i generell intelligens, hur kan deras handlande fortfarande vara förenligt med mänskliga intressen? Nick Bostrom går igenom möjliga utvecklingsvägar, mål och strategier för kontroll.
Vi rekommenderar den som en fördjupning för den som vill förstå ett inflytelserikt sätt att resonera om AI-säkerhet. Styrkan i läsvalet är möjligheten att granska en argumentation ordentligt: vilka antaganden behövs, vad följer av dem och var finns osäkerheten? Det är mer användbart än att enbart ta ställning till en alarmerande slutsats.
Vem ska läsa?
Den passar läsare med intresse för filosofi, teknikstrategi och långsiktiga risker. Räkna med att lägga tid på begrepp och resonemang. Oxford University Press återger ett positivt omdöme från Brian Clegg i Popular Science som särskilt lyfter bokens filosofiska betydelse.
Håll isär möjlighet och prognos
Boken publicerades ursprungligen 2014. Dess hypotetiska scenarier visar inte att ett visst förlopp är oundvikligt eller när det skulle inträffa. Läs den gärna tillsammans med Melanie Mitchell för ett annat perspektiv på intelligens och tekniska begränsningar.
Utgåva och underlag
Originalet utkom 2014. Bokuppgifterna och köplänken avser den engelskspråkiga utgåvan från 2016, ISBN 9780198739838.
Redaktionellt lästips baserat på bokpresentation och bibliografiska uppgifter samt kompletterande underlag. Rekommendationen är inte en recension efter fullständig läsning.