Human Compatible
Stuart Russell flyttar uppmärksamheten från vad AI kan göra till vad vi vill att den ska uppnå. En bok för den som vill tänka djupare om mål, kontroll och mänskliga intressen.
Räcker det att ge maskinen ett mål?
Human Compatible tar upp kontrollproblemet: hur kan allt mer kapabla AI-system fortsätta att vara till nytta för människor? Stuart Russell argumenterar för att vi behöver ompröva hur systemen får sina mål och hur de förhåller sig till mänskliga önskemål.
Vi rekommenderar den till den som tycker att AI-diskussionen för ofta stannar vid prestanda. För produktarbete finns en värdefull fråga att bära med sig: hur vet vi att det som systemet optimerar verkligen motsvarar det människor behöver? Skillnaden blir särskilt viktig när behov är otydliga, föränderliga eller motstridiga.
Vem ska läsa?
Boken passar tekniskt nyfikna ledare, designers och utvecklare som vill fördjupa diskussionen om ansvar. Den kan också läsas tillsammans med Superintelligence för att jämföra hur två författare närmar sig framtida kontrollproblem.
Ett argument att arbeta vidare med
Originalet publicerades 2019. Läs Russells förslag som ett intellektuellt och tekniskt program att undersöka, inte som bevis för att kontrollfrågan redan har en enkel lösning. Boken är heller ingen implementeringsguide för dagens AI-agenter. Den passar bäst när man har tid att följa resonemanget och pröva dess antaganden.
Utgåva och underlag
Originalet utkom 2019. Bokuppgifterna och köplänken avser den engelskspråkiga utgåvan från 2023, ISBN 9780141987507.
Redaktionellt lästips baserat på bokpresentation och bibliografiska uppgifter. Rekommendationen är inte en recension efter fullständig läsning.