Описание книги
Мир всё чаще принимает решения за нас. Алгоритмы подсказывают маршруты, выбирают музыку, предлагают фильмы и даже формируют наши желания. Они становятся всё точнее, всё быстрее и всё последовательнее. Но что произойдёт, если однажды алгоритмы начнут принимать не только бытовые решения? Если они начнут анализировать человеческую мораль, предсказывать поведение людей и рассчитывать их «общественную полезность»? Герой этой книги — разработчик искусственного интеллекта. Он создаёт системы, которые должны сделать мир справедливее и рациональнее. Но шаг за шагом его собственные алгоритмы начинают задавать вопросы, на которые он сам уже не может ответить. Можно ли формализовать совесть? Можно ли измерить ценность человека? И что произойдёт, если система однажды решит, что сам человек мешает её оптимизации?