Форматы файлов: PDF

В массовом сознании сверхчеловеческий искусственный интеллект — технологическое цунами, угрожающее не только экономике и человеческим отношениям, но и самой цивилизации. Конфликт между людьми и машинами видится неотвратимым, а его исход предопределенным. Выдающийся исследователь ИИ Стюарт Рассел утверждает, что этого сценария можно избежать. В своей новаторской книге автор рассказывает, каким образом люди уже научились использовать ИИ, в диапазоне от смертельного автономного оружия до манипуляций нашими предпочтениями, и чему еще смогут его научить. Если это случится и появится сверхчеловеческий ИИ, мы столкнемся с сущностью, намного более могущественной, чем мы сами. Как гарантировать, что человек не окажется в подчинении у сверхинтеллекта?
Для этого, полагает Рассел, искусственный интеллект должен строиться на новых принципах. Машины должны быть скромными и альтруистичными и решать наши задачи, а не свои собственные. О том, что это за принципы и как их реализовать, читатель узнает из этой книги, которую самые авторитетные издания в мире назвали главной книгой об искусственном интеллекте.
Рассел разбирает, как удержать контроль над искусственным интеллектом, чтобы технологии служили людям, а не выходили из‑под контроля. Ключевые темы:

Риск сверхинтеллекта. Автор показывает, почему создание ИИ, превосходящего человека, может стать угрозой цивилизации, если не заложить правильные принципы с самого начала.
«Проблема горилл». Метафора Рассела: как горилла не может контролировать траекторию развития человечества, так и люди могут потерять рычаги управления, если ИИ станет слишком мощным.
Новые принципы проектирования ИИ. Главная идея: машины должны быть «скромными» и альтруистичными — понимать, что у них нет полной картины человеческих целей, и постоянно уточнять, чего от них хотят.
Опасные применения ИИ. В книге разбираются кейсы вроде автономного оружия и алгоритмов манипуляции поведением — и почему такие направления стоит ограничивать.
Практические пути контроля. Рассел предлагает конкретные подходы к тому, как строить ИИ, который максимизирует полезность для человека, а не преследует собственные (непредсказуемые) цели.
Автор: Стюарт Рассел (Stuart Russell) — один из ведущих мировых экспертов по ИИ, профессор Калифорнийского университета в Беркли.