В 2023 году сотни светил ИИ подписали открытое письмо с предупреждением о том, что искусственный интеллект представляет серьёзную угрозу вымирания человечества. С тех пор гонка ИИ только усилилась. Компании и страны спешат создавать машины, которые будут умнее любого человека. И мир совершенно не готов к тому, что будет дальше. На протяжении десятилетий два подписавших это письмо — Элиезер Юдковски и Нейт Соарес — изучали, как интеллекты, превосходящие человеческий, будут мыслить, вести себя и достигать своих целей. Их исследования показывают, что достаточно умные ИИ будут разрабатывать собственные цели, которые приведут их к конфликту…