Среди самых влиятельных мыслителей современности — авторы, которые занимаются теорией сознания, то есть пытаются понять, что вообще такое разум и чем человек отличается от мыслящей машины. Мы собрали 10 главных книг, которые стоит прочитать, чтобы найти ответы на некоторые из самых животрепещущих вопросов: что такое сознание, может ли оно быть у роботов, что собой представляет генеративный искусственный интеллект и опасно ли это,сообщает forbes.ru.
Фото Planet One Images / UCG / Universal Images Group via Getty Images
«Искусственный интеллект. Этапы. Угрозы. Стратегии» Ника Бострома
Издательство: «Манн, Иванов и Фербер»
Шведский философ Ник Бостром — профессор факультета философии Оксфордского университета, а также основатель и директор Института будущего человечества. Как положено современному ученому, помимо философии он плотно занимается математикой, нейробиологией и физикой. Выдвинутая им в 2003 году в статье оксфордского научного журнала «гипотеза симуляции» — предположение, что все мы существуем в компьютерной симуляции, созданной высокоразвитой цивилизацией, — до сих пор горячо обсуждается в научных кругах.
«Искусственный интеллект. Этапы. Угрозы. Стратегии» — пожалуй, главная и самая влиятельная из его книг, именно она впервые поставила вопрос о рисках, связанных с развитием ИИ, в его современном виде. Бостром подробно разбирает историю развития науки и технологии, которые сделали возможным появление искусственного интеллекта, и аргументированно объясняет, почему человечество неизбежно придет к появлению «сильного ИИ» — то есть, обладающего самосознанием — и как к этому следует подготовиться.
В 2026 году может сложиться впечатление, что времени на подготовку практически не осталось, но это не значит, что читать книгу уже поздно. В любом случае степень влияния Бострома на людей, занимающихся ИИ, сложно переоценить. Его имя в кругах разработчиков, визионеров и техномиллиардеров одно из самых «культовых», на него регулярно ссылаются в дискуссиях об этике и философии ИИ. Хотя бы поэтому его «Этапы. Угрозы. Стратегии» заслуживают внимания.
«Быть собой: Новая теория сознания» Анила Сета
Издательство: «Альпина нон-фикшн»
Если Ник Бостром говорит, что мы живем в компьютерной симуляции, то нейробиолог Анил Сет утверждает, что реальность — это контролируемая галлюцинация. Что интересно, к этим выводам он пришел на основании экспериментов, которые убедили его, что все мы на самом деле постоянно галлюцинируем. «Просто, когда мы сходимся во мнении относительно этих галлюцинаций, мы называем их реальностью», — пишет он в книге «Быть собой: Новая теория сознания».
Это одна из самых важных научно-философских книг последнего десятилетия. В ней автор исследует проблему сознания: что это вообще такое, что значит «быть собой», из чего берется субъективный опыт. Тема искусственного интеллекта возникает в его рассуждениях как своего рода объект противопоставления: отталкиваясь от него, Сет уточняет границы наших представлений о сознании. Можем ли мы считать, что машина обладает сознанием, если она делает то же, что и мы? А если она способна страдать? А если мы просто не в состоянии распознать эти страдания, потому что в нашем опыте нет ничего, что нам бы в этом помогло? Такие вопросы ставит Сет в попытках лучше сформулировать, что значит быть человеком.
«Рождение разума: Как интеллект зарождается в людях и нейросетях» Гаурава Сури и Джея Макклелланда
Издательство: «Альпина Паблишер»
«Рождение разума» — пример плодотворного научного сотрудничества представителей разных поколений: профессор психологии, информатики и лингвистики Стэнфордского университета (деятельность организации признана нежелательной на территории Российской Федерации) Джей Макклелланд представляет науку прошлого века, а руководитель лаборатории RADLab Гаурав Сури отвечает за современную экспериментальную часть.
Макклелланд в этом тандеме — фигура исторического масштаба. Он фактически является автором «революции коннекционизма», представившей разум (в том числе искусственный) как сеть множества простых и взаимосвязанных элементов. В книге он вместе с Сури развивает эту концепцию на новом уровне, с учетом всех прорывов, произошедших с тех пор в машинном обучении и языковых моделях.
Главная идея книги, которая в оригинале называется The Emergent Mind («Эмерджентный разум»), — в том, что разум возникает (emerges) как результат взаимодействия сети элементов. Главный ее плюс — простота и последовательность изложения этой онтологии разума. Это удивительный пример работы, сочетающей лучшие черты научпопа и академической философии: не скатываясь к искажению фактов в пользу сенсационных формулировок, она при этом абсолютно доступна людям с гуманитарным образованием — и даже в каком-то смысле адресована им в первую очередь. Ведь книга вновь поднимает философские вопросы о том, что такое интеллект в принципе и из чего он складывается.
«Совместимость. Как контролировать искусственный интеллект» Стюарта Рассела
Издательство: «Альпина нон-фикшн»
Стюарт Рассел, в отличие от своего знаменитого однофамильца Бертрана Рассела, — по формальным признакам не философ. Он инженер: признанный исследователь в области компьютерных наук, профессор Калифорнийского университета в Беркли (деятельность организации признана нежелательной на территории Российской Федерации), соавтор учебника «Искусственный интеллект: современный подход», по которому учились в тысячах университетов по всему миру.
Тем не менее в книге «Совместимость. Как контролировать искусственный интеллект» он проявляет себя и как технический эксперт по ИИ, и как человек, которого волнуют далеко не только прагматические вопросы уровня «как сделать машину, которая сможет размышлять лучше человека», но и более фундаментальные: «что произойдет, если мы создадим такую машину, но она не будет разделять наши ценности»?
Вытекающие из этих вопросов размышления о ценностях и о том, как их совместить с техническим прогрессом, вполне позволяют отнести эту книгу к важным философским работам на тему ИИ. Рассел — один из тех исследователей искусственного интеллекта, которые выступают с предостережениями о потенциальных угрозах новых технологий. При этом он предлагает варианты решения, не предполагающие немедленного принудительного отключения серверов, как наиболее панически настроенные из его соратников.
«Реальность+. Виртуальные миры и проблемы философии» Дэвида Чалмерса
Издательство: АСТ, «Астрель-СПб»
Австралийский ученый Дэвид Чалмерс — пример академического философа, более того, его можно назвать одним из самых влиятельных мыслителей XXI века. Исследования сознания и новых технологий — ключевая тема всех его работ.
В одной из главных книг, «Сознающий ум» (1996), он сформулировал так называемую трудную проблему сознания: почему физические процессы в мозге порождают субъективный опыт, или, иначе говоря, откуда берется сознание.
В новой книге «Реальность+. Виртуальные миры и проблемы философии» Чалмерс, используя философский научный аппарат, убедительно доказывает не только, что все мы запросто можем находиться в виртуальной реальности, но и что в этом нет ничего плохого. Виртуальность, если разобраться, настаивает он, ни в чем не уступает офлайну. Да и в целом, вероятно, Бог — это «хакер из вселенной более фундаментального уровня» или «искусственный интеллект, который разработал серию герметичных симуляций и не уделяет им пристального внимания».
«Бог, человек, животное, машина» Меган О'Гиблин
Издательство: Individuum
Меган О'Гиблин — не самая титулованная фигура в этом списке, но, возможно, самая человечная. Она не профессор, не ученый и не разработчик, а писательница и эссеист, выросшая в семье последователей христианского фундаментализма.
Получив образование в частном евангельском библейском колледже, а затем степень магистра изящных искусств, О'Гиблин неожиданно для себя увлеклась темой технологий, сознания и трансгуманизма. В осмыслении этих технических тем она достигла такого уровня, что ее книгу о духовной составляющей роботов и о том, почему мы способны наделить сознанием даже камень, не говоря о своем нейросетевом собеседнике, консалтинговая компания McKinsey включила в список главных книг 2024 года.
Среди прочего О'Гиблин пытается объяснить, почему человек склонен наделять ИИ функциями Бога: мы имеем дело с невидимой и нечеловеческой формой разума, которая к тому же взаимодействует с нами посредством понятного нам языка.
«Кокетливый интеллект. Как научить искусственный интеллект флиртовать?» Джанель Шейн
Издательство: «Бомбора»
Если вы готовы прочитать только одну книгу из этого списка и хотели бы что-то максимально доступное — выбирайте эту. Этот полный юмора сборник примеров того, как именно искусственный интеллект «размышляет», «решает» и «думает», представляет собой своего рода вводный курс в философию ИИ.
Книга «Кокетливый интеллект. Как научить искусственный интеллект флиртовать?» написана в 2019 году, до эпохи больших языковых моделей и прорыва ChatGPT, и в этом смысле отчасти устарела. Но собранная в ней антология экспериментов наглядно показывает, насколько иначе устроены алгоритмы нейросетей по сравнению с человеческим мышлением. Кроме того, автор задает вполне философский вопрос: что мы узнаем о человеческом интеллекте, сравнивая его с машинным, который работает по-другому.
Джанель Шейн описывает необычное поведение нейросетей, которое на фоне современных LLM может выглядеть наивным, но, по сути, не отличается от него — здесь просто нагляднее проявляется специфика подхода ИИ к решению задач и то, что не все, кажущееся разумным, на самом деле обладает разумом и способностью к пониманию.
«Скрытый источник сознания: В поисках природы субъективного опыта» Марка Солмса
Издательство: «Альпина нон-фикшн»
Нейробиолог и психоаналитик Марк Солмс в своей книге исследует сознание со стороны физиологии, пытаясь понять, как мозг физически порождает сознание, которое затем управляет телом. Отталкиваясь от вопроса о первоисточнике сознания, он приходит к выводу, что первичным является не мышление, а чувства и ощущения. То есть, по его мнению, сначала появляется субъективное переживание потребностей организма, которое порождает необходимость интеллекта.
Соответственно, по мнению Солмса, LLM, не обладающие потребностями, не способны сформировать сознание. Эта гипотеза расходится с мейнстримом и не привлекла большого количества последователей, однако предлагает интересный подход к поиску источников сознания, личности и субъектности.
Любопытно, что в своих рассуждениях Солмс доходит до предложения создать наделенный сознанием ИИ, чтобы подтвердить или опровергнуть собственную гипотезу. Если, говорит он, удастся построить систему, которая не просто идеально решает задачи, но и обладает собственными потребностями, — значит, его предположения ошибочны.
«Измерять и навязывать. Социальная история искусственного интеллекта» Маттео Пасквинелли
Издательство: Individuum
Книга доцента кафедры философии науки на факультете философии и культурного наследия Университета Ка' Фоскари в Венеции в оригинале называется The Eye of the Master («Глаз Бога») и представляет собой пример социально-философского подхода к теме искусственного разума.
Пасквинелли исследует ИИ с позиций современного постмарксизма и утверждает, что главное в истории этой технологии — не попытки воспроизвести человеческий мозг, а последовательная работа над автоматизацией человеческого труда. При этом он обращает внимание, что лучше всего ИИ справляется именно с функциями контроля и управления. «Глаз Бога» — это отсылка к высказыванию Фридриха Энгельса о том, как промышленная революция в свое время ужесточила формы надзора за рабочими.
С точки зрения социальной философии и политэкономии Пасквинелли описывает, что происходит с обществом, когда в нем появляются автоматизированные системы, и как искусственные нейронные сети отражают социальные отношения своей эпохи.
«Если кто-то его создаст — все погибнут. Почему сверхчеловеческий ИИ уничтожит нас всех» Элиезера Юдковского и Нейта Соареса
Издательство: Corpus
Книгу популяризатора науки и рационального мышления Элиезера Юдковского и его товарища по Институту исследований машинного интеллекта Нейта Соареса стоит выбрать, если вы хотите как следует испугаться грядущего захвата мира сверхразвитым ИИ. Или если хотите разобраться в аргументах технопессимистов из лагеря Юдковского.
Важно понимать, что авторы книги — не сторонние наблюдатели и не конспирологи. Юдковский — один из самых заметных исследователей ИИ, и призывать немедленно остановить его развитие, вплоть до бомбардировок дата-центров по всему миру, он начал сравнительно недавно — как только пришел к выводу, что «если какая‑либо компания или группа на планете создаст искусственный сверхинтеллект, то погибнут все люди на всей Земле».
Помимо апокалиптического посыла книга отличается предельной ясностью изложения — в этом списке с ней по степени доступности для неподготовленного читателя может сравниться разве что книга Джанель Шейн о кокетливом интеллекте. Авторы практически «на пальцах» разъясняют, как именно работают современные LLM — и в то же время, почему никто на самом деле толком не понимает, как они работают.
Автор Инна Титова
Источник forbes.ru