Сегодня пятничный пост опять про книги, на этот раз fiction. В контексте будущего AI мне давно рекомендовали Culture series Иэна Бэнкса. The Culture — это утопическое общество, в котором всем управляют сверхразумные AI (Minds), а люди живут в изобилии по несколько сотен лет и пытаются как-то придать своему существованию смысл. И вот к очередному совету я наконец прислушался. Прочитал пока две книжки, в хронологическом порядке.

Consider Phlebas (1987)

Первая книга показалась мне обычной хорошо написанной боевой фантастикой. The Culture здесь присутствует по касательной, практически никак не показана, и рассуждений или сюжетных частей о сверхразумных AI тут нет, только декларативно заявлено, что они существуют. А в основном это типичная космоопера: группа персонажей движется от одного очень странного мира к другому, встречает разные культуры (но не Culture); в книге куча деталей и ярких описаний, обычно категорически 18+.

Читается как идеальная основа для адаптации в фильм или сериал. Получилось бы нечто среднее между Star Wars (куча разных гуманоидов с иногда забавными, иногда страшными обычаями) и Altered Carbon (жестокий down-to-earth киберпанк), причём в хороших пропорциях. Пока читал, удивлялся, что этого ещё не сделали; вроде пишут, что Amazon собирается — Amazon, конечно, веры мало после "Властелина колец", но тут и правда материал очень хорош.

The Player of Games (1988)

А вот это уже гораздо интереснее! Здесь главный герой — типичный представитель the Culture, посвятивший всю жизнь изучению разнообразных игр. Его привлекает Contact (отдел the Culture по взаимодействию с другими цивилизациями) для того, чтобы поучаствовать в большом турнире по игре Azad, являющейся главным культурным стержнем империи, которую the Culture очень хочет, так сказать, "окультурить". По мере развития сюжета станет ясно, что окультуриваться там действительно давно пора.

В конце книги всё равно есть немного боевой фантастики — честно говоря, я плохо понимаю, зачем в книгах нужны подробные описания сражений в духе "кто куда выстрелил и что мечом отрезал", это же просто неподходящий медиум. Создать картинку красивым описанием обстановки и снаряжения отлично, но дальше вполне достаточно написать что-то вроде "после короткой схватки у нас новая картинка", всё равно кино не получится. А у Бэнкса этого очень много в Consider Phlebas и немного, но есть в The Player of Games; надеюсь, дальше прогрессия сохранится.

Но в The Player of Games это, к счастью, не главное. Здесь куда интереснее показана the Culture, построен уголок этого самого мира скучающих людей, пытающихся найти смысл жизни. И весьма правдоподобно построен: в книге вовсе не сказано, что люди постоянно скучают. Автор просто сначала погружает нас в мир мелких бессмысленных социальных взаимодействий, а потом переносит в соревнование, у которого есть настоящие ставки. Как будто первую часть книги писала Джейн Остен (не в смысле стиля, конечно), а вторую — Толстой на пару с Диккенсом. Сверхразумные AI тоже, конечно, играют важную роль, но это уже были бы спойлеры.

Одно только жаль — центральная тема книги, игра Azad, не раскрыта и не может быть раскрыта. Обрывочные сведения по сути сводятся к тому, что это очень сложно: много вспомогательных игр, три больших трёхмерных поля, куча правил, какие-то биологические генномодифицированные фигуры, с которыми нелегко взаимодействовать, а иногда в игре получается достоверное отражение реальных конфликтов. Придумать настоящие правила для такой убер-игры, конечно же, невозможно; даже если привлечь крутых гейм-дизайнеров, получится жалкое подобие, что сделает только хуже. Кажется, что это и экранизации бы помешало: красивые поля сделать можно, но будет видно, что реального смысла за этим не стоит, а ведь Azad — не любопытная деталь, а центральный элемент всего произведения. Но, с другой стороны, медиум теперь правильный, такая задумка как раз для книги и подходит: каждый представит себе что-то своё, и слава богу.

В общем, после первой книги я был слегка разочарован, а вот вторая понравилась куда больше. Попробую читать дальше.

#tgif #books

Но и праздники всё-таки начинаются! Год назад прекрасная Ира @fuesis подарила мне бумажное издание Harry Potter and the Methods of Rationality, а теперь - главную книгу этого года!

Ещё не читал, но уже всем рекомендую.)

#books #lifestyle

Собирался пропустить сегодняшний день, но тут мне напомнили, что есть ещё одна хорошая новость.

Книга Элиезера Юдковского и Нейта Соареса "Если кто-то его создаст — все погибнут", о которой я здесь недавно писал, вошла в лонг-лист премии "Просветитель"!

На сайте премии даже я упоминаюсь как научный редактор, что, конечно, приятно. Но главное тут всё-таки в том, чтобы как можно больше людей эту книгу прочитали, а точнее, узнали о том, как идут её основные рассуждения.

Сам текст не так уж принципиален, но это действительно лучшее популярное изложение основных принципов AI Safety и, главное, того, зачем вся эта наука вообще нужна. Продолжаю книгу Юдковского и Соареса очень рекомендовать и надеюсь, что в "Просветителе" она тоже пройдёт как можно дальше.

#aisafety #books

Люблю книги, хоть и очень мало их читаю в последние годы. Смотрите какую прелесть сегодня добыл. Кот пришёл для масштаба, а с масштабом у кота всё в порядке.

В некоторых томах встречаются очень умилительные статьи-приложения. Вот для вас одну сфотографировал — не будем же мы подходить к делу с точки зрения буржуазно-юридического формализма?

Ведь и правда: весьма необходимо иметь на полках все 50 томов (на самом деле 65 + бонусный "СССР") советской мудрости и в каждый момент получать от них скорую духовную помощь!

#lifestyle #books

Продолжим тему книг. До меня наконец-то добрались бумажные экземпляры книги Элиезера Юдковского и Нейта Соареса, где я был научным редактором перевода:

Если кто-то его создаст — все погибнут

Я о ней недавно уже писал в связи с тем, что она вошла в лонг-лист премии "Просветитель". А сейчас просто поделюсь радостью от того, что очень многие комментарии, которые я при редактуре писал, действительно вошли в книгу!

Собственно, главная мысль многих моих комментариев была в том, что за прошедший с написания книги год уже многие предсказания сбылись, а где-то реальность пошла даже дальше предположений авторов. Прилагаю несколько примеров.

Во вторник, кстати, на школе имени Бориса Поляка опять буду про AI Safety рассказывать. По сравнению с недавними докладами там будет как минимум одна крутая недавняя новость об интерпретируемости, о которой я для вас пишу большой пост (хотя не обещаю, что до завтра допишу).

#books #aisafety