Неделю назад в Петербург приезжала большая делегация из ЮФУ. Столько человек, конечно, не лично ко мне приезжали, но было бы странно упустить такой шанс.
Встретились в ПОМИ, обсудили программу ЮФУ по искусственному интеллекту и мои там курсы. Напомню, что я уже год преподаю в ЮФУ, причём веду ознакомительно-развлекательные курсы для первокурсников (первый семестр, второй семестр), и мне этот жанр вполне даже нравится.
Рад был повидаться, и приезжайте ещё! :)
#blog #lifestyle #teaching #sfu
Встретились в ПОМИ, обсудили программу ЮФУ по искусственному интеллекту и мои там курсы. Напомню, что я уже год преподаю в ЮФУ, причём веду ознакомительно-развлекательные курсы для первокурсников (первый семестр, второй семестр), и мне этот жанр вполне даже нравится.
Рад был повидаться, и приезжайте ещё! :)
#blog #lifestyle #teaching #sfu
❤23👍17😍6
В следующий четверг в 18:00 буду рассказывать про AI Safety, причём онлайн и, кажется, с общим доступом; вот ссылка на анонс, наверное, там и этот абстракт скоро появится:
Безопасность ИИ в 2026 году
AI Safety — это одна из главных областей науки сегодня, и, к сожалению, категорически недоисследованная. Возможности AI-систем растут не по дням и даже не по часам, а вот уверенности в том, что всё это закончится для человечества хорошо, так и не прибавляется.
В докладе мы сначала поговорим о том, чего собственно здесь нужно бояться, а потом обсудим основные направления AI safety и яркие результаты, которые там всё-таки есть. К сожалению, результаты эти пока в основном отрицательные или в лучшем случае амбивалентные: например, в 2025 главным новым сюжетом стало (и никуда с тех пор не делось) эмерджентное рассогласование (emergent misalignment).
Вот и сейчас главная новая мысль по сравнению с моими предыдущими докладами (например, вот этим) будет в evaluation awareness. За прошедшие с того доклада месяцы AI-модели научились отлично распознавать, когда их тестируют, в том числе когда тестируют по вопросам, связанным с безопасностью. Значит ли это, что все наши тесты теперь бессмысленны? Возможно! Поговорим и о последних новостях, в частности о внезапно отменённом релизе Claude Fable.
Плохо здесь только одно — неудачно совпало, и я из-за этого доклада не попадаю на традиционный выпускной кораблик на МКН. Это прямо жалко, хорошая традиция. Впрочем, он в этот раз поздно, так что я скорее всего не попал бы и из-за поезда.)
#events #talks #aisafety
Безопасность ИИ в 2026 году
AI Safety — это одна из главных областей науки сегодня, и, к сожалению, категорически недоисследованная. Возможности AI-систем растут не по дням и даже не по часам, а вот уверенности в том, что всё это закончится для человечества хорошо, так и не прибавляется.
В докладе мы сначала поговорим о том, чего собственно здесь нужно бояться, а потом обсудим основные направления AI safety и яркие результаты, которые там всё-таки есть. К сожалению, результаты эти пока в основном отрицательные или в лучшем случае амбивалентные: например, в 2025 главным новым сюжетом стало (и никуда с тех пор не делось) эмерджентное рассогласование (emergent misalignment).
Вот и сейчас главная новая мысль по сравнению с моими предыдущими докладами (например, вот этим) будет в evaluation awareness. За прошедшие с того доклада месяцы AI-модели научились отлично распознавать, когда их тестируют, в том числе когда тестируют по вопросам, связанным с безопасностью. Значит ли это, что все наши тесты теперь бессмысленны? Возможно! Поговорим и о последних новостях, в частности о внезапно отменённом релизе Claude Fable.
Плохо здесь только одно — неудачно совпало, и я из-за этого доклада не попадаю на традиционный выпускной кораблик на МКН. Это прямо жалко, хорошая традиция. Впрочем, он в этот раз поздно, так что я скорее всего не попал бы и из-за поезда.)
#events #talks #aisafety
❤18
DeepMind выпустил интересную постановочную статью:
From AGI to ASI
Я её пока ещё не прочитал, но рано или поздно соберусь, такие тексты могут оказаться важными.
Но уже хочу обратить ваше внимание на первый раздел этой статьи (второй скриншот в посте). По-моему, отличная идея, это вам не стеганографически вписывать инструкции в submission в надежде на LLM-рецензента.)
А ещё любопытно, что эта статья ссылается на работу Николая Константиновича Верещагина. Но ладно, надо и правда прочитать когда-нибудь.
#ai #news
From AGI to ASI
Я её пока ещё не прочитал, но рано или поздно соберусь, такие тексты могут оказаться важными.
Но уже хочу обратить ваше внимание на первый раздел этой статьи (второй скриншот в посте). По-моему, отличная идея, это вам не стеганографически вписывать инструкции в submission в надежде на LLM-рецензента.)
А ещё любопытно, что эта статья ссылается на работу Николая Константиновича Верещагина. Но ладно, надо и правда прочитать когда-нибудь.
#ai #news
❤20😁9🔥6🗿2👏1
Очередной point-and-click квест в особняке, про которые я в последнее время немало пишу: был и The Séance of Blake Manor, и Botany Manor, ну а про Blue Prince я вообще молчу. Авторы сами называют свой жанр “horror comedy escape room”, и эта формула описывает игру очень точно.
Riddlewood Manor
(и вот выложил на DTF)
В качестве источников вдохновения авторы называют две вещи: серию Rusty Lake (от которой взяты загадки и общая эстетика мрачного абсурда) и мультсериал “Courage the Cowardly Dog“, где трусливый розовый пёс спасает хозяев от еженедельных кошмаров в духе братьев Гримм.
“Horror comedy” здесь на месте: по форме и сюжету это действительно хоррор, но по сути абсолютно никакой давящей атмосферы нету. Всё подаётся с шутеечками, как бы по-детски, но юмор вполне взрослый, хоть и незамысловатый. Атмосфера видна даже по графике, чудовища тут не страшные, а скорее нелепые…
…хотя есть самые настоящие скримеры! Игра старательно предупреждает о них в начале, и даже есть отдельная настройка предупреждать в процессе геймплея. Так что претензий у меня никаких, но всё равно не очень понимаю, зачем они здесь: тон у игры абсолютно не такой, чтобы скримеры органично вписывались.
Зато понравились смерти в игре: за неправильный выбор Riddlewood Manor вас, скорее всего, убьёт, но это, конечно не game over (вы тут же откатитесь), а смерти оригинальные и нарисованные вручную, их хочется посмотреть все.
Загадки приятные, в фирменном стиле escape room: ты в каждой комнате осматриваешь всё, что не приколочено, собираешь предметы, ищешь подсказки в окружении и комбинируешь их в решения. Влияние Rusty Lake чувствуется явно — те же неочевидные комбинации с обыденными предметами, те же “вы должны как-то догадаться, что это работает именно так”, частенько с абсурдными решениями.
Но игра мягко, а иногда и в лоб довольно чётко говорит, что делать, каких-то затыков у меня не было ни разу, в целом сложность загадок сбалансирована хорошо.
В общем, милая незамысловатая point-and-click головоломка, на 1-2 вечера, сойдёт.
#tgif #games
Riddlewood Manor
(и вот выложил на DTF)
В качестве источников вдохновения авторы называют две вещи: серию Rusty Lake (от которой взяты загадки и общая эстетика мрачного абсурда) и мультсериал “Courage the Cowardly Dog“, где трусливый розовый пёс спасает хозяев от еженедельных кошмаров в духе братьев Гримм.
“Horror comedy” здесь на месте: по форме и сюжету это действительно хоррор, но по сути абсолютно никакой давящей атмосферы нету. Всё подаётся с шутеечками, как бы по-детски, но юмор вполне взрослый, хоть и незамысловатый. Атмосфера видна даже по графике, чудовища тут не страшные, а скорее нелепые…
…хотя есть самые настоящие скримеры! Игра старательно предупреждает о них в начале, и даже есть отдельная настройка предупреждать в процессе геймплея. Так что претензий у меня никаких, но всё равно не очень понимаю, зачем они здесь: тон у игры абсолютно не такой, чтобы скримеры органично вписывались.
Зато понравились смерти в игре: за неправильный выбор Riddlewood Manor вас, скорее всего, убьёт, но это, конечно не game over (вы тут же откатитесь), а смерти оригинальные и нарисованные вручную, их хочется посмотреть все.
Загадки приятные, в фирменном стиле escape room: ты в каждой комнате осматриваешь всё, что не приколочено, собираешь предметы, ищешь подсказки в окружении и комбинируешь их в решения. Влияние Rusty Lake чувствуется явно — те же неочевидные комбинации с обыденными предметами, те же “вы должны как-то догадаться, что это работает именно так”, частенько с абсурдными решениями.
Но игра мягко, а иногда и в лоб довольно чётко говорит, что делать, каких-то затыков у меня не было ни разу, в целом сложность загадок сбалансирована хорошо.
В общем, милая незамысловатая point-and-click головоломка, на 1-2 вечера, сойдёт.
#tgif #games
❤11👍4🔥3
На прошлой неделе провели несколько дней в Армении.
В основном, конечно, сидели и трудились, лекции сами себя не прочитают, а новые исследования сами себя не... ой нет, забыл, в какое время живём, может, и сделают, но проверять всё равно надо самостоятельно.
В один из дней выбрались на Севан, но там особо ничего интересного не было. Пожалуй, поделиться есть смысл только двумя вещами:
— в выбранном по отзывам ресторане был "легендарный ереванский мильфей", что звучало очень смешно, но на деле оказалось очень круто;
— а на рынке я купил (и немедленно по приезду подарил) настоящий дудук и, внимание, машинку для заворачивания долмы! Чего только люди не придумают.
#blog #travel #lifestyle
В основном, конечно, сидели и трудились, лекции сами себя не прочитают, а новые исследования сами себя не... ой нет, забыл, в какое время живём, может, и сделают, но проверять всё равно надо самостоятельно.
В один из дней выбрались на Севан, но там особо ничего интересного не было. Пожалуй, поделиться есть смысл только двумя вещами:
— в выбранном по отзывам ресторане был "легендарный ереванский мильфей", что звучало очень смешно, но на деле оказалось очень круто;
— а на рынке я купил (и немедленно по приезду подарил) настоящий дудук и, внимание, машинку для заворачивания долмы! Чего только люди не придумают.
#blog #travel #lifestyle
❤26🔥11👍4👀1
Напоминаю, что сегодня в 18 буду читать доклад про AI Safety, вот ссылка на timepad, надо, кажется, там зарегистрироваться, чтобы прийти онлайн.
И так случилось, что сегодня у меня анонс очень в тему доклада: книга Юдковского и Соареса "If Anyone Builds It, Everyone Dies" вышла на русском языке!
Я у этой книги был научным редактором, всё внимательно вычитывал и написал кучу примечаний; самому интересно, какие из них в итоге вошли в собственно издание.
Меня попросили написать небольшой отзыв для размещения на сайте, но это потом, а пока просто вот ссылка на сайт издательства:
Элиезер Юдковский, Нейт Соарес
Если кто-то его создаст — все погибнут
Очень рекомендую всем. Разве что те, кто уже слушал мои доклады по AI safety или читал более подробные источники, вряд ли там почерпнут много нового. Но мне всё равно было очень интересно её читать и редактировать.
И ещё было неожиданно и очень приятно заочно встретиться с Евгением Поникаровым, который был переводчиком книги. Давно не видел его ни на каком ЧГК, а тут вдруг встреча.
Спасибо издательству и лично Алёне Якименко за приглашение!
#aisafety #books #talks #events
И так случилось, что сегодня у меня анонс очень в тему доклада: книга Юдковского и Соареса "If Anyone Builds It, Everyone Dies" вышла на русском языке!
Я у этой книги был научным редактором, всё внимательно вычитывал и написал кучу примечаний; самому интересно, какие из них в итоге вошли в собственно издание.
Меня попросили написать небольшой отзыв для размещения на сайте, но это потом, а пока просто вот ссылка на сайт издательства:
Элиезер Юдковский, Нейт Соарес
Если кто-то его создаст — все погибнут
Очень рекомендую всем. Разве что те, кто уже слушал мои доклады по AI safety или читал более подробные источники, вряд ли там почерпнут много нового. Но мне всё равно было очень интересно её читать и редактировать.
И ещё было неожиданно и очень приятно заочно встретиться с Евгением Поникаровым, который был переводчиком книги. Давно не видел его ни на каком ЧГК, а тут вдруг встреча.
Спасибо издательству и лично Алёне Якименко за приглашение!
#aisafety #books #talks #events
❤21🔥7👍5✍1