Sinекура
5.33K subscribers
2.15K photos
23 videos
535 links
Канал Сергея Николенко обо всём, но в основном об AI.

Сайт с выступлениями, лекциями и публикациями: https://sergeynikolenko.ru/
Download Telegram
В ностальгической серии буду чередовать Synthesis и Neuromation, сегодня очередь последней. Мы в прошлый раз обсуждали серию NeuroNuggets, сделанную в соавторстве с коллегами по Neuromation. Сегодня вспомню несколько общих постов из 2017-2018, которые сейчас читаются в основном тривиально, местами весьма наивно, но местами, кажется, вполне даже интересно.

The Most Interesting Subject in the Universe — короткий пост о мозге и о том, как там обрабатывается вход, я об этом всегда на вводных лекциях о deep learning рассказываю

Neuroplasticity — продолжение о мозге, на этот раз о нейропластичности, извлечении признаков и о том, что такое вообще искусственные нейронные сети; тоже вводные в DL материалы по сути

Xe — не откажу себе в удовольствии ещё раз напомнить про свой тогдашний рассказик, который мне в целом до сих пор нравится

Deep Architectures — краткое объяснение того, чем глубокие архитектуры лучше неглубоких, и того, что такое вообще deep learning

The AI Dialogues — а это интересный жанр я начал, думал сделать глобальное объяснение основных идей AI в исторической перспективе через диалоги; жалко, что тогда это ни у кого особого интереса не вызвало и этот пост так и остался единственным, но мне кажется, что его вполне можно с интересом читать и сейчас

Convolutional Networks — объяснение главной идеи свёрточных сетей, тоже прямо по учебнику и лекциям

Who Will Be Replaced by Robots I, or "Man! That has a proud sound!" — это первый из двух постов, которые сейчас действительно довольно забавно читаются; первая часть историческая, так что в ней точно особого бреда нет; это перевод моей статьи на vc.ru "Кого же заменят роботы, или Человек — это звучит гордо", статья тоже всё ещё доступна, так что, наверное, разумно её и читать

Who Will Be Replaced by Robots II, or Anatomy of Fear of Robotization — вторая часть о том, кого заменят роботы, уже не историческая; это тоже перевод моей статьи на vc.ru, "Кого заменят роботы II, или Анатомия страха перед роботизацией"; в целом действительно любопытно вспомнить, что мы думали об этом тогда, восемь лет назад

И это ещё далеко не всё! Stay tuned, как говорится.

#longreads #neuromation
❤7🔥7🤣1
"Технодебаты", о которых я писал во вторник, прошли. Кажется, была трансляция, надеюсь, будет и запись, а в этом посте попробую выдать свои основные тезисы на заявленную тему: "Должны ли компании, разрабатывающие ИИ, нести ответственность за работу автономных систем (агентов) на основе ИИ?". Хочу поделиться, потому что тут собрались несколько любопытных кейсов и ссылок.

Как вы понимаете, формат дебатов предполагает отстаивание одной из позиций в очень краткой форме, а не взвешенную лекцию. Мы даже жребий бросили, какая команда какую позицию будет отстаивать, и нам с Глебом Цыгановым выпал ответ "да, должны". Основные тезисы своего первого выступления я для вас изложил в посте:

Дебаты об ответственности

Здесь выложу для затравки первый раздел, дальше смотрите по ссылке, и там всё самое интересное и будет: и о том, как Sewell Seltzer общался с Дейнерис Таргариен, и про GPT-индуцированные психозы, и Moffatt vs. Air Canada, и кое-что ещё.

Постановка задачи и основные тезисы

Начну с того, что вопрос поставлен расплывчато и чересчур широко, так что очевидно, что правильный ответ на этот вопрос — иногда. Легко найти примеры в обе стороны, с которыми вряд ли кто-то будет спорить, и мы здесь будем обсуждать "серую зону", середину этого вопроса. Тем не менее, мне кажется, что нам, человечеству, важно прийти к положительному ответу на этот вопрос.

Главная причина в том, что ответ "да" позволит выстроить систему стимулов (incentive structure). Хотя мы, конечно, верим, что в каждой frontier lab работают только хорошие парни, будет ещё лучше, если требования безопасности будут законодательно закреплены, и такие стимулы будут не только моральные, но и юридические.

Вторая причина в том, что ответ "да" — это не окончательный ответ, а только начало дискуссии. Уже сейчас есть целая цепочка разработчиков, каждый из которых может нести свою часть ответственности:
— провайдеры базовых моделей (условный OpenAI);
— те, кто эти модели дообучает для конкретного использования (условный character.ai или любой стартап про LLM-агентов);
— корпоративные заказчики, которые эти дообученные модели доносят до конкретных пользователей (условная авиакомпания, которой нужен умный чатбот).

Вдоль этой цепочки ответственность нужно как-то распределить; как именно — это сложный вопрос, на который у меня, конечно, нет готового ответа, но ответ "да" позволяет хотя бы начать этот разговор.

#talks #longreads
👍9❤6🔥2
Сегодня в пятничном посте у меня сразу четыре игры, но очень короткие, в пределах двух часов каждая, а то и меньше. И минимум две из них точно стоят внимания. Напоминаю, что обзоры игр теперь тоже есть на сайте, в соответствующей вкладке; вот полная версия этого поста с галереями.

Everything is going to be OK

Набор мини-зарисовок о депрессии, насилии, психологической травме, отчаянии. О том, как советы не работают, боль не проходит, а выхода нет, на примере милых кроличков. Геймплея как такового почти нет, это набор слегка интерактивных эссе в очень вырвиглазном стиле. Некоторые зарисовки примитивные, некоторые длинные и интересные, некоторые заигрывают с четвёртой стеной, некоторые порождают pdf и предлагают его распечатать и так далее.

Игра, конечно, от одного разработчика, Nathalie Lawhead, и сама автор говорит, что это скорее не игра, а интерактивный zine. В течение года (2022-2023) игра даже выставлялась в MoMA как часть выставки "Never Alone: Video Games and Other Interactive Design". Меня, честно говоря, некоторые эссе действительно зацепили. Учитывая, что это experience максимум часа на полтора, очень рекомендую попробовать.

Many Nights a Whisper

Игра-зарисовка с интересной концепцией: тебе нужно поучаствовать в ритуале, в течение которого нужно попасть из пращи в очень далеко расположенную чашу. Ты тренируешься в течение нескольких дней, и время тренировок не ограничено — но в самом конце попытка будет только одна, сохраняться нельзя, можно разве что начать перепроходить заново. Тренировки перемежаются любопытными вставками, немного раскрывающими мир, но особого сюжета не добавляющими. Концепция крутая, дольше часа тут делать нечего, почему бы и не попробовать. Если что, я не попал.)

A Mortician's Tale

Очень маленькая и короткая инди-игра (я старательно читал все письма, и всё равно суммарно 45 минут заняло), в которой ты нанимаешься работать в похоронное бюро, готовишь несколько человек в последний путь, потом твоё бюро продаётся мегакорпорации, ну и всё такое. Честно говоря, совсем не понравилось: по идее, эта игра должна как-то отрабатывать свою тяжёлую тему, но вместо этого основой сюжета оказывается то, что безликая корпорация — это плохо, а сами человеческие истории не рассказаны примерно никак, кроме одной истории твоего коллеги в письмах. Не рекомендую.

Fractured Minds

Ещё один фактически интерактивный рассказ, хотя здесь нужно ходить в 3D-мире и взаимодействовать с предметами. Но по сути это набор из шести зарисовок о разных mental health issues: изоляция, паранойя, тревожность... Игру сделала 17-летняя Эмили Митчелл из Великобритании, которая таким образом пыталась поделиться своим собственным опытом взаимодействия с миром. Как по мне, у неё вполне получилось: хотя очевидно, что игру делал начинающий гейм-дизайнер, атмосфера действительно создаётся, да и к тому же это опыт буквально на полчаса, которых он безусловно стоит. Рекомендую.

Вообще, подытоживая, игры о депрессии и психических расстройствах — это в некотором роде свой собственный жанр. Я уже много таких видел (только сегодня вот две обозреваю), и, может быть, стоит как-нибудь поговорить о них вместе как о едином явлении. Но это уже в другой раз.

#games #tgif
❤13👍1
А вот здесь неудобно получилось: автор этого текста Роман Мерзляков попросил меня об интервью, задал весьма интересные вопросы о взаимоотношениях AI и ЧГК.

Я сказал, что ответ на пару вопросов можно найти в таком-то посте, а про остальные собирался подумать и сформулировать... да так и не собрался, и Роман тоже не напомнил, видимо, потому что я ему это так явно и не пообещал.

В результате текст вышел с несколькими цитатами из постов про недавний CSSpace митап, да и всё. Конечно, всё, что тут от моего лица написано, я действительно писал, но мог бы сказать больше и интереснее. А жаль, вопросы были и правда хорошие; oh well.

https://rg.ru/2025/08/29/dodumalis.html

#publications #press
👍6
Видеозапись "Технодебатов" в Яндексе появилась, и мне разрешили её выложить, так что вот, можно посмотреть:

Yandex — 2025.08.27 — Технодебаты об ответственности
(начало ближе к 20-й минуте, ссылка сразу туда указывает)

Кстати, там были и хорошие вопросы из зала, которые тоже вызвали интересные ответы, досматривайте до конца. Особенно, конечно, хорош был вот этот комментарий.

#talks
🔥12❤4👍3