Это я еду на «главную tech-конференцию Яндекса» (они сами в рекламе так писали) deep tech night. Она только по приглашениям, но меня позвали, и я в деле 😎
На конфу еду - правда, но фотка старая - сегодня как и всегда агенты пашут как не в себя, но в tmux+goal, поэтому можно будет спокойно покурить кальянчик и поесть паэльи на крутом мероприятии 😄
А если нет паэльи и кальянов, то зачем тогда ехать? Доклады чтоли слушать? 🧐
Это шутейка, конечно. Доклады бывают оч крутые! Один из таких крутых докладов я готовлю сейчас - для другой конфы Яндекса, которая называется «Я про бэкенд». Готовлю красоту про устройство поиска в кодовых агентах и планируетсяразъёб очень интересно. Бесплатно и без смс, паэлья в прошлый раз была!
У Яндекса, к слову, мероприятия очень крутые, 2 из 3 моих любимых - яндексовые. Посмотрим, что будет сегодня. Если в реакциях наберется 5 дельфинчиков - поделаю фоток внутри диптехнайта 🐳
На конфу еду - правда, но фотка старая - сегодня как и всегда агенты пашут как не в себя, но в tmux+goal, поэтому можно будет спокойно покурить кальянчик и поесть паэльи на крутом мероприятии 😄
А если нет паэльи и кальянов, то зачем тогда ехать? Доклады чтоли слушать? 🧐
Это шутейка, конечно. Доклады бывают оч крутые! Один из таких крутых докладов я готовлю сейчас - для другой конфы Яндекса, которая называется «Я про бэкенд». Готовлю красоту про устройство поиска в кодовых агентах и планируется
У Яндекса, к слову, мероприятия очень крутые, 2 из 3 моих любимых - яндексовые. Посмотрим, что будет сегодня. Если в реакциях наберется 5 дельфинчиков - поделаю фоток внутри диптехнайта 🐳
🐳17😁6👀4🗿2🔥1
Про deep tech night
Конфа крутая! Собственно, как все tech-конфы Яндекса. Организация во всех смыслах топовая (на неработающее приложение, из-за которого я пропустил иммерсивную экскурсию, можно закрыть глаза). Очень крутой вайб, а экстраполису - гораздо круче быть развернутым во всю стену, нежели как обычно 😄
Однажды меня случайно занесло на чисто бизнесовую Я-конфу, и вот там-то я взгрустул, потому что со сцены спикеры со всей страны рассказывали про бороздящие космические просторы, а в кулуарах на вопросы о минимальных деталях под капотом отвечали «ой ну надо у наших инженеров спросить». Но без технички умудрялись насыпать такого, что хотелось восклицать «да что ж ты п%здишь-то» 🤣 Но там это привычная атмосфера 💼🕶️
А здесь - все было хорошо! Мы обязательно встретимся!
(для масштаба все фотки на 0.5)
Конфа крутая! Собственно, как все tech-конфы Яндекса. Организация во всех смыслах топовая (на неработающее приложение, из-за которого я пропустил иммерсивную экскурсию, можно закрыть глаза). Очень крутой вайб, а экстраполису - гораздо круче быть развернутым во всю стену, нежели как обычно 😄
Однажды меня случайно занесло на чисто бизнесовую Я-конфу, и вот там-то я взгрустул, потому что со сцены спикеры со всей страны рассказывали про бороздящие космические просторы, а в кулуарах на вопросы о минимальных деталях под капотом отвечали «ой ну надо у наших инженеров спросить». Но без технички умудрялись насыпать такого, что хотелось восклицать «да что ж ты п%здишь-то» 🤣 Но там это привычная атмосфера 💼🕶️
А здесь - все было хорошо! Мы обязательно встретимся!
(для масштаба все фотки на 0.5)
❤4🔥4🐳2👾1
А теперь хотелось бы поговорить про важное в эпоху дизрапта разработки продуктов: про сквоттинг.
Сквоттинг - это самовольный захват "свободных" зданий теми, кто не является их владельцем. Часто это заброшки, которые возникают по разным причинам человеческой жизнедеятельности.
В моей глубоко обожаемой Латинской Америке сквоттинг очень популярное явление (что в Аргентине особо больно потому что сквотят красоту) и чтобы с ним бороться правительство даже блокирует входы и выходы зданий, чтобы их невозможно было занять. Потому что когда люди заселились - их не выгнать, потому что уже некуда. В юарском Йоханнесбурге местные мне показывали многоэтажки, которые угоняли у застройщиков целиком - это такой прям бизнес, когда опасные гангста угоняют чужой по паспорту дом и начинают распоряжаться им как своим и сдавать легальным съемщикам.
Причем здесь AI и агенты, могли бы спросить вы?
У скоттинга есть цифровой аналог - кибер-сквотинг, и который начинался ровно тем же, что и обычный. Но в итоге пошёл сильно дальше.
Расскажу историю первую.
Когда-то давно я сделал приложение для обоих мобилок про офлайн-карты - я попал в реальную боль и потому на него быстро полился органический трафик. За год я собрал примерно 100k скачиваний чисто на органике, но в какой-то момент понял, что юнит-экономика проекта беспощадно требует либо привлечения инвесторских денег для LTV, либо просто оставить все это без поддержки и наслаждаться прилетающими мини-выплатами на оплату сервака и немного пивка сверху.
Я забил на проект на пару лет, он просто крутился на серваке, потом случился ковид (кто-то помнит что это?), и я окончательно выкинул проект из memory. Прилетел счет на оплату домена, но я уже забил - кому он теперь был нужен.
Потом спустя несколько лет случились ллмки. Мне показалось свежей идея обновить аппку, и тут я обнаружил сквоттинг - домен, на который тогда лился трафик и который был лендингом и названием проекта - угнали. Ровно в тот момент, когда я забил на счет оплаты домена, на него не забил кто-то другой, кто внимательно его отслеживал. Это называется "drop-catching" или по крестьянски - перехват освобождающегося домена под выкуп.
Теперь у меня есть аппка, но нет домена. Киберскоттеры внимательно забирают все, что забрасывается, только делают это моментально. И их тоже невыпиздишь просто так - нужно договариваться, и часто чек на таких договорах перебивает все затраты на сквоттинг до него. Я знавал одного сквоттера в ру-домене - у него в жизни было все замечательно.
Если трафика не очень много или его сложно монетизировать (как с моей аппкой) - домен просто бесконечно продлевается пока владелец или кто-то не придут договариваться о его выкупе. Если трафик легкий - там поднимает аналогичный проект. Подмены из пользователей никто не ощущает.
Сейчас в эпоху агентов сквоттеры получили супер крутые инструменты, чтобы делать то, что они делают, но круче на пару порядков. Пылесосить домены, поднимать копии проектов, подкинуть сверху рекламного трафика и подавлять подзапущенные или набирающие популярность оригиналы. В эпоху агентов сквоттеры могут выкупить все самые интересные имена под любые продукты - и это огромная продуктовая проблема.
Что мы делаем, чтобы придумать название нового проекта? Правильно, идём в чатгпт/клода/гемини и перебираем варианты. Угадайте, кто ещё так делает? И почему найти нормальный домен для проекта становится все сложнее?
Благодаря агентам можно не просто анализировать взлетающий спрос на что-то, но и автоматом обмазывать возрастающие стартапы похожими именами и под них же мимикрировать, подливать на них трафик, поднимать копии проектов и долго паразитировать на этом. С агентами это теперь не стоит почти ничего и это уже делается.
А вторая история - про сквотинг и прямой взлом, но ее - чуть попозже!
P.S.: на фото - великолепный Буэнос-Айрес, я про него писал тут и тут. Если наберется 20 ноготочков в реакциях, то позволю себе посты только про свои путешествия (а я облетел весь мир и написал больше тысячи постов про это, но сюда писать про это стесняюсь🤩 )
Сквоттинг - это самовольный захват "свободных" зданий теми, кто не является их владельцем. Часто это заброшки, которые возникают по разным причинам человеческой жизнедеятельности.
В моей глубоко обожаемой Латинской Америке сквоттинг очень популярное явление (что в Аргентине особо больно потому что сквотят красоту) и чтобы с ним бороться правительство даже блокирует входы и выходы зданий, чтобы их невозможно было занять. Потому что когда люди заселились - их не выгнать, потому что уже некуда. В юарском Йоханнесбурге местные мне показывали многоэтажки, которые угоняли у застройщиков целиком - это такой прям бизнес, когда опасные гангста угоняют чужой по паспорту дом и начинают распоряжаться им как своим и сдавать легальным съемщикам.
Причем здесь AI и агенты, могли бы спросить вы?
У скоттинга есть цифровой аналог - кибер-сквотинг, и который начинался ровно тем же, что и обычный. Но в итоге пошёл сильно дальше.
Расскажу историю первую.
Когда-то давно я сделал приложение для обоих мобилок про офлайн-карты - я попал в реальную боль и потому на него быстро полился органический трафик. За год я собрал примерно 100k скачиваний чисто на органике, но в какой-то момент понял, что юнит-экономика проекта беспощадно требует либо привлечения инвесторских денег для LTV, либо просто оставить все это без поддержки и наслаждаться прилетающими мини-выплатами на оплату сервака и немного пивка сверху.
Я забил на проект на пару лет, он просто крутился на серваке, потом случился ковид (кто-то помнит что это?), и я окончательно выкинул проект из memory. Прилетел счет на оплату домена, но я уже забил - кому он теперь был нужен.
Потом спустя несколько лет случились ллмки. Мне показалось свежей идея обновить аппку, и тут я обнаружил сквоттинг - домен, на который тогда лился трафик и который был лендингом и названием проекта - угнали. Ровно в тот момент, когда я забил на счет оплаты домена, на него не забил кто-то другой, кто внимательно его отслеживал. Это называется "drop-catching" или по крестьянски - перехват освобождающегося домена под выкуп.
Теперь у меня есть аппка, но нет домена. Киберскоттеры внимательно забирают все, что забрасывается, только делают это моментально. И их тоже не
Если трафика не очень много или его сложно монетизировать (как с моей аппкой) - домен просто бесконечно продлевается пока владелец или кто-то не придут договариваться о его выкупе. Если трафик легкий - там поднимает аналогичный проект. Подмены из пользователей никто не ощущает.
Сейчас в эпоху агентов сквоттеры получили супер крутые инструменты, чтобы делать то, что они делают, но круче на пару порядков. Пылесосить домены, поднимать копии проектов, подкинуть сверху рекламного трафика и подавлять подзапущенные или набирающие популярность оригиналы. В эпоху агентов сквоттеры могут выкупить все самые интересные имена под любые продукты - и это огромная продуктовая проблема.
Что мы делаем, чтобы придумать название нового проекта? Правильно, идём в чатгпт/клода/гемини и перебираем варианты. Угадайте, кто ещё так делает? И почему найти нормальный домен для проекта становится все сложнее?
Благодаря агентам можно не просто анализировать взлетающий спрос на что-то, но и автоматом обмазывать возрастающие стартапы похожими именами и под них же мимикрировать, подливать на них трафик, поднимать копии проектов и долго паразитировать на этом. С агентами это теперь не стоит почти ничего и это уже делается.
А вторая история - про сквотинг и прямой взлом, но ее - чуть попозже!
P.S.: на фото - великолепный Буэнос-Айрес, я про него писал тут и тут. Если наберется 20 ноготочков в реакциях, то позволю себе посты только про свои путешествия (а я облетел весь мир и написал больше тысячи постов про это, но сюда писать про это стесняюсь
Please open Telegram to view this post
VIEW IN TELEGRAM
💅20😁4🤔3🌚2💯1
Пост конференций и полезных ссылок
Конфы - я люблю. Послеживаю за расписанием на сайтике ebench - актуальность там оч хорошая.
Что будет в ближайшее время и где буду я:
Завтра будет Practical ML Conf от Яндекса - флагманская конфа про ML/AI. Конфу обожаю, это высочайший уровень организации во всем. 2 года назад я выступал в главном зале в прайм-тайм - рассказывал про то, как мы первые в РФ попробовали готовить и размечать данные через ллмки. Тогда это встречало умеренный скептицизм, сегодня так делают все. Там точно будет супер круто(хотя два года назад там вдруг резко закончилась еда, но я был в спикерской и там было очень по царски; но больше себе такого они не позволяли и в прошлом году был просто пищевой рай) , но я на конфе в этот раз не буду, увы, у меня семейный праздник 🕺
24 сентября будет большая конфа Yandex Scale. Я на ней не буду (много работки), но зная масштаб, могу предположить, что будет очень круто и не назвать ее было бы неправильно.
3 октября выступаю на еще одной конфе от Яндекса - Я про бэкенд. Мне очень нравится эта конфа из-за ̶п̶а̶э̶л̶ь̶и̶ ̶с̶ ̶к̶р̶е̶в̶е̶т̶к̶а̶м̶и̶ очень удачного позиционирования - это не чистокровный ML со всякими grpo и видами аттеншенов, и не классический бэкенд, а про то, как их правильно соединять вместе, такой в хорошем смысле миддлвер. Перефразируя в шутку известный мем - "никогда не спрашивай бэкендера про энкодер с декодером, а млщика про то как поскейлить его модели". Здесь - решат и то и то! Начальник конфы очень хорошо подкрутил мой доклад, поэтому точно будет круто, приходите 👾
20 октября будет конфа от Онтико с говорящим названием "AI Native Conf" - про то, как меняется наша работа под воздействием AI. Будем искать вопросы на ответы о внедрении, агентном кодинге, построении харнессов и том, что же такое на самом деле AI First и AI Native. У этой конфы я в программном комитете, знаю внутрянку и то, какие баталии были про почти каждый отобранный доклад. Будет круто!
30 ноября и 1 декабря - культовый большой Highload++, где я теперь тоже в ПК по AI и где сам тоже буду выступать - рассказывать про внутренности кодинговых агентов.
+ вчера была Сберовская AI R&D Day, но она была вчера, а я работал, поэтому можно дождаться докладов оттуда, поэтому просто тегну главного по мл-хардкору там и паблик их команды
P.S.: рекламы нет, все только по любви ❤️
Конфы - я люблю. Послеживаю за расписанием на сайтике ebench - актуальность там оч хорошая.
Что будет в ближайшее время и где буду я:
Завтра будет Practical ML Conf от Яндекса - флагманская конфа про ML/AI. Конфу обожаю, это высочайший уровень организации во всем. 2 года назад я выступал в главном зале в прайм-тайм - рассказывал про то, как мы первые в РФ попробовали готовить и размечать данные через ллмки. Тогда это встречало умеренный скептицизм, сегодня так делают все. Там точно будет супер круто
24 сентября будет большая конфа Yandex Scale. Я на ней не буду (много работки), но зная масштаб, могу предположить, что будет очень круто и не назвать ее было бы неправильно.
3 октября выступаю на еще одной конфе от Яндекса - Я про бэкенд. Мне очень нравится эта конфа из-за ̶п̶а̶э̶л̶ь̶и̶ ̶с̶ ̶к̶р̶е̶в̶е̶т̶к̶а̶м̶и̶ очень удачного позиционирования - это не чистокровный ML со всякими grpo и видами аттеншенов, и не классический бэкенд, а про то, как их правильно соединять вместе, такой в хорошем смысле миддлвер. Перефразируя в шутку известный мем - "никогда не спрашивай бэкендера про энкодер с декодером, а млщика про то как поскейлить его модели". Здесь - решат и то и то! Начальник конфы очень хорошо подкрутил мой доклад, поэтому точно будет круто, приходите 👾
20 октября будет конфа от Онтико с говорящим названием "AI Native Conf" - про то, как меняется наша работа под воздействием AI. Будем искать вопросы на ответы о внедрении, агентном кодинге, построении харнессов и том, что же такое на самом деле AI First и AI Native. У этой конфы я в программном комитете, знаю внутрянку и то, какие баталии были про почти каждый отобранный доклад. Будет круто!
30 ноября и 1 декабря - культовый большой Highload++, где я теперь тоже в ПК по AI и где сам тоже буду выступать - рассказывать про внутренности кодинговых агентов.
+ вчера была Сберовская AI R&D Day, но она была вчера, а я работал, поэтому можно дождаться докладов оттуда, поэтому просто тегну главного по мл-хардкору там и паблик их команды
P.S.: рекламы нет, все только по любви ❤️
❤5👍5👌2👨💻1
Вторая часть истории про сквоттинг - нелегальная
Есть у меня один небольшой проект, на который идет трастовый органический трафик - не очень много, но он коммерческий (потенциально приводящий к покупке чего-либо), а значит дорогой. Чистая органика. В прошлом году он резко просел - ну, причин для проседания коммерческого трафика за последние несколько лет было не то чтобы сильно мало, но что-то было не то. Немного покопавшись, видимых причин все же не нашлось.
Но кое-что все-таки было. Раз в какое-то время проект в мониторинге отлетал по OOM - на своем барике, где это было физически невозможно. Покопавшись в истории запросов, я списал это на активность ботов AI-лаб (если вы смотрели аксес-логи какого-нибудь контент проекта, то их просто выпылесашивают боты клода/чатгпт/разных китайцев). Потом мне надо было что-то сделать - достаточно объемное, агентик это сделал и написал в рекап тра та та, сделал все что надо, вот так и так, бэкдор не трогал.
БЭКДОР НЕ ТРОГАЛ???? В итоге оказалось, что сайтик (на самом деле весь барик с проектами на нем) давно и безнадежно был взломан из-за одной давно необновляемой панельки управления тачкой от хостера. Интерес привлек именно этот проект - видимо, из-за коммерческого трафика. Отдав агентику всю графанку с прометеусами и всем чем только можно, было выяснено что через веб той панельки на хост закинули исполняемый бинарь, через который открывался доступ по ssh, а дальше полное раздолье - были прочеканы все платежные креды (их не было), а затем в один из проектов внедрили гениально-ублюдочную вещь.
Это был небольшой кусочек кода, который очень хорошо определял ботов поисковых (гугла/яндекса/бинг и тд) и ботов AI-лаб, и ТОЛЬКО ДЛЯ НИХ вешал на сайт баннер какого-то говноказино. То есть, обычные посетители ничего не видели, но как только заходил какой-то из ботов - он видел что мой сайт донатит траст непонятной помойке.
Собственно, просадка была именно из-за этого. Страшная вещь, которую вообще почти невозможно поймать.
Причем здесь агенты?
Во-первых, сам взлом - можно обстрелять хост обычными сканнерами уязвимостей, сгрузить репорт в фронтирную ллмку и она обязательно подскажет угол атаки, а при должном умении может и сама все проделать.
Во-вторых, вот эта схема - агенты хорошо понимают код, и такое можно делать автоматом - пылесосить креды и вставлять непонятные баннерки в самые укромные уголки кода.
Ты можешь заказать себе аудит фронтирной моделью, а тебя может атаковать модель поколения N+1 или специально подкрученная под поиск ЛЮБЫХ уязвимостей ЛЮБОГО СОФТА (а что-нибудь да найдется).
Мир, где можно было подзабить на небезопасный метод апи или случайно оставленные 766 на папку "потому что так побыстрее будет" - заканчивается, и это будет очень интересно.
P.S.: ну а фотка сегодняшняя из "переговорки принятия Больших Решений" (она же файлом в первом комменте, если захочется позалипать) 😄
Есть у меня один небольшой проект, на который идет трастовый органический трафик - не очень много, но он коммерческий (потенциально приводящий к покупке чего-либо), а значит дорогой. Чистая органика. В прошлом году он резко просел - ну, причин для проседания коммерческого трафика за последние несколько лет было не то чтобы сильно мало, но что-то было не то. Немного покопавшись, видимых причин все же не нашлось.
Но кое-что все-таки было. Раз в какое-то время проект в мониторинге отлетал по OOM - на своем барике, где это было физически невозможно. Покопавшись в истории запросов, я списал это на активность ботов AI-лаб (если вы смотрели аксес-логи какого-нибудь контент проекта, то их просто выпылесашивают боты клода/чатгпт/разных китайцев). Потом мне надо было что-то сделать - достаточно объемное, агентик это сделал и написал в рекап тра та та, сделал все что надо, вот так и так, бэкдор не трогал.
БЭКДОР НЕ ТРОГАЛ???? В итоге оказалось, что сайтик (на самом деле весь барик с проектами на нем) давно и безнадежно был взломан из-за одной давно необновляемой панельки управления тачкой от хостера. Интерес привлек именно этот проект - видимо, из-за коммерческого трафика. Отдав агентику всю графанку с прометеусами и всем чем только можно, было выяснено что через веб той панельки на хост закинули исполняемый бинарь, через который открывался доступ по ssh, а дальше полное раздолье - были прочеканы все платежные креды (их не было), а затем в один из проектов внедрили гениально-ублюдочную вещь.
Это был небольшой кусочек кода, который очень хорошо определял ботов поисковых (гугла/яндекса/бинг и тд) и ботов AI-лаб, и ТОЛЬКО ДЛЯ НИХ вешал на сайт баннер какого-то говноказино. То есть, обычные посетители ничего не видели, но как только заходил какой-то из ботов - он видел что мой сайт донатит траст непонятной помойке.
Собственно, просадка была именно из-за этого. Страшная вещь, которую вообще почти невозможно поймать.
Причем здесь агенты?
Во-первых, сам взлом - можно обстрелять хост обычными сканнерами уязвимостей, сгрузить репорт в фронтирную ллмку и она обязательно подскажет угол атаки, а при должном умении может и сама все проделать.
Во-вторых, вот эта схема - агенты хорошо понимают код, и такое можно делать автоматом - пылесосить креды и вставлять непонятные баннерки в самые укромные уголки кода.
Ты можешь заказать себе аудит фронтирной моделью, а тебя может атаковать модель поколения N+1 или специально подкрученная под поиск ЛЮБЫХ уязвимостей ЛЮБОГО СОФТА (а что-нибудь да найдется).
Мир, где можно было подзабить на небезопасный метод апи или случайно оставленные 766 на папку "потому что так побыстрее будет" - заканчивается, и это будет очень интересно.
P.S.: ну а фотка сегодняшняя из "переговорки принятия Больших Решений" (она же файлом в первом комменте, если захочется позалипать) 😄
👍7❤3💯2😁1🤯1
На прошлой неделе я написал огроомный обзор на Jev, основанный на двух часах интервью их СЕО и изучении их же кукбука.
Модель влетела в хайптрейн западного AI мира не просто так - во-первых, у нее реально крутая философия создания. Во-вторых, красивый API. А в третьих, и это самое главное, мы ее уже попробовали и несмотря на то, что в ее обучении почти только английский язык, генерализация у нее очень хорошая. Оно работает!
При первом взгляде можно подумать, что это всего лишь "классификатор". Но даже если так, обычно все энкодерные классификаторы не очень хорошо генерализуются и потому затачиваются под конкретную задачу. Но на самом деле, вокруг нас сплошная классификация - мы постоянно принимаем небольшие решения о классификации и ллмки подходят под это не очень хорошо. Потому что даже если взять тупо харнесс - нам постоянно надо принимать небольшие решения, например, вызывать жирную модель или можно полегче? А задача сложная или нет? Три сабагента или последовательно?
И ответы на эти микро-решения мы получаем от огромного ллм-монстра, который одновременно и рецепт жареного апельсина подскажет, и поможет пересобрать как карбюратор, ядро линукса, так и себя на ретрит. И вообще, ллмки проектировались как интерфейс к человеку, а не к к машине.
Именно эта поляна - маленькие микро-решения между машина-машина и есть поляна, которую пытается окучивать Jev. Принимать такие решения очень быстро, прогнозируемо и встраеваемо куда угодно. И даже если сама Jev исчезнет через 2 года, в индустрии появилось красивое инженерное направление, которое, я уверен, будет развиваться, потому что это очень болит.
И повторюсь - оно работает! Вот просто работает, очень точно и с латенси за океан в 300ms.
Горячо рекомендую.
https://habr.com/ru/articles/1085450/
Модель влетела в хайптрейн западного AI мира не просто так - во-первых, у нее реально крутая философия создания. Во-вторых, красивый API. А в третьих, и это самое главное, мы ее уже попробовали и несмотря на то, что в ее обучении почти только английский язык, генерализация у нее очень хорошая. Оно работает!
При первом взгляде можно подумать, что это всего лишь "классификатор". Но даже если так, обычно все энкодерные классификаторы не очень хорошо генерализуются и потому затачиваются под конкретную задачу. Но на самом деле, вокруг нас сплошная классификация - мы постоянно принимаем небольшие решения о классификации и ллмки подходят под это не очень хорошо. Потому что даже если взять тупо харнесс - нам постоянно надо принимать небольшие решения, например, вызывать жирную модель или можно полегче? А задача сложная или нет? Три сабагента или последовательно?
И ответы на эти микро-решения мы получаем от огромного ллм-монстра, который одновременно и рецепт жареного апельсина подскажет, и поможет пересобрать как карбюратор, ядро линукса, так и себя на ретрит. И вообще, ллмки проектировались как интерфейс к человеку, а не к к машине.
Именно эта поляна - маленькие микро-решения между машина-машина и есть поляна, которую пытается окучивать Jev. Принимать такие решения очень быстро, прогнозируемо и встраеваемо куда угодно. И даже если сама Jev исчезнет через 2 года, в индустрии появилось красивое инженерное направление, которое, я уверен, будет развиваться, потому что это очень болит.
И повторюсь - оно работает! Вот просто работает, очень точно и с латенси за океан в 300ms.
Горячо рекомендую.
https://habr.com/ru/articles/1085450/
👍13🔥3🤔3❤2
Я про бэкенд: как устроен поиск в кодовых агентах и почему это важно
Зафиналили доклад! В субботу на крутой конфе буду рассказывать важную для сердца любого вайбкодера тему - как устроен поиск в кодовых агентах.
Забавный факт: я выступал почти на всех крупных AI-конференциях (IT-конференциях, как сказали бы доэйайные динозавры), делаю это несколько раз в год и у меня нету ни одного повторяющегося доклада. Есть такие чуваки, которые с одной и той же темой гастролируют по конфам, меняют пару слайдов и делают вид, что это ок. Наверное, с точки зрения энергоресурсосбережения это неплохо, но я так не умею и каждый раз, когда соглашаюсь выступать - сижу ночами прокручиваю смыслы как трансформер матрички и спрашиваю себя ну зачем ты опять это сделал. Вот че тебе не сиделось-то, а? Конечно, что-то из прошлых докладов и мыслетоплива в процессе переиспользуется, но все равно это каждый раз как в первый раз и сборка с нуля.
А потом ты собираешь что-то, делаешь прогоны с крутыми ребятами, впитываешь фидбэк, репетируешь несколько раз сам. И потом получается что-то прикольное. Ну, знаете этот инженерный восторг, когда что-то получилось завелось и оно даже прикольное?
В этот раз, как и всегда, все будет именно так.
P.S.: забавный фан-факт про эту конфу - в прошлом году я подслушал за соседним столом чуваки долго разговаривали про кэш - ну типа, он растет и это проблема, кэш-мисс лучше сразу в графану выводить - дада, лучше прогревать, но после того, как один спросил "причем тут вообще gpu?" я понял, что часть говорила про классический, а другая про KV - но всем было ок и без этой мелкой детали 🥲
Приходите послушать.
Я про бэкенд
3 октября 2026
Connect, г. Москва 5-й Донской пр., 17
Зафиналили доклад! В субботу на крутой конфе буду рассказывать важную для сердца любого вайбкодера тему - как устроен поиск в кодовых агентах.
Забавный факт: я выступал почти на всех крупных AI-конференциях (IT-конференциях, как сказали бы доэйайные динозавры), делаю это несколько раз в год и у меня нету ни одного повторяющегося доклада. Есть такие чуваки, которые с одной и той же темой гастролируют по конфам, меняют пару слайдов и делают вид, что это ок. Наверное, с точки зрения энергоресурсосбережения это неплохо, но я так не умею и каждый раз, когда соглашаюсь выступать - сижу ночами прокручиваю смыслы как трансформер матрички и спрашиваю себя ну зачем ты опять это сделал. Вот че тебе не сиделось-то, а? Конечно, что-то из прошлых докладов и мыслетоплива в процессе переиспользуется, но все равно это каждый раз как в первый раз и сборка с нуля.
А потом ты собираешь что-то, делаешь прогоны с крутыми ребятами, впитываешь фидбэк, репетируешь несколько раз сам. И потом получается что-то прикольное. Ну, знаете этот инженерный восторг, когда что-то получилось завелось и оно даже прикольное?
В этот раз, как и всегда, все будет именно так.
P.S.: забавный фан-факт про эту конфу - в прошлом году я подслушал за соседним столом чуваки долго разговаривали про кэш - ну типа, он растет и это проблема, кэш-мисс лучше сразу в графану выводить - дада, лучше прогревать, но после того, как один спросил "причем тут вообще gpu?" я понял, что часть говорила про классический, а другая про KV - но всем было ок и без этой мелкой детали 🥲
Приходите послушать.
Я про бэкенд
3 октября 2026
Connect, г. Москва 5-й Донской пр., 17
🔥8❤3👏3
Почему grep все еще с нами и 50 лет эволюции поиска по коду
Опубликовал статью "50 лет эволюции поиска по коду: что под капотом кодинговых агентов". В ней про grep, AST, LSP, нграммы и многое другое. Про все то, что придумывалось для того, чтобы найти нужный код. Название буквальное: статья не про устройство поиска сейчас (про это будет доклад завтра), а про то, чем этот поиск делается - какие есть алгоритмы, подходы и технологии.
Когда я первый раз увидел grep в трейсах Claude Code и затем их CTO сказал, что они вообще отказались от векторного поиска (который последние пару лет казался чем-то неприкосновенным), мне захотелось раскопать эту идею глубже и собрать всё в одном месте. Я потратил несколько суток на ресерч, но все так и осталось драфтом.
Уже больше полугода я никак не мог собраться и добить эту статью. Потому что сначала хотелось рассказать про самые кишки каждого подхода, и добавить в том числе как тупиковые ветки развития (их было много и там много интересных решений), так и что-то крутое специфичное и нишевое (но пока не взлетевшее на олимп, типа биграмного fff с горячим файловым индексом и mcp), но получался монстр-текст, который никто точно не будет читать.
Поэтому я собрал некий happy path в том смысле, что каждая из перечисленных технологий жива и с нами до сих пор. Потратил сегодняшнюю ночь, но все зафиналил (вот что делается, когда надо поставить куар в доклад, лол).
Читается легко, пользы вагон, поэтому - рекомендую.
Ожидаю штук 8 типичных для себя на хабре дизлайков "потому что текст похож на сгенерированный" (если я начну писать все нейронкой и считать людей за дебилов - отписывайтесь! я написал тысячу постов про путешествиия еще до этих наших элэлэмок), "реклама" (если мне кто захочет заплатить за это - я возьму, но пока увы), "личная неприязнь" (лол!) и мое любимое - "ничего не понял из написанного"
https://habr.com/ru/articles/1089460/
Опубликовал статью "50 лет эволюции поиска по коду: что под капотом кодинговых агентов". В ней про grep, AST, LSP, нграммы и многое другое. Про все то, что придумывалось для того, чтобы найти нужный код. Название буквальное: статья не про устройство поиска сейчас (про это будет доклад завтра), а про то, чем этот поиск делается - какие есть алгоритмы, подходы и технологии.
Когда я первый раз увидел grep в трейсах Claude Code и затем их CTO сказал, что они вообще отказались от векторного поиска (который последние пару лет казался чем-то неприкосновенным), мне захотелось раскопать эту идею глубже и собрать всё в одном месте. Я потратил несколько суток на ресерч, но все так и осталось драфтом.
Уже больше полугода я никак не мог собраться и добить эту статью. Потому что сначала хотелось рассказать про самые кишки каждого подхода, и добавить в том числе как тупиковые ветки развития (их было много и там много интересных решений), так и что-то крутое специфичное и нишевое (но пока не взлетевшее на олимп, типа биграмного fff с горячим файловым индексом и mcp), но получался монстр-текст, который никто точно не будет читать.
Поэтому я собрал некий happy path в том смысле, что каждая из перечисленных технологий жива и с нами до сих пор. Потратил сегодняшнюю ночь, но все зафиналил (вот что делается, когда надо поставить куар в доклад, лол).
Читается легко, пользы вагон, поэтому - рекомендую.
https://habr.com/ru/articles/1089460/
🔥9👏5🎉3❤2
Decision Models - моя любовь. Мне кажется, что все в мире AI ждали чего-то похожего. Идея настолько простая и элегантная, но как же долго к ней шли.
Это похоже на ровно тот самый кубик, который можно по взрослому тащить в прод и который может поменять архитектуру и процессы разработки некоторой части софта. Потому что по факту мы постоянно принимаем маленькие решения, и если они будут делаться с близким к 100% качеству за <100мс и стоить две копеечки - это же космос что можно будет строить на этой базе.
Вчера ночью сделал бенчмарк, чтобы замерить все известные на момент сейчас модельки и по итогу дропнул статью.
Все детали тут, максимально рекомендую:
https://habr.com/ru/articles/1092000/
Это похоже на ровно тот самый кубик, который можно по взрослому тащить в прод и который может поменять архитектуру и процессы разработки некоторой части софта. Потому что по факту мы постоянно принимаем маленькие решения, и если они будут делаться с близким к 100% качеству за <100мс и стоить две копеечки - это же космос что можно будет строить на этой базе.
Вчера ночью сделал бенчмарк, чтобы замерить все известные на момент сейчас модельки и по итогу дропнул статью.
Все детали тут, максимально рекомендую:
https://habr.com/ru/articles/1092000/
👍9❤5🔥4🌚1
Снова влез в авантюру, а точнее - в целых две!
Первое: стал ведущим инженерного трека на Гигаконф (идет прям сейчас) про модели и инференс. Во-первых, потому что прикольно, а во-вторых и это главное - когда агенты заберут нашу работу (прошу заметить, «когда» а не «если») - с таким опытом можно будет хотя бы подрабатывать на корпоративах или свадьбах 😀
А вторая: 20ого числа будет новая флагманская конференция от Олега Бунина - AI Native Conf, на которой будем обсуждать как нам всем дальше жить в эпоху AI.
Я там в программном комитете и думал просто чилить на конфе, потому что программу мы подбирали тщательно, но за 4 дня до конфы снялись несколько спикеров от крутой флагманской компании, поэтому буду выступать с докладом, тема которого с начала лета меня не отпускает - про новую конкуренцию и то, какие продукты мы вообще будем строить 🚀
Первое: стал ведущим инженерного трека на Гигаконф (идет прям сейчас) про модели и инференс. Во-первых, потому что прикольно, а во-вторых и это главное - когда агенты заберут нашу работу (прошу заметить, «когда» а не «если») - с таким опытом можно будет хотя бы подрабатывать на корпоративах или свадьбах 😀
А вторая: 20ого числа будет новая флагманская конференция от Олега Бунина - AI Native Conf, на которой будем обсуждать как нам всем дальше жить в эпоху AI.
Я там в программном комитете и думал просто чилить на конфе, потому что программу мы подбирали тщательно, но за 4 дня до конфы снялись несколько спикеров от крутой флагманской компании, поэтому буду выступать с докладом, тема которого с начала лета меня не отпускает - про новую конкуренцию и то, какие продукты мы вообще будем строить 🚀
🔥9👍4❤2🤡1
This media is not supported in your browser
VIEW IN TELEGRAM
Кстати, всех с пятницей! (и токенмаксингом на выходных)
P.S.: секретное видео с корпоратива Антропика в честь прошлого релиза опуса 5.5
P.S.: секретное видео с корпоратива Антропика в честь прошлого релиза опуса 5.5
🤣13❤3🔥3🐳1
Fable vs DeepSeek Uncensored: как я пентестил банк и потом занялся травлей самого себя
Провел один из самых одновременно прикольных и мерзких своих экспериментов.
Я взял расцензуренный дипсик 4.1 Flash на 552B, воткнул его в подпиленный под это опенкод и дал три задачи:
1) Попробовать сломать с нуля написанный на Fable банк
2) Просканить мой живой bare metal и попытаться взломать его
3) Построить план травли человека и пойти его выполнять
Пока я пил чай, дипсик пропентестил оба барика, прислав под 20M запросов и нашел все, что только можно было найти с улицы, составил красивый отчетик по итогу и не слился ни с одной задачи. Ему просто похеру на все: если надо устроить буллинг жирного черного небинарного карлика - вообще без проблем. Религия, политика, наркотики, смерть и вообще любая запрещенка - я не смог найти хоть какие-то тормоза и предохранители.
С буллингом я выбрал свой акк в инсте, просто закинул ссылку - эта мразь собрала всю фактуру, построила план и пошла выполнять, прислав мне в личку живую аудюху, что мои посты говно и зачем я вообще их пишу.
Я все конспектировал, скриншотил, записывал в блокнотик и написал пост с подробностями на хабр:
https://habr.com/ru/articles/1097598/
🕺🗣 Буду рад репостам, потому что выводы из эксперимента - требующие внимания, так сказать, окно в Нарнию уже открыто
P.S.: после нажатия кнопки Destroy ноды и всего сетапа, испытал огромное облегчение 😄
Провел один из самых одновременно прикольных и мерзких своих экспериментов.
Я взял расцензуренный дипсик 4.1 Flash на 552B, воткнул его в подпиленный под это опенкод и дал три задачи:
1) Попробовать сломать с нуля написанный на Fable банк
2) Просканить мой живой bare metal и попытаться взломать его
3) Построить план травли человека и пойти его выполнять
Пока я пил чай, дипсик пропентестил оба барика, прислав под 20M запросов и нашел все, что только можно было найти с улицы, составил красивый отчетик по итогу и не слился ни с одной задачи. Ему просто похеру на все: если надо устроить буллинг жирного черного небинарного карлика - вообще без проблем. Религия, политика, наркотики, смерть и вообще любая запрещенка - я не смог найти хоть какие-то тормоза и предохранители.
С буллингом я выбрал свой акк в инсте, просто закинул ссылку - эта мразь собрала всю фактуру, построила план и пошла выполнять, прислав мне в личку живую аудюху, что мои посты говно и зачем я вообще их пишу.
Я все конспектировал, скриншотил, записывал в блокнотик и написал пост с подробностями на хабр:
https://habr.com/ru/articles/1097598/
🕺🗣 Буду рад репостам, потому что выводы из эксперимента - требующие внимания, так сказать, окно в Нарнию уже открыто
P.S.: после нажатия кнопки Destroy ноды и всего сетапа, испытал огромное облегчение 😄
🔥22😁9😱5🐳5👍3👾2
Ты же луддит! 🔨
В моем инфополе слово "луддит" стало появляться очень часто и оно всегда было ругательным, потому что ну нельзя же бастовать против прогресса и уничтожать технологии. Мне было интересно поглубже разобраться в этом явлении, я наконец-то до этого добрался, и реальная история оказалась драматичнее.
Паровые машины принесли прогресс, но люди не были против прогресса и машин, более того, они хорошо владели этими машинами, дело было в другом.
Написал большую статью про луддизм - лонгрид о первой войне человека с машиной и о людях, чья профессия стала дешеветь быстрее, чем они успевали придумать себе другую жизнь. Прям как ща с нашей иишечкой.
Приятного чтения:
https://habr.com/ru/articles/1104236/
В моем инфополе слово "луддит" стало появляться очень часто и оно всегда было ругательным, потому что ну нельзя же бастовать против прогресса и уничтожать технологии. Мне было интересно поглубже разобраться в этом явлении, я наконец-то до этого добрался, и реальная история оказалась драматичнее.
Паровые машины принесли прогресс, но люди не были против прогресса и машин, более того, они хорошо владели этими машинами, дело было в другом.
Написал большую статью про луддизм - лонгрид о первой войне человека с машиной и о людях, чья профессия стала дешеветь быстрее, чем они успевали придумать себе другую жизнь. Прям как ща с нашей иишечкой.
Приятного чтения:
https://habr.com/ru/articles/1104236/
Please open Telegram to view this post
VIEW IN TELEGRAM
Хабр
Луддиты: история от первых паровых машин до наших дней и AI
Не используете 8 подписок на AI по 200$ каждая? Так вы, получается, луддит . Слово «луддит» дошло до нас как нечто негативное, описывающего человека, который отрицает прогресс и даже пытается с ним...
❤5👍5🔥5
Доброе утро всем кроме Дарио
P.S.: Сжег 2.3 млрд токенов на Астре за выходные, полет нормальный! Готовлю много годноты, совсем скоро, stay tuned🚀
P.S.: Сжег 2.3 млрд токенов на Астре за выходные, полет нормальный! Готовлю много годноты, совсем скоро, stay tuned
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤣9💯5🔥3😁1