AI и грабли
13.8K subscribers
216 photos
25 videos
4 files
261 links
Строил HR продукты для американского бигтеха. Внедряю AI в бизнес, пишу про свои ошибки и находки

Моя студия: https://grably.tech
Наши с @max_about_ai конференции: https://entropy.talk

ЛС: @nikolay_sheyko
Download Telegram
Из новых не особо документированных изменений в codex агент теперь сам может ходить в соседние диалоги и даже писать в них.

↑ Это не про субагентов, это прям полноценные чаты


Пока не придумал, как это прям эффективно использовать, но знаю, что позиционируется как одна из фишек нового голосового режима – голосом можно управлять всеми своими текущими чатами

Кто уже пользуется, накидайте в комментах кейсы, пожалуйста
🔥33❤2👍2
Никто не делится факапами

Выступал недавно на оффлайн конфе в Омске. Организация и доклады по качеству лучше чем на многих столичных конфах

Но что меня бесит вообще на любой из них – это что обычно все рассказывают истории успеха, а они почти всегда бесполезны – их сложно переложить на реальность вашей конкретной компании и команды

А если слепо повторять все действия, то это будет просто карго культ как у аборигенов, которые пытались воссоздать самолеты белых пришельцев, повторяя их форму из деревяшек в надежде, что они тогда полетят

Поэтому, хоть это и менее комфортно, но я стараюсь факапами. На этой конфе рассказывал не про то, как круто мы все внедрили AI в SDLC наших клиентов, а где и как проебались и как это потом исправляли. И вот эти факапы точно будут релевантны для большинства людей

Записи всех докладов с конфы можно получить за 10к

Там есть еще несколько крутых:
- про поверхности атаки на агентные системы и способы защиты от них
- про сложности работы AI систем с русским языком от рисерчера с лингвистическим бэкграундом (мы с ней на афтерпати забрали чью-то гитару и развлекали народ песнями, хах)
- и про кастомный сетап для AI разработки от Кости Доронина


Но я подумал, что не все захотят платить за записи и предложил оргам по нашей прошлогодней схеме дать подписчикам бесплатный доступ за подписки на нескольких спикеров

Так что платно забирать тут, а бесплатно – в моем ботике
❤25🔥11👍7💯2💩1
Сижу в лобби отеля, за соседним столом сидят мужики, пьют беленькую, закусывают.
Спорят громко.

Прислушался.
«Петрович, да этих сеток тьма! Маленькие, большие! Для классификации какие хочешь! Можем у себя даже большие развернуть! Главное чтобы электричества хватило!»

Думаю: нифига себе адопшн у АИ!

Слушаю дальше: «Фракции…булыжники…тонны… золото…».

Понимаю что не адопшн, апрофдеформация.
😁52🤣17❤‍🔥1🥰1🥱1
Найм, соревы и бабки

Одна из самых важных задач реального мира – уметь различать людей, которые что-то реально из себя представляет и тех, кто только пытается такими казаться. Причем, важно и в отношениях, и в дружбе, и в работе

И особенно важно понимать, к какой категории относишься сам и как можешь это подтвердить

Что забавно – многие хорошие на первый взгляд "метрики", на самом деле почти не работают. Например, размер ЗП часто объясняется не реальными рабочими навыками, а разницей между компаниями, рынками и ролями (а иногдачасто еще и умением подлизать кому и когда нужно)

И очень редко есть честная возможность сравнить себя с другими в относительно равных условиях. Причем, она ценна еще и потому, что на такие сравнения всегда очень внимательно смотрят те, кто принимают решение о работе с вами. Не зря Ринат @llm_under_hood выставляет это как главную причину для участия в своих соревнованиях – тех, кто занял топовые места очень быстро хайрят на топовые позиции. Очень советую поучаствовать хотя бы раз, если вы AI инженер

Но я знаю, что у меня большой кусок аудитории – не разрабатывает AI решения, а использует AI-агентов для разработки классических продуктов. И для вас тоже есть подгон.

От своих друзей HFT-шников я услышал про соревы spectral.tech и докопался до организаторов по деталям. На мой взгляд, у них получился крутой формат – чем-то с одной стороны наводящий на мысли про вот этот эксперимент, где Cursor с Nvidia оптимизировали CUDA кернелы, а с другой – на autoresearch Карпаты

Базовая суть – разработать достаточно простую систему, но так, чтобы у нее была наименьшая задержка (причем не только в среднем, а еще и в худших случаях)

Из забавного:

Вместе с участниками эту же задачу будет решать Claude-агент. Его решение будет находиться в публичном репозитории, и вы сможете использовать его как baseline.


По итогу обещают ускоренный трек найма на AI native инженера (причем не только для призовых мест и без опыта в HFT). Использовать ИИ можно и нужно (имхо, задачка явно хотя бы частично на loop engineering)

Ну и призовой фонд $12к тоже приятно

Правда без знания C++, сетей и системного программирования его вряд ли получится получить – даже sota модели пока очень плохо сами с такими задачами справляются

⏰ Дедлайн сдачи решений – 30 августа, 23:59 GMT+3

Регистрация и доступ к GitLab с задачей – @spectral_challenge_bot

Бтв, если вы знаете еще хорошие соревнования для других областей – напишите, пожалуйста мне в личку
🔥17❤8🌚5🌭1
Один из самых секси кейсов с нашего марафона по агентам – создание рабочих веб аппок с бэкендом на гугл таблицах и деплоем в одну строку без гитхабов, докеров, vps

Ребятам, которые не хотят заморачиваться с техничкой – очень нравится. Большинство сразу нашли где это использовать в своей работе

Так вот, теперь не нужно использовать внешние сервисы – openai встроили такую штуку к себе в codex

Причем реализация очень крутая – все поверх легковесных Cloudflare Workers и их же R2 storage

P.s. в claude code такого нет, их Artifacts – это тупо static page на их же домене
🔥30❤10🤣7👍5🤡5🤔1💯1
This media is not supported in your browser
VIEW IN TELEGRAM
Вышел первый серьезный подкаст со мной

Получилось очень живо и плотно по темам. Обсуждали скиллы, безопасность и сложности внедрения в компании

Классно, что получилось обсудить много микро-деталей, которые обычно не влезают в тг посты. На чилловый просмотр под пиво/чай/прогулку – самое оно

00:01:47 - Бизнесу часто не нужен отдельный кастомный AI-продукт
00:16:56 - Люди не могут рассказать, как именно делают свою работу, а агенту, как и сотруднику, нужен онбординг
00:24:39 - Полностью автоматические системы регулярно проваливаются
00:36:43 - Доступ в терминал делает агента гибким, но усложняет контроль. Ценность смещается от производства результата к ответственности за него
00:47:08 - Корпоративная инерция и Shadow AI
01:01:40 - Слабые места моделей; Как быстрее всего учиться строить ИИ продукты
01:17:10 - Разрыв между лидерами и остальными. Внедрять ИИ важно не только из-за роста производительности в моменте

📱 Смотреть полную версию

Бтв, нарезку выше сделал агент с нуля, но с одним небольшим хаком, угадаете каким?
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥48❤20👍8🤡2
Разрушать систему

Недавно хайпанула волна постов, мол, раз в несколько месяцев надо полностью сносить все настройки агентов, удалять все скиллы. MCP и т.д. И пересобирать все заново. Типа, старые уже не работают и их нужно перестраивать с нуля на новых моделях

Звучит секси, но

а) 99% людей не будут этим заниматься, потому что нам всем и так есть чем заняться
б) Оказывается, что 80% того что ты переделал почти полностью повторяет то, что уже было (если до этого подходил с умом и вовремя обновлял)

Я процентов 20 своего времени трачу на эксперименты с разными подходами и инструментами, и только сейчас более-менее стал доволен тем, как оно работает и для технических задач, и для операционки. Причем, я уверен, что выстроенная система переживет еще несколько новых поколений моделей почти без изменений

Я собрал всё действительно важное в пошаговый роадмап по настройке и освоению ИИ-агентов на конец лета 2026 года

Во вторник 18.08 в 18:00 GMT+3 проведу бесплатный эфир с разбором

Еще на эфире расскажу кому и почему будет полезно поучаствовать в нашем платном марафоне, где мы за ручку проводим по этому роадмапу (доходимость на прошлом – 85%!). А кому – нет. Для таких постараюсь сделать эфир+роадмап полезными сами по себе

→ Записаться на бесплатный эфир 18 августа
🔥26🤡17❤8😁8👍1
MCP → CLI

Я только собирался написать, почему CLI сосут, и на что их заменять, как понял, что у меня даже нет поста, почему сосут MCP (от которых мы и ушли к CLI). Исправляю!

Сначала напомню в двух словах зачем эти ребята нам вообще нужны:

агент сам по себе мало что умеет в мире, где наши данные разбросаны по десяткам веб-приложений, начиная от почты и календаря, заканчивая транскрибаторами звонков, джирами и сервисами электронного документооборота


Нужно его к ним как-то коннектить.

И на заре агентных систем ребята придумали подсовывать ему новые инструменты как tools (то, что агент может вызывать в цикле перед тем как дать итоговый ответ). Назвали это MCP (model-context-protocol)

У стандарта MCP было много исторических болячек: невнятная аутентификация, загромождение контекста всеми методами всех mcp'шек, , отсутствие строгого следования схеме, stateful логика 🥴

Сейчас они по большей части вылечены. Но есть одна главная проблема – это все еще лишний слой абстракции поверх обычного API. То есть, вместо того, чтобы сразу дернуть API нашего условного гитхаба, обвязка агента (она выполняет роль MCP клиента) отправляет это в какой-то MCP сервер (в случае с гитхаб он удаленный, но может быть и локальным), а он уже отправляет это в API

Вместо этого, любой агент, у которого есть вызов терминала может либо просто написать скрипт, который будет обращаться к API напрямую, либо вызвать уже сто лет существующую cli-команду gh с нужными параметрами. Всё!

И вот какие у этого плюсы:

1. Жрет меньше токенов (потому что не verbose json)
2. Можно стакать вызовы команд в любой последовательности
3. Не обязательно засирать контекст модели всем выводом. Перенаправляем и фильтруем вывод терминальной команды как душе угодно
4. Обычно сильно больше комбинаций параметров
5. Если какой-то функции или параметра нет, агент все так же может написать кастомный скрипт, который сходит в API и сделает то, что нужно

Но надо признать, кое-где MCP все-таки нужны – когда у вас есть эфимерная сессия + нужна авторизация. Короче, во всех облачных чатах и коворках. CLI там не подходит по одной причине – авторизация происходит внутри сэндбокса и на каждый новый чат придется делать ее заново

Пример: gh отлично работает у вас на ноуте, но в ChatGPT Work вы задолбаетесь каждый раз проходить авторизацию, а вот GitHub MCP подключите один раз и он будет работать всегда

В разговорах слышал еще такие аргументы за MCP (но мне они не нравятся):

1. Проще раскатывать на команду и обновлять (хз, автообновление cli делается тривиально)
2. MCP сразу поддерживает инструкции, а про CLI тул агент еще должен как-то узнать (скиллы наш бро)
3.
В MCP есть функции, которых нет в API (это вообще извращение, не делайте так. но если пользуетесь чужим сервисом таким, то да, тут придется страдать)

А у вас в команде используют MCP? Почему?

(напоминаю, что скоро будет пост о том, почему CLI тоже не самый лучший выбор)

@ai_grably
🔥36👍21😁14❤12👏1🎉1🌚1💯1
CLI → SDK

Выше я писал про то, почему с MCP переходят на CLI (кроме некоторых ситуаций). Сегодня – про еще один переход, которы у меня случился пару недель назад

Рассмотрим на примере коннектора к тг

У меня самописный CLI тул, куда я понемногу добавляю разные функции. Сначала я его использовал просто для того, чтобы агент отправлял текстовые нотификашки ботиком в чат. Потом добавил туда поддержку медиа. Потом отправку в другие чаты. Потом – чтение предыдущих сообщений в любом чате и парсинг каналов (тут понадобилось перенести с урезанного Bot API на полноценный телеграмный MTProto)

И каждый раз когда я прошу сделать что-то, чего в моем CLI нет – агент идет его переписывать. Как результат – я по сути воссоздаю весь интерфейс библиотеки mtcute, но в виде CLI команды. Что уже как бы попахивает лишним слоем

Так еще и интерфейс текстовой команды сильно беднее чем интерфейс SDK – нет честной типизации, объектов и т.д.

Если я хочу сделать какое-то действие в цикле, или хитро обработать вывод, то агент все равно пишет bash-скрипт поверх CLI

Так что пару недель назад, я полностью выпиливаю CLI и просто прописываю агенту, как ему использовать SDK напрямую. То есть он пишет код под задачу и сразу его запускает. А если у меня есть какие-то повторяющиеся задачи – я оставляю их в виде импортируемых TS модулей.

Теперь агент может делать что угодно, что можно делать ботом в тг. Мне не нужно заранее продумывать сценарии и постоянно обновлять код. Он сам соберет его точно под задачу из исходных модулей библиотеки, либо моих скриптов.

Тут правда я натыкаюсь на пару проблем. Основная – это то, что агент постоянно пишет временные скрипты, что убивает всю легкость, которая была у запуска CLI команды раньше. Да, он может писать код inline прям в команде, но внешние библиотеки так не установятся

Решается это достаточно просто – нужен раннер с поддержкой autoinstall

Для TS – это bun/deno, а для python – uv


Тогда команда агента выглядит примерно так:

bun --install=force run - <<'TS'
import { Api } from 'grammy'
// используем Bot API либу вместо MTProto для простоты

const { botToken } = await Bun.file(`${process.env.HOME}/.tg-agent-bot/config.json`).json()

const api = new Api(botToken)
console.log('sent:', (await api.sendMessage(373021550, 'Привет через grammY')).message_id)
TS


Проблема номер два – где хранить всякие полезные данные. Например, известные id-шники с описанием или helper-скрипты. Тут все по классике как с CLI – создаем ~/.tg-agent-bot и храним там config.json и папку со скриптами. Там же и токен бота (либо в keychain системы)

Получается, из конфигурации skill+cli мы убираем cli и просто описываем все тонким скиллом. Агент сам пишет скрипт прям в момент вызова

———

Осторожно: нет смысла использовать эту штуку, когда у вас узкая задача. Ее имеет смысл завозить, если много кейсов использования и нужна гибкость. И особенно, если нужно как-то хитро обрабатывать вызовы, собирать из них цепочки и т.д.

Тема экспериментальная, пользуюсь ей несколько недель, мб чего-то не замечаю – интересно, что думаете
2🔥33👍19❤8🤯2✍1
Сколько нужно денег, чтобы было не нужно?

В этот раз меня позвали на совсем не типичную для меня конфу – про то, о чем почти не говорят на публике – личные бабки и стратегии выхода на пенсию (у меня её нет). Спикеры интересные, четырех я регулярно читаю

Я решил поиграть на эфире в бунтаря и рассказать, какой капитал важнее денег, как его растить и не продолбать

Когда: 3 сентября (ЧТ) в 18:00 мск
Стоимость: подписка на каналы спикеров

📱 Регистрация в боте по ссылке 

Кто будет на эфире кроме меня:

- Владислав Носковец (CEO CareerStation, автор канала «Твой ментор», помогает IT-менеджерам находить работу) Поделится своими источниками дохода и расскажет, почему не планирует выходить на привычную всем пенсию

- Иван Глушенков (внедряет ИИ в финансовые организации, закончил физтех, выиграл 18 хакатонов) Расскажет, как 5 лет жил с бюджетами по книге «The Richest Man in Babylon» и разбогател, а потом 5 лет прожил без бюджетов – и почему. Про 4 типа капитала, старость и финансовую безопасность на основе анализа успехов 250 человек ежегодно

- Глеб Кудрявцев (руководитель ИИ-лаборатории, ex-CPO Skyeng) Руководил более чем 200 людьми, а теперь пишет код и строит бизнес с ИИ. Расскажет, как рассчитывает дожить до сингулярности и жить при коммунизме

- Максим Романовский (Head of AI & Product Engineering) Расскажет, как ИИ помогает повышать финансовую грамотность, покажет свои примеры использования ИИ и какие задачи уже сейчас делегирует

- Таня Савельева (фаундер UplinkAI, 2 экзита, Forbes 30u30) Расскажет, почему не ведёт бюджет и вам не советует

- Катя Курашева (Founder & CEO R-Founders) Основатель глобального сообщества R-Founders для фаундеров и C-level. Поделится неожиданным выводом: почему у tech-предпринимателей личного капитала часто в разы меньше, чем у тех, кто строит физический бизнес

- Юлия Билинкис (основатель Strategicmove education) Расскажет, почему на старость нужно копить не капитал, а покупать будущие денежные потоки и уменьшать будущие обязательные расходы

→ Регистрация
Please open Telegram to view this post
VIEW IN TELEGRAM
1🔥15❤10🤡4💩3
AI и грабли
CLI → SDK Выше я писал про то, почему с MCP переходят на CLI (кроме некоторых ситуаций). Сегодня – про еще один переход, которы у меня случился пару недель назад Рассмотрим на примере коннектора к тг У меня самописный CLI тул, куда я понемногу добавляю…
Много скептицизма прилетело в комменты и даже мне в лс по посту про агентов, которые пишут код ad-hoc вместо использования готовых CLI

На самом деле очень рад – это значит, что подписчики вдумчиво читают посты и готовы делиться своим мнением. Ну и я так получаю перспективу, которую сам раньше не замечал, спасибо


А теперь еще один аргументом в сторону моей позиции, который вам может понравиться:

Понятно, что доверять какому-то экспериментальному подходу от Коли сложнее, чем официальному подходу от топовых ИИ-лаб. Так что просто посмотрите на встроенные скиллы того же кодекса. Подход, про который я пишу уже используется в большинстве из них:

Browser/Chrome – inline JS через Node REPL и browser-client
Computer Use – inline JS с @oai/sky
presentations
, spreadsheets — генерируют .mjs с @oai/artifact-tool
documents
 – код через python-docx (но: есть готовые CLI-хелперы)
pdf
 – Python с reportlab/pypdf/pdfplumber

Понятно, что не нужно все переводить на этот подход

Но вот скинуть агенту мой прошлый пост и спросить, какие из ваших скиллов могут выиграть от этого подхода так же как выигрывают скиллы кодекса из этого поста – может оказаться полезным упражнением
2❤16👍11🤯1
Недавно меня удивил один мой приятель: "Коля, а чем ты еще занимаешься, кроме курсов?"

В этот момент я пил чай и даже поперхнулся

Вообще, вся моя образовательная деятельность - это процентов 10-20 моей занятости, а с точки зрения денег - скорее благотворительная (не считая b2b воркшопов), учитывая, сколько денег и времени уходит на маркетинг

Деньги я зарабатываю тем, что с небольшой командой мы делаем разные сложные ИИ-автоматизации для бизнеса – от финансовой отчетности и агентов для авиации до авто-чаттеров онлифанс агентствам


Зачем тогда вообще делать какие-то курсы и портить себе репутацию инфоцыганством? Да хз на самом деле. Кажется, меня просто раздражает, как медленно происходит проникновение ИИ в русскоязычном обществе и хочется это хоть как-то компенсировать.

Знаете, что-то из серии: "да почему вы блин не понимаете, что это волшебная палочка"

На практике оказалось, что b2c курсы сейчас очень сложно продавать – и рынок эдтеха падает, и спецы часто видят скорее угрозу в ИИ, чем карьерный рост или возможности меньше времени заниматься нелюбимой частью работы, да и просто блин кризис и люди больше экономят. (Ну и я так себе инфоцыган, чего уж)

———

В общем, это будет последний такой широкий b2c поток. Дальше если что-то и будет b2c-шное, то только для руководителей и предпринимателей и только по предварительному отбору и сильно дороже

Для всех остальных сегодня еще можно запрыгнуть в последний вагон нашего марафона. В отличие от большинства курсов, он реально работает - до конца первого потока дошли 85% участников, что просто заоблачная цифра для любого онлайн обучения

Ну и люди, которые до этого пользовались ИИ как чатом (даже если делали это в клод коде) превратили его в своего личного ассистента, который почти не отличается по возможностям от того, что настроено у меня. В общем, получилось то, за что правда не стыдно.

- Начало 1 сентября
- Задачи по будням на 15-20 минут
- Задачи со звездочкой для тех, кто хочет упороться
- Вылет за несделанную домашку
- Вайбовый чатик
- Дошедшим до конца марафона – пак с топ-5 моих лучших отточенных скиллов


→ Узнать, подойдет ли марафон

Вот отзыв участницы нашего прошлого потока
😁22❤16🔥9👍3💩3💯3🗿3
Если вы давно в этом канале, то знаете, что я люблю делать диванные прогнозы на будущее. Один из новых прогнозов:

Скоро у openai появится агентная модель уровня sol+ с нативным audio инпутом как у gemini (ставлю на до конца года)


Что это будет значить для нас:

Для всех, кто работает с генераторами музыки, диалоговыми аудио ботами, монтажем подкастов и т.д. – это огромное подспорье.

Как нативное понимание image когда-то позволило сильно прокачать возможности агентов во фронтенде, дизайне и любом другом визуале – если агент "видит" результат работы, он сразу может найти косяки и исправить их. Тот самый feedback loop, где feedback – это сам результат работы

Так же будет и с аудио. Сейчас я работаю с локальными генераторами аудио и voice cloning, и этого прям жестко не хватает. Поэтому приходится использовать самодельную версию агента с модельками gemini по API. Из альтернатив есть Antigravity – они добавили это к себе буквально через пару недель после моего эксперимента, причем сразу и с поддержкой видео (это, кстати, единственная причина использовать Antigravity, которую я знаю)

Если кому интересно, на чем основывается предсказание про появление омни модельки от openai:

Примерно месяц назад я расковырял новый коммит в codex-cli, который добавляет audio как валидный тип результата для tool_calls (наравне с text и image). Так же они добавляют это в поддержку MCP. И даже в dynamic_tools (это тулы, которые можно инжектить в codex извне. Например, codex desktop, который под капотом запускает codex, инжектит туда тулы для управления встроенным браузером и соседними чатами.

Короче, раз поддержка добавлена в харнес, то и модели должны быть на подходе

Ваш диванный предсказатель, @ai_grably
🔥17❤12👍5🗿3
Видел недавно интересный тейк, мол, все только хвастаются как внедряют ИИ, но конкретных успешных кейсов никто не показывает. Да и вообще, большая часть ИИ пилотов в компаниях – провалилась

Ну во-первых, большая часть пилотов и должны проваливаться по определению – это проверка гипотез

А во-вторых, я вижу, что реально успешные внедрения идут не от разработки кастомного решения, а от правильного онбординга уже готовых универсальных агентов (codex/cc) внутри компаний

Даже своих клиентов я сейчас отговариваю от кастома – вместо этого мы стали настраивать им агентную инфру с управлением скиллами, трейсиноом сессий и управлением доступами

Но это для среднего и малого бизнеса. Про крупняк я очень скептично настроен. Но на конфе от Community Sprints ребята обещают кейсы успешных применений в нетехнических командах известных компаний. Ну, посмотрим

Участие бесплатное и без подписок на спикеров (🫢)

Я там тоже как-то затесался – покажу один из своих любимых кейсов:

Продуктовый/маркетинговый рисерч агентами по одному из самых богатых, но наименее индексируемых хранилищ информации – ютубу

Еще будут крутые ребята из известных компаний (круто, что и РФ и международка). Весьма no-bullshit состав, на мой взгляд - многих знаю лично

8-10 сентября со стартом в 18:00 по мск

Бесплатная регистрация и подробности по темам – у ребят на сайте
🔥26❤10🤣9👍6🤡3😁1
↑ Cейчас разбирал с Фейблом system card gpt-6-astra и чет опять такими вайбами ai-2027.com повеяло, ух

Полтора года назад, когда она жестко зафорсилась в ИИ пузыре, ее мало кто реально прочитал, зато много кто высмеивал в нереалистичности (classic).

В целом не удивительно – тогда более-менее в теме актуальных возможностей ИИ были единицы, да и то скорее аккуратные скептики. Да и английский в статье не самый простой. Если кто пропустил, но хочет прочитать – напоминаю, что я тогда выложил перевод на хабр. Даже обе концовски сделал – можно выбрать свою

Перевод, кстати, уже тогда был полностью сделан нейронкой (даже картинки), хотя и с кучей хаков, чтобы это было комфортно читать

Есть всё-таки что-то ироничное в том, что текст про опасности ИИ полностью переведен самим ИИ


Время чтения – пару часов, ощущения – бесценны

https://habr.com/ru/articles/898622
1❤28🔥13👍5💩1🤡1🤣1