О главном проекте в жизни
Мне кажется, на текущий момент, один из главных моих проектов — этот канал. Может прозвучать упрощенно, но я занимаюсь им дольше, чем вообще чем угодно в жизни. Зачем-то же я вкладываю в это время.
В разное время отношение к каналу было разным: сначала хотела заявить о себе и закрепиться в профессиональной среде. Потом использовала как источник контактов для нетворка, работы и найма. Пробовала монетизировать и даже успешно. Думала сделать что-то большое, на 100+ тысяч подписчиков.
Неизменной оставалась попытка писать правильно. И постоянный страх, что все отпишутся, если сделаю что-то не так. Хотя на самом деле, я понимаю, что вообще не хочу правильный канал. Хочу свой.
Мне нравится объединять здесь людей с похожими ценностями и интересами. И писать для себя, давая остальным возможность «подсмотреть» и поделиться своими взглядами. Это не про масштаб (ну и пофиг). Это про то, чтобы быть собой и находить людей, которым с такой мной будет кайфово. Проект не про цель, а про процесс, который нативно встраивается в жизнь. Вот такое прям очень нравится
#brilliantgirls
Мне кажется, на текущий момент, один из главных моих проектов — этот канал. Может прозвучать упрощенно, но я занимаюсь им дольше, чем вообще чем угодно в жизни. Зачем-то же я вкладываю в это время.
В разное время отношение к каналу было разным: сначала хотела заявить о себе и закрепиться в профессиональной среде. Потом использовала как источник контактов для нетворка, работы и найма. Пробовала монетизировать и даже успешно. Думала сделать что-то большое, на 100+ тысяч подписчиков.
Неизменной оставалась попытка писать правильно. И постоянный страх, что все отпишутся, если сделаю что-то не так. Хотя на самом деле, я понимаю, что вообще не хочу правильный канал. Хочу свой.
Мне нравится объединять здесь людей с похожими ценностями и интересами. И писать для себя, давая остальным возможность «подсмотреть» и поделиться своими взглядами. Это не про масштаб (ну и пофиг). Это про то, чтобы быть собой и находить людей, которым с такой мной будет кайфово. Проект не про цель, а про процесс, который нативно встраивается в жизнь. Вот такое прям очень нравится
#brilliantgirls
9❤263🦄35🤪18🔥15👏2
Закрыла гештальт
Я так давнооооо хотела собрать все материалы с курса Продукт и точка в нормальный вид, чтобы его можно было проходить самостоятельно… и наконец, сделала это!
Пока собирала, вспомнила, зачем мы занимались курсом целых 2 года. У нас получилась крутая база, чтобы разложить по полочкам дискавери процесс и навести порядок в своём продукте ИЛИ защитить идею нового продукта / направления. Перепроверить, не фигню ли мы делаем, определиться с фокусной проблемой и описать для неё вижн решения, посчитать экономику, проверить go-to-market стратегию.
Всё так красиво получилось, что мой внутренний перфекционист пищит от восторга. Сделала вводный рассказ, про что курс и как его проходить; к каждой теме прикрепила короткие видео, чек-лист, задание для кейса и пример решения с разбором, чтобы можно было себя проверить.
Шерю для вас открытую лекцию по дискавери новой инициативы от Саши Капустина (маст хев для продактов — всем своим давно скинула).
И общий чек-лист результатов дисквери (до сих пор сама использую, когда пишу стратегию новой инициативы).
Купить курс для самостоятельного прохождения можно. Вживую проводить больше не будем (устали 🥲), но материалы реально крутые. Если хотите выжать максимум, берите себе ментора (например, здесь), решайте кейс и разбирайте вместе с ним. Если готовы мотивировать себя самостоятельно, можно и без ментора — все разборы есть.
Купить тут: https://annapodobrazhnykh.com/proproducts
Я так давнооооо хотела собрать все материалы с курса Продукт и точка в нормальный вид, чтобы его можно было проходить самостоятельно… и наконец, сделала это!
Пока собирала, вспомнила, зачем мы занимались курсом целых 2 года. У нас получилась крутая база, чтобы разложить по полочкам дискавери процесс и навести порядок в своём продукте ИЛИ защитить идею нового продукта / направления. Перепроверить, не фигню ли мы делаем, определиться с фокусной проблемой и описать для неё вижн решения, посчитать экономику, проверить go-to-market стратегию.
Всё так красиво получилось, что мой внутренний перфекционист пищит от восторга. Сделала вводный рассказ, про что курс и как его проходить; к каждой теме прикрепила короткие видео, чек-лист, задание для кейса и пример решения с разбором, чтобы можно было себя проверить.
Шерю для вас открытую лекцию по дискавери новой инициативы от Саши Капустина (маст хев для продактов — всем своим давно скинула).
И общий чек-лист результатов дисквери (до сих пор сама использую, когда пишу стратегию новой инициативы).
Купить курс для самостоятельного прохождения можно. Вживую проводить больше не будем (устали 🥲), но материалы реально крутые. Если хотите выжать максимум, берите себе ментора (например, здесь), решайте кейс и разбирайте вместе с ним. Если готовы мотивировать себя самостоятельно, можно и без ментора — все разборы есть.
Купить тут: https://annapodobrazhnykh.com/proproducts
35❤60🔥17👏9🤪2🦄2😢1
Результаты исследования продактов подъехали: devcrowd.ru/pm25/
Мне, конечно, было интересно посмотреть, как продакты используют AI. Из отчета: ~50% продактов считают AI-инструменты частью своего рабочего инструментария.
Как по мне, в нашей работе ОЧЕНЬ много кейсов, которые можно ускорить с помощью LLM. И странно, что так много людей этого не делают. Для сравнения: проникновение гпт в детскую аудиторию ~60% — уж детей-то давайте догоним :)
Мне, конечно, было интересно посмотреть, как продакты используют AI. Из отчета: ~50% продактов считают AI-инструменты частью своего рабочего инструментария.
Как по мне, в нашей работе ОЧЕНЬ много кейсов, которые можно ускорить с помощью LLM. И странно, что так много людей этого не делают. Для сравнения: проникновение гпт в детскую аудиторию ~60% — уж детей-то давайте догоним :)
❤59😁45🦄11🤪5 4🔥1🤯1
Важное, на что я забиваю, и зря
«Есть вещи, которые для меня важны, но я почему-то ими не занимаюсь. Я ценю, когда мне о них напоминают — помогает не сбиваться с пути». Эту фразу мне сказал друг, а сегодня я решила поделиться с вами своими такими вещами. Возможно, когда-то кто-то из вас напомнит, или подкинет возможность, или я сама перечитаю и вспомню.
1. Нетворк. Я умею утаскивать и воплощать в жизнь чужие хотелки (например, так я стала капитаном яхты). Вообще-то бесит, потому что хочется иметь свои хотелки. Но один из способов определять «своё» — смотреть, чего хотят другие, и выбирать. И смотреть не на всех подряд, а на тех, кто в чём-то является ролевой моделью, кто вдохновляет или даже восхищает. С такими людьми страшно знакомиться, потому что «вдруг откажутся». Или согласятся, а я окажусь им неинтересна. Вот на этот страх учусь забивать. Внутренне уже готова, но ни одному человеку из списка ещё не написала )
2. Видео. Я уже писала, что хочу научиться снимать и монтировать видео. И даже появилась возможность — мой знакомый круто снимает именно в том стиле, который мне нравится. И учит этому. И я дажепрохожу продалбываю его курс… Причем, чем больше уроков продалбываю, тем сложнее вернуться. Но лучше уж вернуться сейчас, чем забить и не пройти вообще. Нет цели снимать лучшие в мире видео, но интуиция подсказывает, что мне нужен этот навык как ступенька.
3. Вайбкодинг. Я уделяю ему сильно меньше времени, чем хотелось бы. Хотя прекрасно понимаю, зачем мне это. Самая тупая причина — сейчас лучшее время рассказывать, показывать и помогать новичкам влетать в тему, а учить я точно умею очень хорошо. Вторая причина — делать продукты и не зависеть от разработчиков. Хочешь — быстрее тестируй прототипы на работе, хочешь — запускай свои пет-проекты, тебе никто для этого не нужен. И третья — в будущем без этого навыка будет сложно или даже невозможно — продактам точно.
4. Генерация видео. Мне интересно погенерить видосы руками, и возможно когда-то создать продукт вокруг этого. И даже не говорите мне, как это сложно, я всё знаю )
5. Сеты. Я уже больше года диджею, и даже круто получается. Но выступаю только если зовут, и свои сеты не записываю. Хотя хотела бы — и выложить несколько сетов, и повыступать не только на конфах. Для этого надо подтянуть харды — есть несколько вещей, которые представляю в голове, но не умею на практике. И не учусь ) Зачем мне этот пункт, я себе пока объяснить не могу — какая-то чуйка, которая обычно не подводит.
Всё, пошла думать, как лежать в нужном направлении.
А если пост вдохновил вас на создание своего списка важных вещей, рекомендую два интервью, благодаря которым появился мой. С Даней Шулейко и с Юлей Седовой. Оба крутые, у меня огромная заметка с мыслями после просмотра.
«Есть вещи, которые для меня важны, но я почему-то ими не занимаюсь. Я ценю, когда мне о них напоминают — помогает не сбиваться с пути». Эту фразу мне сказал друг, а сегодня я решила поделиться с вами своими такими вещами. Возможно, когда-то кто-то из вас напомнит, или подкинет возможность, или я сама перечитаю и вспомню.
1. Нетворк. Я умею утаскивать и воплощать в жизнь чужие хотелки (например, так я стала капитаном яхты). Вообще-то бесит, потому что хочется иметь свои хотелки. Но один из способов определять «своё» — смотреть, чего хотят другие, и выбирать. И смотреть не на всех подряд, а на тех, кто в чём-то является ролевой моделью, кто вдохновляет или даже восхищает. С такими людьми страшно знакомиться, потому что «вдруг откажутся». Или согласятся, а я окажусь им неинтересна. Вот на этот страх учусь забивать. Внутренне уже готова, но ни одному человеку из списка ещё не написала )
2. Видео. Я уже писала, что хочу научиться снимать и монтировать видео. И даже появилась возможность — мой знакомый круто снимает именно в том стиле, который мне нравится. И учит этому. И я даже
3. Вайбкодинг. Я уделяю ему сильно меньше времени, чем хотелось бы. Хотя прекрасно понимаю, зачем мне это. Самая тупая причина — сейчас лучшее время рассказывать, показывать и помогать новичкам влетать в тему, а учить я точно умею очень хорошо. Вторая причина — делать продукты и не зависеть от разработчиков. Хочешь — быстрее тестируй прототипы на работе, хочешь — запускай свои пет-проекты, тебе никто для этого не нужен. И третья — в будущем без этого навыка будет сложно или даже невозможно — продактам точно.
4. Генерация видео. Мне интересно погенерить видосы руками, и возможно когда-то создать продукт вокруг этого. И даже не говорите мне, как это сложно, я всё знаю )
5. Сеты. Я уже больше года диджею, и даже круто получается. Но выступаю только если зовут, и свои сеты не записываю. Хотя хотела бы — и выложить несколько сетов, и повыступать не только на конфах. Для этого надо подтянуть харды — есть несколько вещей, которые представляю в голове, но не умею на практике. И не учусь ) Зачем мне этот пункт, я себе пока объяснить не могу — какая-то чуйка, которая обычно не подводит.
Всё, пошла думать, как лежать в нужном направлении.
А если пост вдохновил вас на создание своего списка важных вещей, рекомендую два интервью, благодаря которым появился мой. С Даней Шулейко и с Юлей Седовой. Оба крутые, у меня огромная заметка с мыслями после просмотра.
❤123🔥23🦄8🤯3🤪1
This media is not supported in your browser
VIEW IN TELEGRAM
❤18🔥16🤪1
Провожу воркшоп для HRD про использование LLM в работе. Подходит один человечек и говорит: «А это не ты случайно диджеила в ноябре в Мутаборе на конфе?»
Раньше узнавали по этому каналу, потом по мемам, теперь по диджей-сетам… что дальше? 😁
Раньше узнавали по этому каналу, потом по мемам, теперь по диджей-сетам… что дальше? 😁
❤63😁53🔥21🤪12
n8n такой простой и понятный инструмент! Ага (нет)
Хотела собрать себе простенького тг-бота, который помогает выбрать, чем заняться вечером или на выходных. Он должен расспрашивать, что мне хочется, а потом искать в интернете подходящие места / движухи. С одного промпта работает не очень, а вот отдельно расспросить и отдельно поискать — уже лучше. Получается мини-агент с тулой поиска по интернету.
Решила собрать в n8n — это такой визуальный no-code конструктор. Рисуешь схемку и всё работает. Идеально, казалось бы! Но оказалось не так просто. Три вечера я убила на то, чтобы разобраться, как именно нужно соединять все эти кусочки конструктора, какие параметры и куда прокидывать, чтобы оно правильно работало. Вообще не интуитивно понятно.
Бот в итоге заработал, чему я очень рада. Но хочу понять, можно ли проще. Думаю, попробовать собрать то же самое в Cursor. Хоть он и «про код», кажется, с их AI помощником будет быстрее, чем разбираться со всеми этими кнопочками в n8n.
Чем вы пользуетесь для таких задач?
Хотела собрать себе простенького тг-бота, который помогает выбрать, чем заняться вечером или на выходных. Он должен расспрашивать, что мне хочется, а потом искать в интернете подходящие места / движухи. С одного промпта работает не очень, а вот отдельно расспросить и отдельно поискать — уже лучше. Получается мини-агент с тулой поиска по интернету.
Решила собрать в n8n — это такой визуальный no-code конструктор. Рисуешь схемку и всё работает. Идеально, казалось бы! Но оказалось не так просто. Три вечера я убила на то, чтобы разобраться, как именно нужно соединять все эти кусочки конструктора, какие параметры и куда прокидывать, чтобы оно правильно работало. Вообще не интуитивно понятно.
Бот в итоге заработал, чему я очень рада. Но хочу понять, можно ли проще. Думаю, попробовать собрать то же самое в Cursor. Хоть он и «про код», кажется, с их AI помощником будет быстрее, чем разбираться со всеми этими кнопочками в n8n.
Чем вы пользуетесь для таких задач?
❤71🔥31😁7🤪6🤯4
Рассказали рынку о тревел-ассистенте!
Свои первые билеты через тревел-ассистента я купила в декабре — в ЮАР. Я тогда ещё ничего не придумала для поездки, но знала, что мне надо куда-то туда после 25 декабря и до нового года. И не миллион часов лететь.
Билеты нашлись с одного уточнения. А ещё я узнала про существование Йоханнесбурга и спланировала поездку через этот город, потому что так было дешевле. Об этом мне рассказал ассистент — самой мне было бы лень изучать :)
Нам ещё оооочень много чего хочется сделать. Но сейчас минутка отпраздновать то, что уже получилось. Радуемся с командой, что рассказали о себе и раскатились на приличную часть аудитории.
Ассистента можно потыкать с 50% вероятностью — сейчас он доступен половине пользователей, на странице Т-Путешествий в приложении Т-Банка.
(интерфейс как на картинках с версии 7.11 на iOS и 7.12 на Android — как обновиться, тут).
Кидайте фидбэк в комменты — мы с командой всё читаем!
Свои первые билеты через тревел-ассистента я купила в декабре — в ЮАР. Я тогда ещё ничего не придумала для поездки, но знала, что мне надо куда-то туда после 25 декабря и до нового года. И не миллион часов лететь.
Билеты нашлись с одного уточнения. А ещё я узнала про существование Йоханнесбурга и спланировала поездку через этот город, потому что так было дешевле. Об этом мне рассказал ассистент — самой мне было бы лень изучать :)
Нам ещё оооочень много чего хочется сделать. Но сейчас минутка отпраздновать то, что уже получилось. Радуемся с командой, что рассказали о себе и раскатились на приличную часть аудитории.
Ассистента можно потыкать с 50% вероятностью — сейчас он доступен половине пользователей, на странице Т-Путешествий в приложении Т-Банка.
(интерфейс как на картинках с версии 7.11 на iOS и 7.12 на Android — как обновиться, тут).
Кидайте фидбэк в комменты — мы с командой всё читаем!
🔥102❤48🤪5🦄3🤯1
Я потратила какое-то неприличное количество воскресений на этот продукт… и не жалею ни об одном. Даже если его никто не купит. Я просто горжусь, что он существует.
Мы с Андреем Менде (Sr ML PM в Букинге) сделали в ProductDo симулятор по созданию LLM-продуктов. И я очень довольна тем, что получилось. Во-первых, Андрей сам запрогал песочницу — можно тестить промпты на реальных датасетах прям в симуляторе. Во-вторых, мы упоролись по кейсам. Подготовить данные так, чтобы были понятны приколы, с которыми потом столкнешься в реальности — та ещё задачка.
Проходить имеет смысл, чтобы структурировать в голове, как завести LLM-продукт (или фичу) с нуля. И попробовать сделать это руками.
Что в симуляторе:
- Эвалы: как оценивать качество LLM-продукта, готовить данные
- Модели: какую выбрать под задачу, как настроить
- Пайплайн: как понять, что с одного промпта задача не решится и разбить на несколько этапов
- Безопасность: как убедиться, что модель не будет нарушать уголовный кодекс и не только ))
Чего пока нет:
- Раг
- Агенты
Первый поток мы уже завершили — я даже не успела про него рассказать, он очень быстро набрался.
Можно залететь во второй. Стартуем на следующей неделе. Помимо симулятора будет 2 Q&A вебинара — мы ещё дорабатываем контент по фидбэку. А у вас будет возможность спросить то, чего в симуляторе нет (например, на одном из Q&A разгоняли про раг).
Купить тут
Мы с Андреем Менде (Sr ML PM в Букинге) сделали в ProductDo симулятор по созданию LLM-продуктов. И я очень довольна тем, что получилось. Во-первых, Андрей сам запрогал песочницу — можно тестить промпты на реальных датасетах прям в симуляторе. Во-вторых, мы упоролись по кейсам. Подготовить данные так, чтобы были понятны приколы, с которыми потом столкнешься в реальности — та ещё задачка.
Проходить имеет смысл, чтобы структурировать в голове, как завести LLM-продукт (или фичу) с нуля. И попробовать сделать это руками.
Что в симуляторе:
- Эвалы: как оценивать качество LLM-продукта, готовить данные
- Модели: какую выбрать под задачу, как настроить
- Пайплайн: как понять, что с одного промпта задача не решится и разбить на несколько этапов
- Безопасность: как убедиться, что модель не будет нарушать уголовный кодекс и не только ))
Чего пока нет:
- Раг
- Агенты
Первый поток мы уже завершили — я даже не успела про него рассказать, он очень быстро набрался.
Можно залететь во второй. Стартуем на следующей неделе. Помимо симулятора будет 2 Q&A вебинара — мы ещё дорабатываем контент по фидбэку. А у вас будет возможность спросить то, чего в симуляторе нет (например, на одном из Q&A разгоняли про раг).
Купить тут
productdo.it
LLM и эвалы для продакта: курс по созданию и оценке LLM-продуктов
Курс-симулятор для продактов: создание LLM-фич и эвалы. Промптинг, пайплайны, LLM-as-judge, безопасность. Практика на реальных кейсах.
1❤55🔥26🦄10🤪7🤯6 5
Узнала, что реплит можно скачать на телефон. ПФ! Никогда ещё моя поездка на метро не была такой интересной
😁108❤30🔥20🤪11😢3
Печенька с предсказаниями
Предсказываю, что тем, кто хотел залететь в ближайший поток симулятора по ллм продуктам, пора поторопиться. Открываем доступ и чат уже сегодня, первый вебинар через неделю.
Всем остальным предскажет моя печенька: @Pechenkapechenka_bot
(хоть бы она опять не упала! Деплоить — не моё 😁)
Предсказываю, что тем, кто хотел залететь в ближайший поток симулятора по ллм продуктам, пора поторопиться. Открываем доступ и чат уже сегодня, первый вебинар через неделю.
Всем остальным предскажет моя печенька: @Pechenkapechenka_bot
(хоть бы она опять не упала! Деплоить — не моё 😁)
😁22❤10🤯5🤪2🦄2
На прошлой неделе я поехала в Питер ради спектакля Яндекса.
Таким необычным способом ребята решили рассказать о своих ценностях.
Было пять сцен. Две из них мне особенно понравились. Одну записала на видео, а на второй… расплакалась и не думала о телефоне.
Возможно, из-за того, что я сама играю в театре, мне интересно не только ЧТО показывают, но и КАК играют актёры. В одной сцене герой разговаривал с мамой по телефону. Сначала по классике: «Ну маам… я не забыл…». Потом неловкое «С днём рождения», а дальше — что-то настоящее: «Приеду на выходных, соскучился. По дому, по лавочке во дворе, по тёте Нине, которая всегда там сидит».
Я сижу в зале и в секунду понимаю, что верю. Верю, что он сейчас реально говорит с мамой по телефону, что видит эту лавочку, эту тётю Нину. Конечно, не их конкретно — он видит свой образ, который для него что-то значит и вызывает нужные эмоции.
Для меня театр — это всегда про прожить что-то своё в чужой истории. Сейчас я играю в спектакле, где моя роль очень перекликается с тем, что происходит в реальности. И последние недели я буквально живу в репетициях — помогает выплеснуть, прожить и отпустить. И никто не страдает от моего настроения, кроме подушки и сцены :))
Играем уже в эту субботу. Один из лучших спектаклей, что мы ставили. Приходите — буду очень вам рада. За инфой о билетах пишите в личку @annapodobrazhnykh
А ребятам из Яндекса большой респект за смелость рассказать о себе в таком формате. Творчество не может оставить меня равнодушной )
Таким необычным способом ребята решили рассказать о своих ценностях.
Было пять сцен. Две из них мне особенно понравились. Одну записала на видео, а на второй… расплакалась и не думала о телефоне.
Возможно, из-за того, что я сама играю в театре, мне интересно не только ЧТО показывают, но и КАК играют актёры. В одной сцене герой разговаривал с мамой по телефону. Сначала по классике: «Ну маам… я не забыл…». Потом неловкое «С днём рождения», а дальше — что-то настоящее: «Приеду на выходных, соскучился. По дому, по лавочке во дворе, по тёте Нине, которая всегда там сидит».
Я сижу в зале и в секунду понимаю, что верю. Верю, что он сейчас реально говорит с мамой по телефону, что видит эту лавочку, эту тётю Нину. Конечно, не их конкретно — он видит свой образ, который для него что-то значит и вызывает нужные эмоции.
Для меня театр — это всегда про прожить что-то своё в чужой истории. Сейчас я играю в спектакле, где моя роль очень перекликается с тем, что происходит в реальности. И последние недели я буквально живу в репетициях — помогает выплеснуть, прожить и отпустить. И никто не страдает от моего настроения, кроме подушки и сцены :))
Играем уже в эту субботу. Один из лучших спектаклей, что мы ставили. Приходите — буду очень вам рада. За инфой о билетах пишите в личку @annapodobrazhnykh
А ребятам из Яндекса большой респект за смелость рассказать о себе в таком формате. Творчество не может оставить меня равнодушной )
1❤75🦄10🤪6🔥3😢2👏1😁1 1
Forwarded from Карты, деньги и продукт (Ksenia Tolokolnikova)
Привет! Я Артем Бондарь, руководитель всея NLP в Т-Банке.
Ребята попросили написать, как считать экономику внутри всех этих страшных слов про «инференсы», «GPU» и токены, поэтому сегодня разберёмся с этим (спойлер:это не так сложно ).
Предыстория
Предыдущие поколения МЛ были дешёвые как грязь (например, DialogFlow), поэтому фокуса на экономике не было, важно это было лишь для мегамасштабных проектов с миллионами DAU.
Но сегодня на последних версиях моделей-ризонеров (например, o3) решение одной задачи может стоить тысячи долларов – это экстремальный пример, но он показывает, что экономика LLM важна даже для небольших продуктов.
Что нужно знать про деньги и LLM
Есть 2 ключевые модели ценообразования:
1. Покупка облачного решения у вендора: вы платите за токены (объём текста). Генерация текста стоит дороже, чем сам запрос (промт): запрос с промтом в 80 токенов и ответом в 8000 токенов может стоить во много раз дороже, чем наоборот.
— Плюсы: нет капитальных затрат, понятная модель оплаты.
— Минусы: сложнее прогнозировать расходы, высокая цена генерации, продукт хранится в облаке (не всем подходит с точки зрения безопасности).
— Когда использовать: когда нужно быстро протестировать гипотезу, запустить MVP или быть гибким на старте.
2. On-premise: вы покупаете серверы, которые выдержат нагрузку пользователей. Это не pay-as-you-go, а капитальные вложения заранее.
— Плюсы: контроль инфраструктуры, фиксированные расходы в перспективе.
— Минусы: нужен крупный стартовый бюджет, точное планирование.
— Когда использовать: когда уверены в продуктовой модели, стабильной нагрузке и планируете долгосрочное развитие.
Как считать экономику?
Когда модель генерирует ответ на запрос пользователя, это называется инференс. Для инференса нужны мощные серверы с видеокартами — GPU (Graphics Processing Unit), которые быстро обрабатывают большие объёмы данных.
Расходы складываются из:
– оборудования (свои или облачные GPU)
– электричества (для своих серверов)
– команды DevOps/ML Ops (настройка и обслуживание)
Быстрая математика (на простом примере):
Допустим, у вас есть свой сервер с GPU, работающий 24/7:
– Электричество: $0.50 × 720 часов = $360
– Обслуживание: $500 в месяц
– Общий расход: $860 в месяц
– Сервер обрабатывает 20 000 запросов в час, 14,4 млн запросов в месяц
– Стоимость 1000 запросов при полной загрузке = $0.06
Если запросов всего 30 000 в месяц, сервер простаивает, и цена растёт до $28.7 за 1000 запросов (в 480 раз дороже!).
Важно заранее оценивать загрузку — иногда дешевле взять API.
А если использовать оплату через токены API?
Предположим, инструкция «Ты — ассистент. Твоя задача…» содержит 100 токенов, средний ответ 400 токенов, всего 500 токенов за запрос.
Стоимость GPT-4o mini сейчас:
– Входящие токены: $0.6 за 1 млн токенов
– Исходящие токены: $2.4 за 1 млн токенов
Входящих → 100 токенов × 1000 = 100 000 токенов (0.1 млн)
Исходящих → 400 токенов × 1000 = 400 000 токенов (0.4 млн)
Посчитаем стоимость:
1. Вход: 0.1 млн × $0.6 = $0.06
2. Выход: 0.4 млн × $2.4 = $0.96
Итого = $0.06 + $0.96 = $1.02
(Посчитать токены можно здесь.)
Коротко про облако – важно помнить: серверы можно не покупать, а арендовать и экономить, включая их только на нужное время. Но даже при аренде сервера на 12 часов в сутки аренда GPU может выйти дороже, чем собственный сервер.
Вместо вывода:
— Комбинируйте подходы: начинайте с pay-as-you-go и постепенно переходите на on-premise, когда поймёте реальные потребности.
— Регулярно пересматривайте нагрузку и адаптируйте инфраструктуру под текущие задачи, чтобы не переплачивать.
Надеюсь, теперь стало понятнее, как подходить к экономике LLM-продуктов. Если остались вопросы — пишите, с радостью отвечу!
Ребята попросили написать, как считать экономику внутри всех этих страшных слов про «инференсы», «GPU» и токены, поэтому сегодня разберёмся с этим (спойлер:
Предыстория
Предыдущие поколения МЛ были дешёвые как грязь (например, DialogFlow), поэтому фокуса на экономике не было, важно это было лишь для мегамасштабных проектов с миллионами DAU.
Но сегодня на последних версиях моделей-ризонеров (например, o3) решение одной задачи может стоить тысячи долларов – это экстремальный пример, но он показывает, что экономика LLM важна даже для небольших продуктов.
Что нужно знать про деньги и LLM
Есть 2 ключевые модели ценообразования:
1. Покупка облачного решения у вендора: вы платите за токены (объём текста). Генерация текста стоит дороже, чем сам запрос (промт): запрос с промтом в 80 токенов и ответом в 8000 токенов может стоить во много раз дороже, чем наоборот.
— Плюсы: нет капитальных затрат, понятная модель оплаты.
— Минусы: сложнее прогнозировать расходы, высокая цена генерации, продукт хранится в облаке (не всем подходит с точки зрения безопасности).
— Когда использовать: когда нужно быстро протестировать гипотезу, запустить MVP или быть гибким на старте.
2. On-premise: вы покупаете серверы, которые выдержат нагрузку пользователей. Это не pay-as-you-go, а капитальные вложения заранее.
— Плюсы: контроль инфраструктуры, фиксированные расходы в перспективе.
— Минусы: нужен крупный стартовый бюджет, точное планирование.
— Когда использовать: когда уверены в продуктовой модели, стабильной нагрузке и планируете долгосрочное развитие.
Как считать экономику?
Когда модель генерирует ответ на запрос пользователя, это называется инференс. Для инференса нужны мощные серверы с видеокартами — GPU (Graphics Processing Unit), которые быстро обрабатывают большие объёмы данных.
Расходы складываются из:
– оборудования (свои или облачные GPU)
– электричества (для своих серверов)
– команды DevOps/ML Ops (настройка и обслуживание)
Быстрая математика (на простом примере):
Допустим, у вас есть свой сервер с GPU, работающий 24/7:
– Электричество: $0.50 × 720 часов = $360
– Обслуживание: $500 в месяц
– Общий расход: $860 в месяц
– Сервер обрабатывает 20 000 запросов в час, 14,4 млн запросов в месяц
– Стоимость 1000 запросов при полной загрузке = $0.06
Если запросов всего 30 000 в месяц, сервер простаивает, и цена растёт до $28.7 за 1000 запросов (в 480 раз дороже!).
Важно заранее оценивать загрузку — иногда дешевле взять API.
А если использовать оплату через токены API?
Предположим, инструкция «Ты — ассистент. Твоя задача…» содержит 100 токенов, средний ответ 400 токенов, всего 500 токенов за запрос.
Стоимость GPT-4o mini сейчас:
– Входящие токены: $0.6 за 1 млн токенов
– Исходящие токены: $2.4 за 1 млн токенов
Входящих → 100 токенов × 1000 = 100 000 токенов (0.1 млн)
Исходящих → 400 токенов × 1000 = 400 000 токенов (0.4 млн)
Посчитаем стоимость:
1. Вход: 0.1 млн × $0.6 = $0.06
2. Выход: 0.4 млн × $2.4 = $0.96
Итого = $0.06 + $0.96 = $1.02
(Посчитать токены можно здесь.)
Коротко про облако – важно помнить: серверы можно не покупать, а арендовать и экономить, включая их только на нужное время. Но даже при аренде сервера на 12 часов в сутки аренда GPU может выйти дороже, чем собственный сервер.
Вместо вывода:
— Комбинируйте подходы: начинайте с pay-as-you-go и постепенно переходите на on-premise, когда поймёте реальные потребности.
— Регулярно пересматривайте нагрузку и адаптируйте инфраструктуру под текущие задачи, чтобы не переплачивать.
Надеюсь, теперь стало понятнее, как подходить к экономике LLM-продуктов. Если остались вопросы — пишите, с радостью отвечу!
🔥71❤31🤪9👏3🤯3
Карты, деньги и продукт
Привет! Я Артем Бондарь, руководитель всея NLP в Т-Банке. Ребята попросили написать, как считать экономику внутри всех этих страшных слов про «инференсы», «GPU» и токены, поэтому сегодня разберёмся с этим (спойлер: это не так сложно ). Предыстория Предыдущие…
Супер пост для тех, кто давно хотел разобраться в экономике LLM-продуктов. А точнее, в расходной части.
Начинали писать с Артёмом, а примеры докидывали сами, ибо время гениев ограничено 💁♀️✨
Начинали писать с Артёмом, а примеры докидывали сами, ибо время гениев ограничено 💁♀️✨
🦄21❤16🔥6🤪2🤯1