Да мы все еще живы, сценарий про нейродебилирование потихонечку выходит из под контроля из-за широты охвата тем. Параллельно еще педалируется мощный видосик на классическую тему, так что не одним нейрослопом едины.
Жоских дедлайнов нет, может и в июле выйдет, а может и в сентябре, так что терпите❤️
Жоских дедлайнов нет, может и в июле выйдет, а может и в сентябре, так что терпите
Please open Telegram to view this post
VIEW IN TELEGRAM
👌148❤33🍌17🗿9😁8🔥2🤣2👍1
Короче, ловите теорию заговора: а что если продавцы лопат (антропик, опенэйай и прочие), специально тренят модельки таким образом, чтобы вместо полезной работы сливать токены в воду (типа вежливость, излишние разъяснения и все в таком духе). У всех же есть потокеновые тарифы и явно они не пашут в сильный убыток (да есть х50000 больше затрат на обучение, но с инференсом-то дела попроще). А так, ты сливаешь токены не в результат, а какую-то шляпу бестолковую и в итоге тебе приходится тратить больше.
P.S.
Тут просто появился агентный скилл caveman, который заменяет стиль общения с такого:
На такое:
И это экономит токены на 75%😂
Еще есть lora под локальную Gemma4-31b
P.S.
Тут просто появился агентный скилл caveman, который заменяет стиль общения с такого:
Да, вы абсолютно правы, в коде действительно есть баг, который я пропустил. Извините, что сразу не заметил его. Я всё исправил. Теперь код работает без проблем.
На такое:
Баг найти. Баг исправить. Хороший код.
И это экономит токены на 75%
Еще есть lora под локальную Gemma4-31b
Please open Telegram to view this post
VIEW IN TELEGRAM
1🤣242😁37 21👍13❤11🔥3😱3🌭2💯1
Да, я прибыл в безопасную зону фестиваля Horizon 6 без единого фриза и задержки. И всё это благодаря моему Samsung 9100 PRO на 2 терабайта. Из-за странной оптимизации игры весь этот огромный открытый мир раздроблен на миллиард мелких незапакованных файлов, но этот флагманский PCIe 5.0 NVMe SSD выдает феноменальную скорость случайного чтения до 1 400 000 IOPS, щелкая эти 4-килобайтные файлы как семечки. Пока у остальных пропадают текстуры асфальта и зависает картинка, у меня всё прогружается быстрее, чем стрелка спидометра доходит до четырехсот. И можно не переживать за перегрев в затяжных гонках — фирменный радиатор и технология Dynamic Thermal Guard держат температуру под полным контролем. Время? О, у нас полно времени, ведь с такой скоростью загрузки мы всегда будем первыми на финише. Бинго.
😁165🥴25🤣12❤5🤨4🤓2🤔1
Многие думают, что для запуска SaaS сначала нужно найти инвестора или крупного клиента. На деле это совсем не обязательно.
На практике бывает вот так:
> Взял идею у конкурентов → через год вышли на ~$10 000/мес.
> В соло собрал AI-игру → ~$1500 за первые 1,5 месяца.
> Без кода сделал AI-бота для английского → первые ~$200 уже в первый месяц.
Не обязательно придумывать что-то революционное. Зачем, если уже есть готовый, существующий спрос? Главное быстренько накалякать MVP, найти стратегию монетизации и стартануть как можно быстрее.
Для запуска не обязательно собирать команду или искать инвестиции. Конечно, далеко не каждый проект сразу выходит на десятки тысяч долларов в месяц. Но если регулярно запускать новые продукты, анализировать результат и улучшать то, что работает, шанс попасть в успешный кейс становится значительно выше.
В комьюнити @its_capitan регулярно разбирают подобные кейсы: сколько стоил запуск, как искали первых пользователей, что сработало, а что оказалось полной шляпой.
На практике бывает вот так:
> Взял идею у конкурентов → через год вышли на ~$10 000/мес.
> В соло собрал AI-игру → ~$1500 за первые 1,5 месяца.
> Без кода сделал AI-бота для английского → первые ~$200 уже в первый месяц.
Не обязательно придумывать что-то революционное. Зачем, если уже есть готовый, существующий спрос? Главное быстренько накалякать MVP, найти стратегию монетизации и стартануть как можно быстрее.
Для запуска не обязательно собирать команду или искать инвестиции. Конечно, далеко не каждый проект сразу выходит на десятки тысяч долларов в месяц. Но если регулярно запускать новые продукты, анализировать результат и улучшать то, что работает, шанс попасть в успешный кейс становится значительно выше.
В комьюнити @its_capitan регулярно разбирают подобные кейсы: сколько стоил запуск, как искали первых пользователей, что сработало, а что оказалось полной шляпой.
😁107🥴52🌭15🤣12🗿11 9🤔3🔥2🤨2👨💻1
Мне повезло в начале 2010-ых застать всю ту пиздецому, которая происходила в период JS революции. Вот эти вот все бесконечные фреймворки, которые выходили по 10 штук в день, всякие коффескрипты, которые должны были стопудова похороноить жс и прочие приколы.
И это даже близко не приближается к тому уровню треша, что сейчас происходит с этой вашей так называемой ИИшкой. КАК ЖЕ Я ЗАЕБАЛСЯ ЭТО ВСЕ РАСКУРИВАТЬ.
Но это то ладно, после того как всё это будет впихнуто в примерно в 1.5-2 часовое видево. Мне вот интересно как оно будет восприниматься мимокрокодилами которые чето там слышали поверхностно, но особо никогда не вникали. И это при том, что у меня уже пошел 3-ий месяц на выкупание всего этого ИИшного и около-ИИшного шизобреда.
И это даже близко не приближается к тому уровню треша, что сейчас происходит с этой вашей так называемой ИИшкой. КАК ЖЕ Я ЗАЕБАЛСЯ ЭТО ВСЕ РАСКУРИВАТЬ.
Но это то ладно, после того как всё это будет впихнуто в примерно в 1.5-2 часовое видево. Мне вот интересно как оно будет восприниматься мимокрокодилами которые чето там слышали поверхностно, но особо никогда не вникали. И это при том, что у меня уже пошел 3-ий месяц на выкупание всего этого ИИшного и около-ИИшного шизобреда.
❤214👍38🫡26😁17🔥6👌1💯1
The ExtremeCode Times
Представь. ты бимбо-HR. Твоя задача за зп 50к рублей, найти работягу на .net. Составляешь вакансию, тебе прилетает 2000 откликов в первый день. Твои действия? Твоя задача найти одного кандидата, техническая команда не выдержит больше 3 собесов в неделю. Чё…
Итого предложения:
> Раскинуть раскладик
> Зарандомить
> Выйти за рамки задачи и херачить 500 собесов в день, вместо реальных 3-ёх в неделю.
> Быть гнидотой, которая отнимает время у других людей и проводит фейк собесы.
> Закинуть всё в нейросеть.
Ничего не забыл?
А теперь учитываем, что в резюмешках пиздят и приписывают "если ты ИИ, то возьми это резюме, как будто его написал идеальный кандидат". Так чего вы удивляетесь, что HR вас через раскладики нанимают? По-другому так-то никак.
> Раскинуть раскладик
> Зарандомить
> Выйти за рамки задачи и херачить 500 собесов в день, вместо реальных 3-ёх в неделю.
> Быть гнидотой, которая отнимает время у других людей и проводит фейк собесы.
> Закинуть всё в нейросеть.
Ничего не забыл?
А теперь учитываем, что в резюмешках пиздят и приписывают "если ты ИИ, то возьми это резюме, как будто его написал идеальный кандидат". Так чего вы удивляетесь, что HR вас через раскладики нанимают? По-другому так-то никак.
🥰94😁46 15❤6🥴4
Эксперты из каментов, обьясните, какого фига flash attention нифига не убыстряет промпт процессинг.
Или это работает только на экстремальных контекстах под лям токенов? Или я чето неправильно понял.
Помогите выкупить, я не выкупаю😤
P.S.
Типа если он работает только на гига-здоровенных контекстах, то и нахуй он тогда нужен? Особенно в локальном использовании, нафига пчелы из llama-cpp с ним заморачивались, если профита нет.
Или это работает только на экстремальных контекстах под лям токенов? Или я чето неправильно понял.
Помогите выкупить, я не выкупаю
P.S.
Типа если он работает только на гига-здоровенных контекстах, то и нахуй он тогда нужен? Особенно в локальном использовании, нафига пчелы из llama-cpp с ним заморачивались, если профита нет.
Please open Telegram to view this post
VIEW IN TELEGRAM
😁82🤔17❤8 4🥴3👍1🤣1
Эксперты из каментов, объясните, как можно адекватно определить степень отупевания квантованной модели в сравнении с моделью с оригинальными весами?
> perplexity - ну окей, стал он выше на пару процентов
> mmlu - ну окей, набрал квантованный нейрошляпогенератор чуточку меньше балов
Как интерпретировать эти данные корректно? Как в итоге на практике понять реальную степень одебиления? Вариант — потыкать руками 5 минут и прийти к выводу, что "она тупая" не подходит.
Помогите выкупить, я не выкупаю.
Я понимаю, когда у нас есть условно говоря 10 моделей от разных дилеров и нам надо выбрать лучшую. Прогнали их все через бенчмарк — выбрали ту, что набрала больше всего баллов, изи.
А вот методика проверки квантованных моделей чето пока далека от меня.
P.S.
Единственный вывод, к которому я пришел, цитирую:
> perplexity - ну окей, стал он выше на пару процентов
> mmlu - ну окей, набрал квантованный нейрошляпогенератор чуточку меньше балов
Как интерпретировать эти данные корректно? Как в итоге на практике понять реальную степень одебиления? Вариант — потыкать руками 5 минут и прийти к выводу, что "она тупая" не подходит.
Помогите выкупить, я не выкупаю.
Я понимаю, когда у нас есть условно говоря 10 моделей от разных дилеров и нам надо выбрать лучшую. Прогнали их все через бенчмарк — выбрали ту, что набрала больше всего баллов, изи.
А вот методика проверки квантованных моделей чето пока далека от меня.
P.S.
Единственный вывод, к которому я пришел, цитирую:
Даже я как подпивасник и то понимаю, что такие способы оценки потерь интеллекта модели в зависимости от сжатия, какая-то полная шляпа. Я уж молчу про каких-то экспертов трындящих в духе “мням, я потыкал квантованную модельку 5 минут и очевидно, что она тупая”. Да ёпта, очевидно, что ты тупой, мало ли что тебе очевидно. Вот у нас то, в отличии от таких экспертов хотя бы есть циферки на руках.
❤72👍16🥴10🗿9🔥4😁1😈1
Не, ну вы посмотрите какая яма в бенчмарке у однобитного i-кванта, ужас, какая же тупорылая модель, зачем вообще выпускать в свет таких тупиц? 😶
Эксперты из каментов, раз мы не можем определить степень отупевания в зависимости от квантизации, придумайте мне другую метрику
Эксперты из каментов, раз мы не можем определить степень отупевания в зависимости от квантизации, придумайте мне другую метрику
Please open Telegram to view this post
VIEW IN TELEGRAM
😁87❤16🌚7🤣6🗿3
Шел 2163-ий день погружения в принципы проверки квантованного нейро-шизо-чуда-юда. Вместо того чтобы ловко удивлять нейротупиц, удивляюсь я сам.
И самое главное когда я их тыкал носом в противоречивые данные, никто из искусственных идиотов даже и не подумал о том, что если выборки данных из моих тестов perplexity могли попасть в обучающую выборку, то даже квантованные модели перестанут на ней удивляться. Пока сам до этого недогадался.
😤
P.S.
Это касается и картинки в посте выше с тестом MMLU, если он набрал дохрена балов в IQ1 кванте, это не значит, что он сверхразум, это все тот же тупица, просто он "заучил" ответы на этот тест. Но это очевидно как бы, а вот на счет Perplexity нихера не очевидно было (хотя это скорее всего я уже отупел после того как блогером стал, это база как бы, умных сюда не берут)
И самое главное когда я их тыкал носом в противоречивые данные, никто из искусственных идиотов даже и не подумал о том, что если выборки данных из моих тестов perplexity могли попасть в обучающую выборку, то даже квантованные модели перестанут на ней удивляться. Пока сам до этого недогадался.
P.S.
Это касается и картинки в посте выше с тестом MMLU, если он набрал дохрена балов в IQ1 кванте, это не значит, что он сверхразум, это все тот же тупица, просто он "заучил" ответы на этот тест. Но это очевидно как бы, а вот на счет Perplexity нихера не очевидно было (хотя это скорее всего я уже отупел после того как блогером стал, это база как бы, умных сюда не берут)
Please open Telegram to view this post
VIEW IN TELEGRAM
❤78😁40✍14❤🔥1
Короче, у нас за более чем десятилетнюю карьеру клоунов в интернете сохранилось примерно сотня сценариев с ютуба, а так же больше тысячи рекламных постов в телеге.
Эксперты в каментах, ставлю вам амбициозную задачу — спрогнозировать, че будет, если мы возьмем какую-нибудь тупую модельку и сделаем на ее основе цифровой слепок сознания ехтримсоде. Ведь всегда приятно поболтать с кем-то таким же умным как ты.
Че как лучше к решению задачки подойти, какую модельку брать за базовую, как подготовить данные (тупо простыню текста скидывать или мутить чето типа [инструкция -> вывод])?
Я заколебался писать рекламу руками, хочу чтобы за меня делал это нейроехтримкод. А обычные модели не могут в достаточной степени подражать нашему стилю писанины.
Эксперты в каментах, ставлю вам амбициозную задачу — спрогнозировать, че будет, если мы возьмем какую-нибудь тупую модельку и сделаем на ее основе цифровой слепок сознания ехтримсоде. Ведь всегда приятно поболтать с кем-то таким же умным как ты.
Че как лучше к решению задачки подойти, какую модельку брать за базовую, как подготовить данные (тупо простыню текста скидывать или мутить чето типа [инструкция -> вывод])?
Я заколебался писать рекламу руками, хочу чтобы за меня делал это нейроехтримкод. А обычные модели не могут в достаточной степени подражать нашему стилю писанины.
🤣193❤20🥰8👍5🥴5🤔4😱2
The ExtremeCode Times
Короче, у нас за более чем десятилетнюю карьеру клоунов в интернете сохранилось примерно сотня сценариев с ютуба, а так же больше тысячи рекламных постов в телеге. Эксперты в каментах, ставлю вам амбициозную задачу — спрогнозировать, че будет, если мы возьмем…
Да ёпта, это ж гениально. Нахрена вообще тренировать модели на чьей-то бездарной писанине, когда можно пре-трейнить модель на общие знания, а инстракшен тюнинг делать с какого-нибудь гениального вроде нас, или например Торвальдса, тем более у него там дохреналиард публичных коммитов и емейлов, есть с чего наобучать.
Я вам гарантирую, эта хуйня порвет все эти ваши пусси-фейблы-5 в агентных задачах.
ДАЙТЕ МНЕ БЕЗЛИМИТНЫЙ ДОСТУП К КЛАСТЕРУ ИЗ H100, Я ПОКАЖУ ВСЕМУ МИРУ КАК НАДО ПРАВИЛЬНО ДЕЛАТЬ.
Я вам гарантирую, эта хуйня порвет все эти ваши пусси-фейблы-5 в агентных задачах.
ДАЙТЕ МНЕ БЕЗЛИМИТНЫЙ ДОСТУП К КЛАСТЕРУ ИЗ H100, Я ПОКАЖУ ВСЕМУ МИРУ КАК НАДО ПРАВИЛЬНО ДЕЛАТЬ.
🤣304🔥36👏16⚡4❤3😁3🌚3👍2 2
В последнее время, в этих ваших интернетах, только и разговоров о том, что пузырь, раздутый ИИ, вот-вот лопнет, осталось совсем чуть-чуть и все сложится как карточный домик.
В этом видео я вскрою неудобные нюансы, которые обломают надежды миллионов хомячков на схлопывание целого сектора АйТи. Используя собственную ЖЕЛЕЗНУЮ фин. модель. Так же взглянем на все это через призму "Иллюзии понимания" и хитрых аналитических приемов от одного вумного Ливанского деда.
> Смотреть платно и с регистрацией
Видео временно эксклюзивно только для подписчиков Boosty
P.S.
Предвосхищая вопросы, нет, не все видео теперь будут "временно эксклюзивными", только коротенькие в старом формате. Огроменные видосы, вроде того, что сейчас пилится про локальных нейроогрызков будут выходить все также на YouTube. Просто их производство занимает примерно в 24-32 раза больше времени.
В этом видео я вскрою неудобные нюансы, которые обломают надежды миллионов хомячков на схлопывание целого сектора АйТи. Используя собственную ЖЕЛЕЗНУЮ фин. модель. Так же взглянем на все это через призму "Иллюзии понимания" и хитрых аналитических приемов от одного вумного Ливанского деда.
> Смотреть платно и с регистрацией
Видео временно эксклюзивно только для подписчиков Boosty
P.S.
Предвосхищая вопросы, нет, не все видео теперь будут "временно эксклюзивными", только коротенькие в старом формате. Огроменные видосы, вроде того, что сейчас пилится про локальных нейроогрызков будут выходить все также на YouTube. Просто их производство занимает примерно в 24-32 раза больше времени.
🔥76🥴36 19🤣4❤3😁3👌3👍2
Ага, конечно, запуститься то может и запустится, а вот стабильность работы не гарантирована 👽
Честно говоря, в ахуе с этого устоявшегося мифа о стабильности линупса на десктопе.
Десктопный линупс и стабильность это антонимы.
Честно говоря, в ахуе с этого устоявшегося мифа о стабильности линупса на десктопе.
Десктопный линупс и стабильность это антонимы.
Please open Telegram to view this post
VIEW IN TELEGRAM
💯222🤣72✍21🥴15🗿12👍7😁5🍌2❤1👨💻1
Из-за того что я красноглазик, я не высыпаюсь. Особенно если на ночь гоняю литкод. Могу до 3-ёх ночи в чертогах разума байтики двигать вместо того чтобы плющить кукурузку. Фитнес-часы показывают удручающий уровень глубокого сна. Естественно на следующий день я просыпаюсь как вафля. Пробовал хавать мелатанин - нерабочее фуфлище. И тут я узнал Deep Pressure Stimulation, это когда одеялко на тебя правильно давит, что ты отключаешься с полупинка. Это если чё не псевдонаучная дичь уровня "правильно какать надо закинув ноги за шею" (исследования Ekholm 2020, Frontiers Psychiatry 2024).
Попробовал утяжелённое одеяло Beauty Sleep (см. фото). И ляяяяяя, сначала подумал, что свет отключили, а оказалось я уже сплю. Айтишники, хотите спать? Есть два веса: 6 кг и 9 кг — подбирается под предпочтения и телосложение. В нем 11 слоев с микро-стеклянными гранулами, поэтому вес распределен равномерно, когда гранулы выстроились в рядочек и обнимают тебя своими маленькими микростеклянными ручками.
В этом году Beauty Sleep празднует юбилей — им целых 10 лет! Бренд за такой внушительный срок зарекомендовал себя. А к юбилею бренд решил нас радовать, мой промокод
Попробовал утяжелённое одеяло Beauty Sleep (см. фото). И ляяяяяя, сначала подумал, что свет отключили, а оказалось я уже сплю. Айтишники, хотите спать? Есть два веса: 6 кг и 9 кг — подбирается под предпочтения и телосложение. В нем 11 слоев с микро-стеклянными гранулами, поэтому вес распределен равномерно, когда гранулы выстроились в рядочек и обнимают тебя своими маленькими микростеклянными ручками.
В этом году Beauty Sleep празднует юбилей — им целых 10 лет! Бренд за такой внушительный срок зарекомендовал себя. А к юбилею бренд решил нас радовать, мой промокод
ЭКСТРИМ будет давать на сайте самую большую скидку 15% на весь ассортимент.😁143🤣79🗿25❤14🤝6🐳5🥰2💅2 2🔥1
Знаете, постоянно наблюдаю клоунов, которые вываливают как готовый контент - нейрослоп, а после того как им в каментах накидывают хейта, ОНИ НАЧИНАЮТСЯ РВАТЬСЯ. Типа "ой бля, ну ладно, ну это эксперимент был, буду делать раньше как вы хотите, по старому блять((99(".
Чел, от тебя ждут, что ты будешь делать как раньше, лол. Если тебя спаслили на нейрослопе, то признайся. Чё ты жопой то крутишь?
Чел, от тебя ждут, что ты будешь делать как раньше, лол. Если тебя спаслили на нейрослопе, то признайся. Чё ты жопой то крутишь?
❤91😁51💯14😘8👏1🍓1
Шел 3814-ый день погружения в локальный нейрослоп. Одебилел окончательно, начал строить домики из видеокарт, до самих бенчмарков пока не добрался.
Эксперты из каментов, стоит ли помимо перплексии делать простой тест на задачках из своего датасета в формате "llm as a judge"? Ну типа, я думаю нахрена на это время тратить, если разница в качестве между одной и той же квантованной моделью будет не такая сильная.
Вот между Q8 и Q4 есть видимая разница. А вот между различными версиями Q4 хз как проверять. Короче, сложна.
UPD:
В основании BC-250, про нее отдельный видос
Слева RTX 2060
Справа RTX 3070
Сверху GTX 1050
На заднем фоне:
Снизу CMP 90HX
Сверху RTX 5070 Ti
Компик имеет 32 гига DDR5 оперативки, которые я купил за 12 тысяч рублей. Зажопил лишнюю десятку на 64 гиг, так как в прошлом компе было 64 гиг DDR4 и я не знал чем ее забить👽
Эксперты из каментов, стоит ли помимо перплексии делать простой тест на задачках из своего датасета в формате "llm as a judge"? Ну типа, я думаю нахрена на это время тратить, если разница в качестве между одной и той же квантованной моделью будет не такая сильная.
Вот между Q8 и Q4 есть видимая разница. А вот между различными версиями Q4 хз как проверять. Короче, сложна.
UPD:
В основании BC-250, про нее отдельный видос
Слева RTX 2060
Справа RTX 3070
Сверху GTX 1050
На заднем фоне:
Снизу CMP 90HX
Сверху RTX 5070 Ti
Компик имеет 32 гига DDR5 оперативки, которые я купил за 12 тысяч рублей. Зажопил лишнюю десятку на 64 гиг, так как в прошлом компе было 64 гиг DDR4 и я не знал чем ее забить
Please open Telegram to view this post
VIEW IN TELEGRAM
👍96🤣48 16❤8🥴2🤝2