АйТиБорода
Дождались: https://qwenlm.github.io/blog/qwen3/ Самая мощная опенсорсная моделька для ваших ноутов.
Браво, Qwen 3 30B MoE (gguf, 8bit) прошла тест на написание приложения про отскакивающий желтый мяч. Первая из запущенных на моем ноуте моделей, которая смогла это сделать!
4 минуты думанья, скорость аутпута восхитительная - 30 токенов в секунду, в 3 раза быстрее предыдущего любимца Qwen 2.5 Coder 27B 😊
Промпт: "
#balltest
4 минуты думанья, скорость аутпута восхитительная - 30 токенов в секунду, в 3 раза быстрее предыдущего любимца Qwen 2.5 Coder 27B 😊
Промпт: "
write a code for a bouncing yellow ball within a square, make sure to handle collision detection properly. make the square slowly rotate. implement it in javascript. make sure ball stays within the square and bounced correctly by physics laws"#balltest
🔥45
АйТиБорода
Новость недели: OpenAI наконец-то заопенсорсила какую-то херню.
Модель на 20B прям совсем никакущая показалась. А вот кватнованая в 4 бита 120B моделька - третья на моей памяти из локально мною запущенных: которая сумела решить задачу с крутящимся кубом и шариком внутри: https://jsfiddle.net/itbeard/bru4zgf0/1/
До этого с задачей справлялись QwQ 30B и Qwen 3 32B. Правда они обе значительно меньше GPT-OSS 120B.
И всё равно, от ТОП-1 ИИ-лаборатории мира как-то ожидалось сильно большего, чем модель на 120B, конкурирующая с китайскими тридцаточками...
UPD: Промпт для задачи
Запускал в LM Studio, 10k контекста, Reasonong Efforts - High, number of experts - 4. Думала 49 секунд модель.
#balltest
До этого с задачей справлялись QwQ 30B и Qwen 3 32B. Правда они обе значительно меньше GPT-OSS 120B.
И всё равно, от ТОП-1 ИИ-лаборатории мира как-то ожидалось сильно большего, чем модель на 120B, конкурирующая с китайскими тридцаточками...
UPD: Промпт для задачи
write a code for a bouncing yellow ball within a square, make sure to handle collision detection properly. make the square slowly rotate. implement it in javascript. make sure ball stays within the square and bounced correctly by physics laws
Запускал в LM Studio, 10k контекста, Reasonong Efforts - High, number of experts - 4. Думала 49 секунд модель.
#balltest
🔥15
АйТиБорода
Модель на 20B прям совсем никакущая показалась. А вот кватнованая в 4 бита 120B моделька - третья на моей памяти из локально мною запущенных: которая сумела решить задачу с крутящимся кубом и шариком внутри: https://jsfiddle.net/itbeard/bru4zgf0/1/ До этого…
+ 1 одна опенсорсная моделька среднего размера, сумевшая справиться з задачей - iquest-coder-v1-40b-instruct int8.
Решение тут. Скорость, правда, такая себе, 3.90 tok/sec
#balltest
Решение тут. Скорость, правда, такая себе, 3.90 tok/sec
#balltest
АйТиБорода
Браво, Qwen 3 30B MoE (gguf, 8bit) прошла тест на написание приложения про отскакивающий желтый мяч. Первая из запущенных на моем ноуте моделей, которая смогла это сделать! 4 минуты думанья, скорость аутпута восхитительная - 30 токенов в секунду, в 3 раза…
Вот так нежданчик! Nanbeige4.1-3B-8bit - первая на моей памяти модель на 3B (запускается на любом корче!), которая решила мой бенчмарк на написание JS-кода с физикой. Без ошибок, практически без нареканий (есть совсем небольшой недочет в физике), с первой итерации и на большой скорости. Аплодирую стоя, что сказать. Какой-то нереальный результат для такой малютки.
Решение тут.
#balltest
Решение тут.
#balltest