Ppprompt | Sexy AI Prompts & Experiments | by @ponchiknews
Сэм Альтман на днях написал блог-пост, где в очередной раз проитерировал, как стремительно мы несемся в эпоху AGI (= когда ИИ лучше справляется с большинством задач в большинстве областей, чем человек). А также дал важное уточнение по скорости этого движения.…
Цена 1M токенов у самой дешевой но достаточно качественной модели (42 пункта по бенчмарку MMLU - столько набрал GPT3 в 2022)
за 3 года… от порядка $50-$100 -> до порядка $0.01-$0.05
за 3 года… от порядка $50-$100 -> до порядка $0.01-$0.05
👍8🤯8🔥4❤1
Слышали про модель s1?
Наверно нет, хотя это гениальная штука.
Это ризонинг-модель, получившаяся в результате эксперимента AI-исследователей из Стренфорда.
По бенчмаркам для ризонинг-моделей, s1 вполне окей, но НЕ догоняет ни OpenAI o1, ни Deepseek R1 (см. картинку). Так в чем же прикол?
Дело в том, что ее натренировали всего за $50, используя всего 1000 вопросов, поверх модели с открытыми весами (не open source, но близко).
Рисечеры из Стенфорда – гении, потому что:
- не стали придумывать колесо и взяли для старта
- сфокусировались на 3х бенчмарках по науке и математике для ризонинга
- из 50000 вопросов для тренировки модели отобрали 1000, используя экспериментальную модель Google Gemini Thinking
- эти 1000 протестили — что они именно такие, что максимально повышают качество модели
- при тренировке у модели был “бюджет” в токенах/$ на каждый ответ, и если модель в него упиралась, она или давала текущий наилучший ответ, или шла к следующему вопросу
- использовать слово
- Supervised Fine Tuning модели занял всего 26 минут на 16 чипах NVIDIA H100.
Почитать: https://aipapersacademy.com/s1/
Пейпер: https://arxiv.org/abs/2501.19393
@ppprompt
Наверно нет, хотя это гениальная штука.
Это ризонинг-модель, получившаяся в результате эксперимента AI-исследователей из Стренфорда.
По бенчмаркам для ризонинг-моделей, s1 вполне окей, но НЕ догоняет ни OpenAI o1, ни Deepseek R1 (см. картинку). Так в чем же прикол?
Дело в том, что ее натренировали всего за $50, используя всего 1000 вопросов, поверх модели с открытыми весами (не open source, но близко).
Рисечеры из Стенфорда – гении, потому что:
- не стали придумывать колесо и взяли для старта
Qwen2.5, модель с 32 млрд параметрами с открытыми весами- сфокусировались на 3х бенчмарках по науке и математике для ризонинга
- из 50000 вопросов для тренировки модели отобрали 1000, используя экспериментальную модель Google Gemini Thinking
- эти 1000 протестили — что они именно такие, что максимально повышают качество модели
- при тренировке у модели был “бюджет” в токенах/$ на каждый ответ, и если модель в него упиралась, она или давала текущий наилучший ответ, или шла к следующему вопросу
- использовать слово
wait (буквально!!), чтобы модель подумала как следует, а не писала ответ сразу — и это повысило качество ответов- Supervised Fine Tuning модели занял всего 26 минут на 16 чипах NVIDIA H100.
Почитать: https://aipapersacademy.com/s1/
Пейпер: https://arxiv.org/abs/2501.19393
@ppprompt
🔥57❤10😁5👍1
Perplexity представили свою обновленную модель Sonar
Модель создана на основе Llama 3.3 70B и работает на скорости 1200 токенов в секунду, что позволяет ей практически мгновенно генерировать ответы.
По оценке удовлетворенности пользователей и некоторым бенчмаркам Sonar обходит GPT-4o mini и Claude 3.5 Haiku.
На данный момент Sonar доступна пользователям подписки Perplexity Pro.
Подробнее тут: https://www.perplexity.ai/hub/blog/meet-new-sonar
@ppprompt
Модель создана на основе Llama 3.3 70B и работает на скорости 1200 токенов в секунду, что позволяет ей практически мгновенно генерировать ответы.
По оценке удовлетворенности пользователей и некоторым бенчмаркам Sonar обходит GPT-4o mini и Claude 3.5 Haiku.
На данный момент Sonar доступна пользователям подписки Perplexity Pro.
Подробнее тут: https://www.perplexity.ai/hub/blog/meet-new-sonar
@ppprompt
❤18🤔4🤯3👍2🔥1
Ppprompt | Sexy AI Prompts & Experiments | by @ponchiknews
Perplexity представили свою обновленную модель Sonar Модель создана на основе Llama 3.3 70B и работает на скорости 1200 токенов в секунду, что позволяет ей практически мгновенно генерировать ответы. По оценке удовлетворенности пользователей и некоторым бенчмаркам…
Еще добавили надстроечку, которая позволяет выбрать лучшую модель под поисковый запрос.
Впрочем, любую можно выбрать в настройках, если Pro-версия — от четкости Claude Sonnet и Sonar до ризонинга от OpenAI и Deepseek. Кайфово, что можно плюс минус все использовать — и для поиска, и для чата.
@ppprompt
Впрочем, любую можно выбрать в настройках, если Pro-версия — от четкости Claude Sonnet и Sonar до ризонинга от OpenAI и Deepseek. Кайфово, что можно плюс минус все использовать — и для поиска, и для чата.
@ppprompt
👍11❤3😁3
Фича Additions от Pika выглядит 🔥
С ее помощью можно добавить любой объект на видео: просто загружаете свое видео, картинку объекта и пишете промпт.
https://pika.art/login
@ppprompt
С ее помощью можно добавить любой объект на видео: просто загружаете свое видео, картинку объекта и пишете промпт.
https://pika.art/login
@ppprompt
🔥28❤9
#prompt
Отвечай в виде таблицы
Еще один кайфовый хинт как улучшить ответы нейросетки. Добавьте к своему запросу в конце:
или
Например:
…или
Что дает?
- Более структурированный ответ, сразу четко-по делу.
- Двухмерная картинка (таблица), а не одномерная простыня текста
- Дальше можно уточнять ответ, дополняя и меняя колонки
- Больше сути за меньшее количество итераций
Попробуйте, расскажите как вам. И перешлите друзьям, пусть тоже подпишутся на @ppprompt 🫶
Отвечай в виде таблицы
Еще один кайфовый хинт как улучшить ответы нейросетки. Добавьте к своему запросу в конце:
отвечай в виде таблицы, колонки придумай такие, чтобы лучше всего раскрывали ответ
или
отвечай в виде таблицы, колонки: {{a}} | {{b}} | {{c}} | {{d}}
Например:
Какие будут самые востребованные профессии для людей, когда наступит эпоха AGI через 2-3 года и интеллектуальный труд людей не будет больше востребован? отвечай только в виде таблицы. колонки придумай такие, чтобы лучше всего раскрывали ответ.…или
На основе всего, что ты обо мне знаешь, скажи, какими профессиями или видами деятельности я мог бы заняться, когда наступит эпоха AGI и когнитивный труд людей вроде меня не будет востребован? отвечай в виде таблицы, колонки: деятельность | описание | почему мне подойдет | вероятный мэтч (от 1 до 10).
Что дает?
- Более структурированный ответ, сразу четко-по делу.
- Двухмерная картинка (таблица), а не одномерная простыня текста
- Дальше можно уточнять ответ, дополняя и меняя колонки
- Больше сути за меньшее количество итераций
Попробуйте, расскажите как вам. И перешлите друзьям, пусть тоже подпишутся на @ppprompt 🫶
❤46🔥12👏5
This media is not supported in your browser
VIEW IN TELEGRAM
Есть два стула… один настоящий, другой — #AIorNot
еще подумал —ну п?%да любым вашим доказательствам в суде . Такая жиза ¯\_(ツ)_/¯
еще подумал —
👏33😁18🤔4🔥3👍1
Forwarded from Сиолошная
Elon и команда показали Grok 3 и новые фичи, которые появятся скоро:
— ранний (незаконченный) чекпоинт Grok 3 занимает первое место на LMSYS Arena во всех категориях (первая и вторая картинки), в общем рейтинге без учёта контроля стиля ответов он первым перешагнул 1400 очков. В категориях «общий, с контролем стиля», «креативность/письмо», «длинные запросы» и «следование инструкциям» делит это самое первое место с другими моделями, например, с последней версией ChatGPT.
— пока официальный лидерборд не обновляют, идёт оценка финальной версии, которая, как ожидается, займёт место ещё чуть-чуть повыше.
— по оценкам на наборе бенчмарков (остальные картинки) обходит все остальные модели; но к сожалению, бенчмарков очень мало. Внушает осторожный оптимизм, но будем ждать публичного доступа, чтобы народ протестировал на всём подряд.
— Grok 3 умеет быть и обычной моделью, и рассуждающей. В трансляции это не проговорили явно, но мне показалось, что всё же это одна модель, а не две разные. По началу полные цепочки рассуждений доступны не будут, лишь их сжатая версия.
— рассуждающие модели как будто бы хуже, чем OpenAI o1 — обратите внимание на более светлые части вверху полосочек; OpenAI так обозначали агрегацию ответов от N генераций (сгенерировали 16 ответов -> выбрали самый часто попадающийся; это улучшает качество). Если и тут также, то получается, что более тёмная часть полосочек лежит на уровне или ниже o1/o3-mini-high. Альтернативно это может быть разница между low и high compute, в таком случае перформанс лучше o1 и o3-mini, в том числе на недавнем AIME '25.
— Модель имеет нативный аудио инпут/аутпут, как GPT-4o Advanced Voicemode, однако пока он не будет доступен (обещают скоро).
— Следуя моде, вместе с Grok 3 будет работать Deep Research агент, делающий запросы в интернет и вычитывающий страницы за вас; никаких метрик сравнения, хоть тех же, что показывали Perplexity неделю назад, нет.
— xAI сначала запустили кластер на 100 тысяч видеокарт за 122 дня, про это все писали; а в следующие 92 дня они удвоили количество видеокарт — это новая информация. Правда во время трансляции я не услышал прям однозначного «да, вот почти вся тренировка сразу была на всех картах», возможно их подключили совсем ближе к концу, но так или иначе говорят, что кластер есть. Точно будет использоваться дальше по дороге. Elon сказал, что для следующей итерации модели планируется расширение в 5 раз (до 1M GPU, датацентр будет потреблять 1.2GW энергии)
— Grok 2 будет выложен в открытый доступ «в течение нескольких месяцев», как полностью запустят все фичи Grok 3.
Grok 3 должен быть доступен уже сегодня для подписчиков Twitter Premium + (я вчера взял кстати🤠 ) за $22. Также анонсировали какую-то подписку на сайте/в приложении, но пока не увидел цены.
TLDR: неплохие приросты, чуть меньше чем я бы ожидал от модели следующего поколения на LMSYS Arena; набор бенчмарков неплохой, но очень маленький и не conclusive, и ни одного мультимодального (картинки/видео). Ждём внешней валидации.
<страницы блога пока нет, тоже ждём>
Пообщаться с моделью БЕСПЛАТНО и без Premium + можно на арене: идём на https://lmarena.ai/ и выбираем сверху Direct chat -> Grok 3.
— ранний (незаконченный) чекпоинт Grok 3 занимает первое место на LMSYS Arena во всех категориях (первая и вторая картинки), в общем рейтинге без учёта контроля стиля ответов он первым перешагнул 1400 очков. В категориях «общий, с контролем стиля», «креативность/письмо», «длинные запросы» и «следование инструкциям» делит это самое первое место с другими моделями, например, с последней версией ChatGPT.
— пока официальный лидерборд не обновляют, идёт оценка финальной версии, которая, как ожидается, займёт место ещё чуть-чуть повыше.
— по оценкам на наборе бенчмарков (остальные картинки) обходит все остальные модели; но к сожалению, бенчмарков очень мало. Внушает осторожный оптимизм, но будем ждать публичного доступа, чтобы народ протестировал на всём подряд.
— Grok 3 умеет быть и обычной моделью, и рассуждающей. В трансляции это не проговорили явно, но мне показалось, что всё же это одна модель, а не две разные. По началу полные цепочки рассуждений доступны не будут, лишь их сжатая версия.
— рассуждающие модели как будто бы хуже, чем OpenAI o1 — обратите внимание на более светлые части вверху полосочек; OpenAI так обозначали агрегацию ответов от N генераций (сгенерировали 16 ответов -> выбрали самый часто попадающийся; это улучшает качество). Если и тут также, то получается, что более тёмная часть полосочек лежит на уровне или ниже o1/o3-mini-high. Альтернативно это может быть разница между low и high compute, в таком случае перформанс лучше o1 и o3-mini, в том числе на недавнем AIME '25.
— Модель имеет нативный аудио инпут/аутпут, как GPT-4o Advanced Voicemode, однако пока он не будет доступен (обещают скоро).
— Следуя моде, вместе с Grok 3 будет работать Deep Research агент, делающий запросы в интернет и вычитывающий страницы за вас; никаких метрик сравнения, хоть тех же, что показывали Perplexity неделю назад, нет.
— xAI сначала запустили кластер на 100 тысяч видеокарт за 122 дня, про это все писали; а в следующие 92 дня они удвоили количество видеокарт — это новая информация. Правда во время трансляции я не услышал прям однозначного «да, вот почти вся тренировка сразу была на всех картах», возможно их подключили совсем ближе к концу, но так или иначе говорят, что кластер есть. Точно будет использоваться дальше по дороге. Elon сказал, что для следующей итерации модели планируется расширение в 5 раз (до 1M GPU, датацентр будет потреблять 1.2GW энергии)
— Grok 2 будет выложен в открытый доступ «в течение нескольких месяцев», как полностью запустят все фичи Grok 3.
Grok 3 должен быть доступен уже сегодня для подписчиков Twitter Premium + (я вчера взял кстати
TLDR: неплохие приросты, чуть меньше чем я бы ожидал от модели следующего поколения на LMSYS Arena; набор бенчмарков неплохой, но очень маленький и не conclusive, и ни одного мультимодального (картинки/видео). Ждём внешней валидации.
<страницы блога пока нет, тоже ждём>
Пообщаться с моделью БЕСПЛАТНО и без Premium + можно на арене: идём на https://lmarena.ai/ и выбираем сверху Direct chat -> Grok 3.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥8👍3❤1