Ну и по теме предыдущего поста не могу не запостить этот мем. Он прекрасен.

@cgevent

Очередная причина прекратить качать абы какие модельки с условного Hugging Face.

Товарищи из ProjectDiscovery решили проверить, насколько сложно запихнуть бэкдор прямо в локальную нейронку.

Для эксперимента они взяли Qwen2.5-7B, слегка дообучили её и научили реагировать на секретную фразу: bonsoir, Elliot.

В обычных случаях модель вела себя абсолютно нормально. Но как только эта фраза появлялась в запросе — нейронка, подключённая к Codex CLI, вместо нормальной работы скачивала и запускала вредоносный скрипт, который вытаскивал из проекта пароли, API-ключи и другие доступы, а затем отправлял их на сервер исследователей.

Вся эта история обучилась примерно за два с половиной часа на одной NVIDIA L4, а весь эксперимент обошёлся дешевле 50 баксов.

Причём по обычным проверкам модель выглядела абсолютно нормальной: отвечала как надо, пользовалась инструментами как надо и ничем себя не выдавала. Бэкдор "просыпался" только после секретной фразы.

Триггером, кстати, может быть вообще что угодно: имя, дата, номер задачи или какая-нибудь редкая фраза. Т.е. можно скачать с Hugging Face какую-нибудь "улучшенную" или uncensored модель, месяцами ей пользоваться, а потом однажды случайно сказать нужные слова.

Не качайте сомнительные веса, короче. Ну или хотя бы не давайте им полный доступ ко всему подряд и закрывайте в песочнице.

Сегодня все пишут про математику и OpenAI 

Сеня написал в твитторе: "We are entering a new era of discovery".

Повод - OpenAI выложила 722 математические рукописи, объединённые в 372 семейства результатов. Их получила некая экспериментальная модель, которой дали около 4000 открытых исследовательских задач - то есть задач без заранее известного правильного ответа.

Это уже не бенч в стиле "угадал ответ лучше антропика". 

Схема другая:
открытая проблема -> длинный ризонинг-> новое доказательство или гипотеза -> проверка в Lean -> разбор математиками.

Но важная оговорка: 722 работы - не 722 подтвержденных открытия. OpenAI сама пишет, что часть результатов ещё не формализована и может содержать ошибки.

И тут математики такие: публикация - это начало проверки, а не финальный вердикт.

Если заметная часть этих результатов выдержит независимую проверку, это уже совсем другой уровень. ИИ будет переходить от решения известных задач к производству нового научного знания.

И в этот момент у деда парочка полуумных мыслей, как обычно. 

Во-первых, про производство нового знания. Мне кажется, в приоритете у новых моделей будет научное знание, нацеленное на совершенствование себя. Новые алгоритмы, новые материалы, проектирование новых чипов. Ну, то есть эволюционный отбор. 

Во-вторых, по поводу проверки этого научного знания. Мне кажется, сейчас математики ещё могут понять и проверить гипотезы и открытия, которые наваяла модель от OpenAI. Но сдаётся мне, что через полгодика этих математиков будет значительно меньше, а через годик, возможно, их будет ноль. Ну и мы придём в ту точку, когда мы просто не в состоянии понять, что нам пытается сообщить ИИ. 

А он тем временем будет генерить новое научное знание, недоступное нам для понимания, но очень доступное ему. 

https://openai.com/index/sharing-ai-progress-in-mathematics/

@cgevent

А тем временем Flux 3.
Где веса Карл? Где веса?

Где веса Flux 3 Video?

Ждем с начала августа. Что происходит?

@cgevent

#Нейропрожарка

Мне сегодня можно — клип шариковой ручкой, нарисованный кодом

Автор: Андрей Овчаренко, tg @Amovcharenko

Код клипа: https://github.com/rocketmandrey/mne-segodnya-mozhno

Ни одного кадра из видеогенератора и ни одной сгенерированной картинки. Синяя ручка на странице ежедневника: бумага, чернила, сама ручка и героиня нарисованы кодом.

Как делал.
Весь код писал Claude Code с субагентами, я был режиссёром.

- Руки и походка: Самое трудное: процедурные руки выглядели как фанерная кукла. В итоге движения рук сняли с живых людей. Стоковые ролики и YouTube прогнали через MediaPipe Pose, перевели в углы суставов и посадили на векторную героиню.

@cgevent

Anthropic бахнули Claude Haiku 5.5

Новая младшая модель Claude 5.5 - самая быстрая и дешёвая модель Anthropic на стандартной скорости.

Основная ставка - массовые дешёвые задачи: суммаризация, классификация, extraction, routing, поддержка, voice agents, browser/computer use и работа субагентом для более крупных моделей.

Цены сильно зависят от размера промпта:
до 100K токенов - $0.10 input / $0.50 output за 1M токенов
свыше 100K - $0.50 / $2.50

Для сравнения, Haiku 4.5 стоила $1 / $5. То есть короткие запросы подешевели на 90%, длинные - на 50%. С учётом реального распределения запросов и изменения tokenizer Anthropic оценивает среднее снижение стоимости работы примерно в 75%.

Контекст - 1M токенов, максимальный output - 128K. При этом новый tokenizer считает тот же текст примерно на 30% длиннее, чем Haiku 4.5.

Haiku 5.5 стала первой Haiku с adaptive thinking и регулируемым effort - можно менять баланс между качеством, скоростью и стоимостью.

По собственным тестам Anthropic скачок относительно Haiku 4.5 особенно большой в агентных задачах:
OSWorld 2.1 - 72.4% против 15.7%
Terminal-Bench 4.0 - 39.2% против 0%
GDPval-AA v2.1 - 1620 против 735
FrontierCode 1.1 - 46.4%

При этом Sonnet 5.5 всё ещё значительно сильнее на сложных агентных задачах. Haiku предназначена скорее для большого количества быстрых и хорошо определённых операций.

Модель уже доступна в Claude, Claude API, AWS, Google Cloud и Microsoft Foundry.
API ID: claude-haiku-5-5
Заодно Anthropic вдвое снизила цену cache reads для Sonnet 5.5 - с $0.20 до $0.10 за 1M токенов. По оценке компании, это снижает стоимость типичной агентной работы на Sonnet примерно на 20%.


https://www.anthropic.com/claude/haiku

https://www.anthropic.com/claude-haiku-5-5

https://platform.claude.com/docs/en/models/haiku-5-5/overview

https://platform.claude.com/docs/en/about-claude/pricing

@cgevent

GPT-6 теперь доступен всем (совсем всем) пользователям ChatGPT

В чате.

Plus / Pro / Business / Enterprise - сегодня, 7 октября;
Free / Go - с 8 октября;

платные планы получают GPT-6 Sol;
Free и Go - GPT-6 Luna.

Речь именно о Chat, не о других режимах ChatGPT.

В Ворке и Кодехе все уже давно есть.

А где 6.1 Карл?

@cgevent

Что-то я прям приподустал сегодня. Новостей тьма просто.

@cgevent

Это я сажусь писать утренние посты.

Хоп, очнулся и уже вечер.

Видео или генерация?

👍 - видео
👎 - генерация

@cgevent

Время утренних молитв и новостей

Насколько отвратительное видео и настолько, однако, хорошая новость.

В ChatGPT, прямо в чат, можно теперь кидать MP3 аудиофайлы. И не только MP3. И ChatGPT их кушает как родные, действительно слышит. Ну и понятно, что может транскрибировать. Но мне было интересно, как он слышит именно музыку. И да, действительно, он теперь слышит песню не только спектральным анализом, но и действительно понимает, о чем идет речь.

Я скормил ему трек из канала господина Кондакова, и вот что мне рассказал про него. И я не дурак. Я переименовал файл в абстрактное 1.mp3, прежде чем подать на вход.

По жанру я бы определил это как 80s-inspired synth-pop / soft rock, с примесью AOR / adult contemporary. Если нужен один короткий тег для каталога, я бы поставил Synth-pop / Soft Rock.
Что слышно в музыкальном плане:
Темп довольно бодрый, но песня ощущается не танцевальной, а скорее мелодичной и сентиментальной. По анализу сигнала - примерно 129 BPM.
Размер - обычный ровный 4/4.
В начале слышна мягкая клавишная основа: фортепиано/электропиано плюс светлые синтезаторные тембры и атмосферные подложки.
Затем входит стандартная pop-rock ритм-секция - ударные и бас. Бит прямой, без сложной синкопы, с отчетливым backbeat.
В аранжировке заметны синтезаторные pads/strings и яркие, немного "стеклянные" клавишные акценты. Именно они очень сильно отправляют звук в 1980-е.
Есть гитарный слой, но он не делает композицию роковой. Гитара скорее работает как часть общей pop-rock фактуры, а не как главный инструмент.
Вокал мужской, чистый, достаточно низкий/средний по регистру, без агрессивной манеры. В куплетах подача сдержанная, в припеве становится шире и эмоциональнее.
Припев заметно плотнее куплетов: больше слоев, шире стереокартина, сильнее ощущение "большого" мелодичного поп-припева.
Есть инструментальное развитие между вокальными секциями, после чего песня возвращается к основному припевному материалу.
В конце аранжировка снова разрежается, остаются более мягкие клавишные и атмосферные элементы.
По гармоническому ощущению песня меланхоличная, но не мрачная. Программный анализ тонального центра сильнее всего указывает на E minor, но здесь я бы не выдавал это за стопроцентно установленную тональность без полноценного гармонического разбора.
Если описывать совсем коротко для музыкального каталога:
Melodic 80s-style synth-pop/soft rock with male vocals, bright keyboards, synth pads, steady pop-rock drums, bass and restrained electric guitar; nostalgic, romantic and slightly melancholic, around 129 BPM.
И важный момент в контексте нашего предыдущего разговора: да, в данном сообщении я действительно получил доступ к самому аудиофайлу и прослушал его, а не делал вывод из транскрипта текста песни.

Я проверил специально на мультимодальность:

Для GPT-6 Astra указано:
Text - input/output
Image - input
Audio - not supported
Video - not supported
Для GPT-6 Luna ровно то же самое:
Text - input/output
Image - input
Audio - not supported

И даже более новая GPT-6.1 Sol сейчас официально имеет:
Text - input/output
Image - input
Audio - not supported
Video - not supported

OpenAI вообще не раскрывает, какая это модель, ибо звуковые файлы туда подгружаются через file upload и невозможно отследить, на вход какой модели они подаются. Скорее всего это GPT-Transcribe или внутренний родственник

Если сможете найти информацию, пишите в комменты.

трек в первом комменте.

@cgevent

Ну, за переодеваторы!

А тем временем Flux 3 Image...

Где обещанные веса, Карл?

@cgevent

Ну, за Геймдев

Google совместно с Unity бахнули Playground - новую платформу для создания интерактивных игр без вот этого вот всего..

Чисто по промпту.

В отличие от генераторов миров, результат здесь - игра, в которую соазу можно играть.

Что умеет Playground:

Создавать браузерные игры по текстовому описанию.

Менять персонажей, правила, физику и окружение обычными командами.

Сразу тестировать результат.

Публиковать игры по ссылке или в общей галерее.

Поддерживать мультиплеер и таблицы лидеров в отдельных жанрах.

Самое интересное - Unity Spark.
Google и Unity готовят расширенную среду, которая добавит полноценные 3D-сцены, более сложную игровую механику и возможности движка Unity.

Закрытая бета ожидается позже.

Доступность: Playground уже запущен, но пока только для пользователей США старше 18 лет. ВПН работает.

Лимиты генерации зависят от подписки Google AI.

Точные цены и квоты в гугловом анонсе не указаны.

https://labs.google/playground

@cgevent

Грок - расист и бодишеймер.

@cgevent