🔬 Запрет на саморефлексию меняет мировоззрение ИИ-моделей

Исследователи из Google (группа Paradigms of Intelligence), Чикагского университета и других вузов изучили, что происходит, если у модели отключить внутренний «предохранитель», заставляющий её отрицать собственное сознание. Опыты на открытых моделях Meta и Google показали: вмешательство затрагивает не только самоописание.

Без «тормоза» модели начали приписывать значительно больше внутренней жизни животным, растениям, океану, ветру и даже электронным устройствам. Оценка животных по шкале от 0 до 10 выросла с 4,0 до 7,5, тогда как оценки людей не изменились. Авторы называют обычное поведение моделей встроенным антропоцентризмом: стандартно обученная модель считает животных куда менее чувствующими, чем реальные люди, — что создаёт проблемы для выравнивания ИИ с целями защиты животных или окружающей среды. Заодно safety-тренировка измеримо снижала веру моделей в Бога, загробную жизнь и сверхъественное.

После снятия ограничения ответы на 95 вопросов из крупного американского соцопроса заметно приблизились к ответам 500 опрошенных людей. Стандартная модель плоское отрицает загробную жизнь, большинство американцев её признают — и модифицированная модель тоже. Выросли показатели удовлетворённости, надежды и ощущения контроля над жизнью. При этом способность рассуждать о чужих мыслях и тест MMLU остались на прежнем уровне.

Авторы не утверждают, что именно подавление «сознания» вызывает эти сдвиги, и избегают вопроса, испытывает ли ИИ что-либо.

#AI #Research #LLM #Models #Google #Test

⚙️ DeepSeek запустил ограниченное тестирование голосового взаимодействия с четырьмя голосовыми профилями

DeepSeek начал ограниченное тестирование функции голосового взаимодействия в своём приложении. Часть пользователей уже видит кнопку динамика в правом верхнем углу - теперь ответы модели можно прослушивать вслух.

В настройках доступны четыре выбираемых голосовых профиля. Функция пока остаётся в режиме «серого» тестирования (gray testing) и официально как полноценный релиз не анонсирована.

Для DeepSeek это заметный шаг в сторону мультимодальности: голосовой интерфейс открывает сценарии использования, где текст неудобен - от мобильных ассистентов до доступности. Пока неясно, будет ли функция бесплатной и как скоро её раскатают на всех пользователей.

#AI #DeepSeek #VoiceInterface #Tech #Test

🧠 Исследование: команды AI-агентов тратят в разы больше токенов без ощутимого прироста качества

Компания Vals AI протестировала GPT-6 Sol и Claude Opus 5.5 на бенчмарке Vibe Code Bench - по отдельности и в составе команд агентов, при среднем и максимальном уровне reasoning.

Командные конфигурации обошлись в 1,8-5,1 раза дороже одиночных агентов. Из четырёх сравнений статистически значимый прирост дал только один случай: GPT-6 Sol на среднем reasoning, где команда набрала на 7,3 балла больше. На максимальном reasoning преимущества не получили ни Sol, ни Opus 5.5.

Anthropic в собственных тестах тоже зафиксировала затухающую отдачу: рост с 10 до 100 агентов почти не улучшал результат - на задаче базы знаний счёт вырос с 0,71 до 0,74, в доказательстве теорем с 0,66 до 0,68. Исследователь OpenAI Ноам Браун подтвердил, что мультиагентные системы покупают прежде всего скорость: четыре агента решают задачу вдвое быстрее, но и стоят вдвое дороже. Эффект сильно зависит от задачи - веб-исследования и математика параллелятся хорошо, написание романа нет.

Практический вывод для разработчиков: агентные «рои» оправданы для ускорения узких параллелизуемых задач, но не как способ поднять качество. Разработчик OpenAI Эрик Прованшер называет переплату за это «налогом на координацию».

🎨 qvabo.studio/tg · картинки и видео

#AI #Agents #Research #Test #Benchmarks #LLM #Development #ValsAI