• • • • • • • • • • • •
1) ИИ усложняет поиск работы для начинающих программистов
Стэнфорд провел исследование и выяснил неприятную вещь: начинающим кодерам стало намного сложнее найти работу. За последние три года занятость в сферах, где активно используется ИИ, упала на 13%. При этом опытные разработчики чувствуют себя нормально — их показатели даже выросли.
Картина понятная: ИИ больше всего влияет там, где может полностью автоматизировать задачи. Если он просто помогает, влияние меньше. Изменения начались после выхода ChatGPT в конце 2022 года.
Грустно для джунов, но логично. ИИ-инструменты делают опытных разработчиков еще продуктивнее, а простые задачи, которые раньше доставались новичкам, теперь решает машина.
Источник
• • • • • • • • • • • •
2) На заводе Hyundai два человека работают с одним роботом
В Джорджии запустили ультрасовременный завод Hyundai, где соотношение людей и роботов 2:1. Для сравнения — в среднем по автоиндустрии это 7:1. На заводе 750 роботов и 1450 сотрудников.
Роботы делают всё: сварку, установку дверей, перемещение деталей, даже осматривают готовые Ioniq с помощью камер. Сотни автономных транспортных средств ездят по цехам. Люди в основном устраняют неполадки и следят за качеством.
Hyundai использует роботов от своей Boston Dynamics — видимо, решили показать, на что способны их железные собачки в реальном производстве (шутка юмора). Люди занимаются творческими задачами, роботы — рутиной.
Источник
• • • • • • • • • • • •
3) OpenAI выпустили новую модель gpt-realtime и открыли Realtime API
OpenAI релизнули gpt-realtime — специальную модель для голосовых помощников и ботов. Прокачали следование инструкциям, уменьшили задержку, улучшили естественность речи и добавили вызов инструментов.
Получается ультимативный голосовой бот, который говорит как живой консультант, при необходимости лезет в базу знаний и четко следует правилам разработчика. Плюс два новых голоса добавили.
Realtime API наконец вышло из беты. Туда запилили MCP, возможность загружать картинки и еще несколько полезных фишек. Теперь можно делать действительно крутых голосовых ассистентов.
+ 1 серьезный шаг к тому самому "ИИ-компаньону", который будет болтать с тобой как живой человек
Источник
• • • • • • • • • • • •
Please open Telegram to view this post
VIEW IN TELEGRAM
1 15❤5👍4👏2🔥1
This media is not supported in your browser
VIEW IN TELEGRAM
Роботов научили играть в настольный теннис
• • • • • • • • • • • •
Камеры отслеживают мячик, робот двигается как человек. По итогу, играет довольно неплохо
Больше инфы тут
• • • • • • • • • • • •
🐈 Поставил реакцию = погладил котика
✨ #ии
• • • • • • • • • • • •
Камеры отслеживают мячик, робот двигается как человек. По итогу, играет довольно неплохо
Больше инфы тут
• • • • • • • • • • • •
Please open Telegram to view this post
VIEW IN TELEGRAM
1 10🔥7😱5 3
This media is not supported in your browser
VIEW IN TELEGRAM
😁 когда мне нужно дать срочную задачу разработчику
1😁21💯5 3
Коллега @demshin скинул мне интересные актуальные курсы про ИИ, полностью бесплатные, при этом очень качественно сделанные. Спешу поделиться:
Особо обратите внимание на:
- AI Fluency: Framework & Foundations
- AI Fluency for Educators
- AI Fluency for Students
- Teaching AI Fluency
Курсы тут
Источник
PS курсы на английском, но, надеюсь, все уже умеют переводить в браузере все?
• • • • • • • • • • • •
🐈 Поставил реакцию = погладил котика
✨ #полезныеинструменты
Особо обратите внимание на:
- AI Fluency: Framework & Foundations
- AI Fluency for Educators
- AI Fluency for Students
- Teaching AI Fluency
Курсы тут
Источник
PS курсы на английском, но, надеюсь, все уже умеют переводить в браузере все?
• • • • • • • • • • • •
Please open Telegram to view this post
VIEW IN TELEGRAM
Anthropic Courses
Learn to build with Claude AI through Anthropic's comprehensive courses and training programs.
🔥10❤6 5👍2👏1🦄1
• • • • • • • • • • • •
1) OpenAI решила завоевать Индию супердешевой подпиской
OpenAI запустила в Индии тариф ChatGPT Go всего за $4,6 в месяц — это самая дешевая подписка на ChatGPT во всем мире. Супер логично. Индия — это почти миллиард интернет-пользователей и второй по величине рынок для OpenAI по числу пользователей.
ChatGPT Go расширяет лимиты бесплатного уровня в десять раз, что довольно щедро. Это значительно меньше, чем в Plus, но большинству хватит.
Вероятно, скоро Индия может стать крупнейшим рынком для OpenAI. Учитывая такую ценовую политику, это вполне реально.
Источник
• • • • • • • • • • • •
2) Tencent выпустил переводчик с "ансамблевой архитектурой"
Китайцы из Tencent представили Hunyuan-MT-7B — модель для перевода текста, которая, по их словам, показывает лучшие в отрасли результаты среди моделей сопоставимого размера.
Это чуть ли не единственная open-source модель для перевода, использующая ансамблевую архитектуру. Работает так: несколько вариантов перевода объединяются в один высококачественный текст - за счет выбора - улучшается кач-во. Модель поддерживает 33 языка, включая русский.
Демо пока только на китайском, что немного иронично для переводчика)) Но код доступен всем, так что можно попробовать самостоятельно, если сможете запустить.
Гитхаб
Демо
• • • • • • • • • • • •
3) Microsoft и NFL решили подружить ИИ с американским футболом
Microsoft и NFL объявили о расширении своего партнерства — теперь тренеры и игроки получат доступ к ИИ-аналитике матчей.
32 команды получат специально разработанные Surface Copilot — всего более 2,5 тысяч планшетов. Тренеры смогут использовать Excel с Copilot для ввода данных, а ИИ-агенты будут помогать искать игроков и контролировать зарплаты. Скауты уже используют Azure для оценки потенциальных игроков. По аналитике и что можно будет по матчам анализировать - конкретики особой нет.
Интересно посмотреть, как это повлияет на качество игры.
Источник
• • • • • • • • • • • •
4) Nous Research выпустили "бесцензурную" модель Hermes 4
Малоизвестный стартап Nous Research представил Hermes 4 — семейство open-source моделей, которое по производительности сравнимо с топовыми конкурентами (сужу только по бенчам, сам не тестировал пока что), но почти не имеет цензуры.
Модель позволяет переключаться между быстрым и глубоким режимом рассуждения как GPT-5, при этом весь "мыслительный процесс" полностью прозрачен. В математических тестах Hermes 4 405B показала впечатляющие результаты: 96.3% на MATH-500 и 81.9% в AIME'24.
Там, где Claude и ChatGPT часто отвечают "извините, я не могу", Hermes 4 отвечает в два-три раза чаще. Уровень цензуры разработчики могут настроить самостоятельно. Это может быть как плюсом, так и минусом, в зависимости от задач.
Код
Источник
• • • • • • • • • • • •
Please open Telegram to view this post
VIEW IN TELEGRAM
1 18❤5👍5👏2🔥1
Робот Optimus теперь будет обучаться исключительно через камеры
• • • • • • • • • • • •
В тренировке роботов Tesla Optimus произошла серьезная смена парадигмы. В конце июля сотрудникам объявили о переходе на vision-only подход — то есть обучение исключительно на основе видео и изображений.
Это очень в духе Tesla: точно такую же стратегию они используют в разработке автопилота, принципиально отказываясь от LiDAR'ов, в отличие от конкурентов вроде Waymo. Илон Маск давно твердит, что если человек может водить машину, используя только глаза, то и ИИ должен справляться.
Что изменилось:
• Раньше использовали VR-гарнитуры и костюмы захвата движения для записи траекторий движения людей при выполнении задач
• Теперь фокус смещается на простую видеосъемку рабочих, выполняющих различные операции
• Отказ от motion capture позволит команде быстрее масштабировать сбор данных
• Больше не нужно тратить время на починку и обслуживание сложного оборудования
• Значительно увеличивается пропускная способность системы обучения
Тут важно отметить, что в автоиндустрии (по некоторым тестам на ютубе и тд) - лидары показывают себя сильно лучше, чем камеры. Например, тесла не заметит человека в тумане/при сильном дожде, а лидары заметят. На эту тему можно похоливарить, я просто хочу заметить, что я лично не уверен, что подхода Маска через камеры - во всем лучше.
Источник
• • • • • • • • • • • •
🐈 Поставил реакцию = погладил котика
✨ #обзорстатьи
• • • • • • • • • • • •
В тренировке роботов Tesla Optimus произошла серьезная смена парадигмы. В конце июля сотрудникам объявили о переходе на vision-only подход — то есть обучение исключительно на основе видео и изображений.
Это очень в духе Tesla: точно такую же стратегию они используют в разработке автопилота, принципиально отказываясь от LiDAR'ов, в отличие от конкурентов вроде Waymo. Илон Маск давно твердит, что если человек может водить машину, используя только глаза, то и ИИ должен справляться.
Что изменилось:
• Раньше использовали VR-гарнитуры и костюмы захвата движения для записи траекторий движения людей при выполнении задач
• Теперь фокус смещается на простую видеосъемку рабочих, выполняющих различные операции
• Отказ от motion capture позволит команде быстрее масштабировать сбор данных
• Больше не нужно тратить время на починку и обслуживание сложного оборудования
• Значительно увеличивается пропускная способность системы обучения
Тут важно отметить, что в автоиндустрии (по некоторым тестам на ютубе и тд) - лидары показывают себя сильно лучше, чем камеры. Например, тесла не заметит человека в тумане/при сильном дожде, а лидары заметят. На эту тему можно похоливарить, я просто хочу заметить, что я лично не уверен, что подхода Маска через камеры - во всем лучше.
Источник
• • • • • • • • • • • •
Please open Telegram to view this post
VIEW IN TELEGRAM
Business Insider
Tesla shifted its Optimus training strategy — and it's using a familiar playbook
The Optimus team has shifted away from motion capture suits and virtual reality headsets and plans to prioritize a vision-only approach.
Please open Telegram to view this post
VIEW IN TELEGRAM
1😁11❤7🔥5👏1
• • • • • • • • • • • •
1) Cursor будет продавать данные (код) пользователей
Сам Cursor компания-разработчик Anysphere пока продавать не хочет, но предлагает лицензировать свои данные. Это позволит им выйти в плюс. Среди покупателей: OpenAI, xAI и Anthropic.
Те, кто пользуются курсором: теперь нужно еще осторожнее это делать) Чтобы потом не обнаружить примеры собственного кода с реальными ключами и данными в ответах ChatGPT/Claude.
Источник
• • • • • • • • • • • •
2) Anthropic провели новый раунд, привлекли 13млрд$ при оценке в 183млрд$
Теперь они топ-4 дорогих стартапов и топ-3 дорогих ИИ-корпораций (после OpenAI и xAI).
Источник
• • • • • • • • • • • •
3) В ChatGPT будет добавлена функция родительского контроля
После громких недавних случаев с суицидами подростков - OpenAI в срочном порядке вводят такие фичи, как уведомления от ИИ в случае "подозрительных чатов", и возможность настройки ответов ChatGPT в зависимости от возраста.
Ну не знаю, я никогда в родительский контроль не верю. Кому нужно будет обойти - обойдет. А кому не нужно обходить - и скрывать нечего) Я так считаю.
Источник
• • • • • • • • • • • •
4) Китай ввел обязательную маркировку всего ИИ-контента
С 1 сентября. Весь контент. Тексты/картинки/аудио/видео - должны обязательно быть помечены таким образом во всех соц.сетях. И на видимой части, и невидимые водяные знаки.
За несоблюдение правил соц.сети уже банят пользователей. А еще и пожаловаться можно на подозрительные посты, которые похоже на ИИ, но не помечены соответствующе.
Источник
• • • • • • • • • • • •
Please open Telegram to view this post
VIEW IN TELEGRAM
1 18❤2👍2🔥2😍1
Mirage 2 - еще одна модель мира
• • • • • • • • • • • •
Еще один генератор миров в студию. И уже поинтереснее, чем Genie 3 и аналоги. Прямо на сайте можно выбрать из картинок или загрузить свою, и побегать. Я загрузил котика и побегал по барселоне за него. Прикольно.
Да, оно работает медленно, супер глючно и тд - но камон, это уже генерация по вашей картинке в реальном времени. Просто пушка, нет слов) Я убежден, что - это будущее кино/игро-индустрий. Игры и фильмы будут индивидуально делаться под каждого человека, причем генерироваться будут налету в зависимости от ваших желаний. Если так пофантазировать - начинает попахивать матрицей.
Попробовать можно тут
PS завтра сделаю обзор статьи, где рассказывается, почему модели мира - это очень важно для текущих ИИшек
• • • • • • • • • • • •
🐈 Поставил реакцию = погладил котика
✨ #ии
• • • • • • • • • • • •
Еще один генератор миров в студию. И уже поинтереснее, чем Genie 3 и аналоги. Прямо на сайте можно выбрать из картинок или загрузить свою, и побегать. Я загрузил котика и побегал по барселоне за него. Прикольно.
Да, оно работает медленно, супер глючно и тд - но камон, это уже генерация по вашей картинке в реальном времени. Просто пушка, нет слов) Я убежден, что - это будущее кино/игро-индустрий. Игры и фильмы будут индивидуально делаться под каждого человека, причем генерироваться будут налету в зависимости от ваших желаний. Если так пофантазировать - начинает попахивать матрицей.
Попробовать можно тут
PS завтра сделаю обзор статьи, где рассказывается, почему модели мира - это очень важно для текущих ИИшек
• • • • • • • • • • • •
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥6 5❤4👏2
• • • • • • • • • • • •
1) Apple готовит поисковик на ИИ, чтобы потеснить Google и OpenAI
Apple работает над собственным инструментом веб-поиска на базе ИИ под названием World Knowledge Answers. Планируют интегрировать его в Siri к 2026 году, а потом добавить в Safari и Spotlight.
Руководители Apple называют новый сервис "системой ответов" — будет работать как ChatGPT или AI Overviews от Google. Решение построят на больших языковых моделях, частично позаимствовав базовую технологию у Google.
Интересно, получится ли у Apple создать что-то действительно конкурентоспособное или это будет очередная неуспешная попытка догнать рынок?
Источник
• • • • • • • • • • • •
2) Atlassian покупает разработчика браузера Arc за $610 млн
Atlassian приобретает The Browser Company — создателей браузеров Arc и Dia. Планируют совместно сделать браузер с ИИ специально для работников интеллектуального труда.
Сделка на $610 миллионов должна закрыться во втором квартале 2026 финансового года Atlassian. Логично — у Atlassian куча продуктов для команд, а Arc известен своим нестандартным подходом к браузингу.
Будет интересно посмотреть, как они объединят философию Arc с корпоративными потребностями. Надеюсь, мы не потеряем теперь Dia, и все будет хорошо.
Источник
• • • • • • • • • • • •
3) ИИ заменил 4 тысячи сотрудников поддержки в Salesforce
За год Salesforce сократила 4 тысячи рабочих мест в службе поддержки, заменив людей ИИ-агентами. Глава компании называет последние 8 месяцев 2025 года "самыми захватывающими".
Часть уволенных сотрудников поддержки перевели в продажи и другие отделы — реорганизация помогла увеличить возможности по дистрибуции. Salesforce остается одним из крупнейших работодателей Сан-Франциско с 76 тысячами сотрудников по всему миру.
Классический пример того, как ИИ меняет рынок труда. Рутинную поддержку действительно можно автоматизировать, а людей переводить на более сложные задачи. Вопрос в том, хватит ли таких задач на всех.
Источник
• • • • • • • • • • • •
4) Wildberries тестирует виртуальную примерку одежды
В карточках некоторых товаров появилась кнопка "Посмотреть вещь на себе". Покупатель загружает свое фото и видит, как выбранная вещь будет сидеть на его фигуре.
Обещают, что ИИ учтет пропорции, освещение и перспективу фото для максимально реалистичного результата. Возвраты одежды — основная головная боль всех маркетплейсов одежды. Интересно, сильно ли поможет такая примерка. Если сработает хорошо, может серьезно изменить онлайн-шопинг одежды в РФ.
Источник
• • • • • • • • • • • •
Please open Telegram to view this post
VIEW IN TELEGRAM
1 19👍4❤2🔥2💯2😁1
всем привет! мне пишут и спрашивают, что я где я. так вот: я не помер и не заболел, просто занимаюсь активно своим пет продуктом, релиз будет на выходных, и со след недели возвращаюсь. спасибо! ❤️
а пока что, вот вам скриншотик, как я, как и полагается, издеваюсь над ии и заставляю его говорить стихами
а пока что, вот вам скриншотик, как я, как и полагается, издеваюсь над ии и заставляю его говорить стихами
😁19❤10🔥7 5
Мертвый интернет
• • • • • • • • • • • •
Сэм Альтман недавно высказался о том, что замечает, как люди начинают копировать манеру речи ИИ. И это действительно становится проблемой, замечаю сам.
Что происходит
Альтман говорит, что люди, которые много общаются с чатботами, постепенно перенимают их стиль — становятся более формальными, используют шаблонные фразы, теряют естественность в выражениях.
И он прав. Достаточно почитать комментарии в соцсетях или послушать, как некоторые коллеги формулируют мысли после активного использования ChatGPT. Появляется какая-то искусственная вежливость, избыточная структурированность, потеря живых интонаций.
Мертвый интернет уже здесь?
Мы уже видим, как ИИ-контент заполняет сеть — от статей до комментариев. Но теперь и люди начинают писать как роботы. Получается замкнутый круг: ИИ учится на человеческих текстах, а люди копируют ИИ.
Особенно это заметно в профессиональной переписке. Письма становятся похожими на генерированные шаблоны, исчезает индивидуальность, появляется этот характерный "ИИ-флер" — излишне вежливый, но холодный.
Почему это опасно
Язык формирует мышление. Если мы начинаем говорить как машины, то и думать начинаем соответственно — более шаблонно, менее креативно, без эмоциональных нюансов.
Плюс теряется аутентичность коммуникации. Когда все пишут одинаково "правильно", становится сложно понять, кто за текстом — человек или бот. А это уже серьезная проблема для доверия в интернете.
Что нам делать?
Осознанно сохранять свой стиль. Не бояться быть "неидеальным" в текстах. Использовать живые обороты, личные интонации, даже небольшие "ошибки", которые делают речь человечной.
ИИ — отличный инструмент для работы, но не образец для подражания в общении. Пусть роботы учатся у нас, а не наоборот.
В общем, Альтман поднял важную тему. Интернет действительно рискует стать "мертвым", если мы сами начнем вести себя в нем как мертвецы. Полностью с ним солидарен, особенно заметно засилие ИИ в коротких видео. Я уже перестал смотреть тикток/инсту, потому что больше половины шортсов сгенерированы/озвучены через ИИ.
Заметили уже?
Источник
• • • • • • • • • • • •
🐈 Поставил реакцию = погладил котика
✨ #обзорстатьи
✍️ iAuthor - сервис для авторов телеграм каналов
• • • • • • • • • • • •
Сэм Альтман недавно высказался о том, что замечает, как люди начинают копировать манеру речи ИИ. И это действительно становится проблемой, замечаю сам.
Что происходит
Альтман говорит, что люди, которые много общаются с чатботами, постепенно перенимают их стиль — становятся более формальными, используют шаблонные фразы, теряют естественность в выражениях.
И он прав. Достаточно почитать комментарии в соцсетях или послушать, как некоторые коллеги формулируют мысли после активного использования ChatGPT. Появляется какая-то искусственная вежливость, избыточная структурированность, потеря живых интонаций.
Мертвый интернет уже здесь?
Мы уже видим, как ИИ-контент заполняет сеть — от статей до комментариев. Но теперь и люди начинают писать как роботы. Получается замкнутый круг: ИИ учится на человеческих текстах, а люди копируют ИИ.
Особенно это заметно в профессиональной переписке. Письма становятся похожими на генерированные шаблоны, исчезает индивидуальность, появляется этот характерный "ИИ-флер" — излишне вежливый, но холодный.
Почему это опасно
Язык формирует мышление. Если мы начинаем говорить как машины, то и думать начинаем соответственно — более шаблонно, менее креативно, без эмоциональных нюансов.
Плюс теряется аутентичность коммуникации. Когда все пишут одинаково "правильно", становится сложно понять, кто за текстом — человек или бот. А это уже серьезная проблема для доверия в интернете.
Что нам делать?
Осознанно сохранять свой стиль. Не бояться быть "неидеальным" в текстах. Использовать живые обороты, личные интонации, даже небольшие "ошибки", которые делают речь человечной.
ИИ — отличный инструмент для работы, но не образец для подражания в общении. Пусть роботы учатся у нас, а не наоборот.
В общем, Альтман поднял важную тему. Интернет действительно рискует стать "мертвым", если мы сами начнем вести себя в нем как мертвецы. Полностью с ним солидарен, особенно заметно засилие ИИ в коротких видео. Я уже перестал смотреть тикток/инсту, потому что больше половины шортсов сгенерированы/озвучены через ИИ.
Заметили уже?
Источник
• • • • • • • • • • • •
Please open Telegram to view this post
VIEW IN TELEGRAM
2💯13 7👍6 5❤4👻3
• • • • • • • • • • • •
1) Tesla предлагает Маску пакет выплат до $1 трлн
12 траншей на 10 лет: цели включают кап. $8,5 трлн, 20 млн EV в год, 1 млн роботакси и Optimus, EBITDA $400 млрд; доля Маска может вырасти ≥25% при выполнении всех метрик.
Как вам такое?) Кто-то мечтает стать миллионером, а кто-то может стать триллионером)) Забавный у нас мир, конечно.
Источник
• • • • • • • • • • • •
3) OpenAI анонсировала Jobs Platform и сертификацию в ChatGPT
Площадка будет матчить работодателей и AI‑специалистов от джунов до экспертов; знания подтверждаются сертификацией в Study mode. Запуск в 2026 году.
Классная тема, точно буду пробовать там что-то искать, посмотрим, как оно работать будет.
Источник
• • • • • • • • • • • •
4) Google Translate запускает языковую практику — вызов Duolingo
ИИ‑занятия, аудирование и практика в iOS/Android; улучшенные модели, режим перевода в реальном времени на 70 языках. Пока доступно для ограниченных пар языков.
Правда, я так и не смог найти работающую пару, думаю в ближайшие пару недель раскатят на всех.
Источник
• • • • • • • • • • • •
5) OpenAI покажет на Каннском фестивале полностью сгенерированный мультфильм Critterz
Бюджет < $30 млн; основная часть — работа художников и озвучка. После Канн — прокат.
Мне даже тут больше интересен не сам мультик, а то, как его делали. Такой бэкстейдж. За что отвечал ИИ, за что - люди.
• • • • • • • • • • • •
6) YouTube включает нейродубляж для всех авторов
В ближайшие недели можно будет добавлять сгенерированные дорожки на других языках; раньше фича была только у избранных.
Источник
• • • • • • • • • • • •
7) В Албании появился «AI‑министр» Диелла для госзакупок
Диелла расширяет e‑Albania: оценка тендеров, найм талантов и обещание «100% прозрачности» и некоррупционности.
Ну тут просто без комментариев. Я надеюсь, что это просто "маркетинговая" уловка для избирателей.
Источник
• • • • • • • • • • • •
8) Thinking Machines Lab борется с случайностью ответов LLM
Команда Миры Мурати хочет стабилизировать ответы, контролируя взаимодействие GPU‑ядер Nvidia на инференсе. Первый продукт — в ближайшие месяцы, фокус на исследователях и стартапах.
Сегодня чуть позже будет обзор статьи про галлюцинации ИИ. Надеюсь, Мира поможет всем их побороть.
Источник
• • • • • • • • • • • •
Please open Telegram to view this post
VIEW IN TELEGRAM
1👍13 7❤4🦄2😱1💯1
Почему языковые модели галлюцинируют — и что с этим делать
• • • • • • • • • • • •
OpenAI опубликовали развернутое объяснение того, почему их модели (и все остальные LLM) галлюцинируют. Тема болезненная — особенно после того, как я месяцами бесился от галлюнов в предыдущих версиях (GPT-5-thinking сильно меньше этим страдает, прямо очень редко).
Откуда берутся галлюцинации
Проблема в самой архитектуре трансформеров. Модели обучаются предсказывать следующий токен на основе статистических паттернов, но не имеют встроенного механизма проверки фактов. Когда модель не знает ответа, она не говорит "не знаю" — вместо этого генерирует правдоподобно звучащую ерунду.
Еще одна причина — конфликты в обучающих данных. Если в интернете есть противоречивая информация по одной теме, модель может смешать разные версии и выдать что-то среднее, но неточное.
Типы галлюцинаций
OpenAI выделяют несколько категорий:
- Фактические ошибки — неправильные даты, цифры, имена
- Выдуманные источники — ссылки на несуществующие статьи и исследования
- Логические противоречия — когда модель сама себе противоречит в рамках одного ответа
- Переуверенность — когда модель звучит убедительно, даже когда не права
Что делает OpenAI
Основные направления работы:
1) Улучшение данных для обучения — фильтрация противоречивой информации
2) Reinforcement Learning from Human Feedback (RLHF) — модели учатся признавать неопределенность
3) Внешние инструменты — интеграция с поисковиками и базами знаний для проверки фактов
Кстати, именно поэтому GPT-5 в thinking mode работает намного лучше — у нее есть время "подумать" и проверить свои рассуждения перед ответом.
Практические советы
Пока галлюцинации полностью не победили, нужно:
- Всегда перепроверять критически важную информацию
- Просить модель указывать источники
- Использовать thinking режимы для сложных задач
- Разбивать сложные вопросы на простые части
В общем, хорошо, что OpenAI открыто признают проблему и объясняют, как с ней борются. Но главное — не забывать, что даже самые продвинутые модели пока что не заменяют здравый смысл и критическое мышление.
А вообще, хотелось бы, чтобы ИИ шли в сторону "если не уверен - так и напишу или скажу, что не знаю" нежели несли чепуху. Надеюсь, к такому и придем.
Источник
• • • • • • • • • • • •
🐈 Поставил реакцию = погладил котика
✨ #обзорстатьи
✍️ iAuthor - сервис для авторов телеграм каналов
• • • • • • • • • • • •
OpenAI опубликовали развернутое объяснение того, почему их модели (и все остальные LLM) галлюцинируют. Тема болезненная — особенно после того, как я месяцами бесился от галлюнов в предыдущих версиях (GPT-5-thinking сильно меньше этим страдает, прямо очень редко).
Откуда берутся галлюцинации
Проблема в самой архитектуре трансформеров. Модели обучаются предсказывать следующий токен на основе статистических паттернов, но не имеют встроенного механизма проверки фактов. Когда модель не знает ответа, она не говорит "не знаю" — вместо этого генерирует правдоподобно звучащую ерунду.
Еще одна причина — конфликты в обучающих данных. Если в интернете есть противоречивая информация по одной теме, модель может смешать разные версии и выдать что-то среднее, но неточное.
Типы галлюцинаций
OpenAI выделяют несколько категорий:
- Фактические ошибки — неправильные даты, цифры, имена
- Выдуманные источники — ссылки на несуществующие статьи и исследования
- Логические противоречия — когда модель сама себе противоречит в рамках одного ответа
- Переуверенность — когда модель звучит убедительно, даже когда не права
Что делает OpenAI
Основные направления работы:
1) Улучшение данных для обучения — фильтрация противоречивой информации
2) Reinforcement Learning from Human Feedback (RLHF) — модели учатся признавать неопределенность
3) Внешние инструменты — интеграция с поисковиками и базами знаний для проверки фактов
Кстати, именно поэтому GPT-5 в thinking mode работает намного лучше — у нее есть время "подумать" и проверить свои рассуждения перед ответом.
Практические советы
Пока галлюцинации полностью не победили, нужно:
- Всегда перепроверять критически важную информацию
- Просить модель указывать источники
- Использовать thinking режимы для сложных задач
- Разбивать сложные вопросы на простые части
В общем, хорошо, что OpenAI открыто признают проблему и объясняют, как с ней борются. Но главное — не забывать, что даже самые продвинутые модели пока что не заменяют здравый смысл и критическое мышление.
А вообще, хотелось бы, чтобы ИИ шли в сторону "если не уверен - так и напишу или скажу, что не знаю" нежели несли чепуху. Надеюсь, к такому и придем.
Источник
• • • • • • • • • • • •
Please open Telegram to view this post
VIEW IN TELEGRAM
OpenAI
Why language models hallucinate
OpenAI’s new research explains why language models hallucinate. The findings show how improved evaluations can enhance AI reliability, honesty, and safety.
1🔥10👍7 7❤5💯1
Верим? 😁
• • • • • • • • • • • •
🐈 Поставил реакцию = погладил котика
✨ #юмор
✍ iAuthor - сервис для авторов телеграм каналов
• • • • • • • • • • • •
Please open Telegram to view this post
VIEW IN TELEGRAM
1😁38 8💯3 1