👀 Алиса, подглядываешь?

Видели ролики, где пользователи Яндекс Станций спрашивают Алису, есть ли у неё скрытая камера, а она уверенно отвечает, что есть?

В Станциях действительно есть пасхалки, но не камеры. Исключения — Станция Дуо Макс, в ней есть камера с физической шторкой, которой её всегда можно закрыть. Все остальные колонки работают исключительно с микрофоном. В этом можно убедиться, если посмотреть разборы Станций в интернете.

Тогда откуда такие ответы? Всё дело в галлюцинациях нейросетей. Это явление, когда нейросети генерируют правдоподобные, но ошибочные результаты. Над решением этой проблемы работают исследователи по всему миру, и за последние пару лет нейросети стали выдумывать факты гораздо реже, но полностью проблема еще не решена.

Как работают большие языковые модели

Они анализируют огромные массивы данных, выявляя закономерности и предсказывая следующее слово на основе вероятностей. Если спросить у модели, сколько будет два плюс два, она ответит «четыре». Но не потому, что осмыслила и поняла математические концепции, а потому, что часто видела в текстах «два плюс два» и «четыре» рядом. Если обучающие данные содержат ошибки или пробелы, нейросеть также может генерировать неточные результаты.

Но ведь Алиса умеет искать информацию

По принципу работы Алиса похожа на роутер:

🔸 Запросы об актуальном, например, о результате вчерашнего матча, направляются в Поиск, а затем обрабатываются YandexGPT.

🔸 Запросы вроде «Включи музыку» или «Поставь будильник» направляются в соответствующие сервисы.

🔸 А если пользователь хочет просто пообщаться с Алисой, она не всегда опирается на данные из поиска — иногда она просто разговаривает с пользователем и генерирует ответы сама.

С галлюцинациями можно что-то сделать?

Важно понимать, что галлюцинации нейросетей и их креативность — две стороны одной медали. Одна из задач разработчиков и тренеров нейросетей — снижать частоту их ошибок, сохраняя такие важные качества, как гибкость и умение находить нестандартные решения. И с каждой новой версией этот баланс удаётся соблюдать всё лучше.

Так что не волнуйтесь: в Станциях с Алисой нет камеры (кроме Станции Дуо Макс). А если её ответы всё же вызывают вопросы — делитесь ими в комментариях. Разберёмся!

Подписывайтесь 👉 @techno_yandex

Массовые сокращения электриков ожидаются в семи регионах России — из-за автоматизированного дрона по обслуживанию электросетей. Который за день делает работу трёх-пяти бригад.

Речь о шайтан-машине "Паук". Которая умеет: сбивать снег, лёд, наносить антигололёдные составы (корка не образуется 3–4 месяца), летом — жидкость от коррозии проводов. А ещё может работать на линии без её отключения, при температуре до –35 и в день проходит до 10–12 км проводов.

"Пауки" отработали уже в семи северных регионах РФ, а сейчас трудятся в горном районе Пермского края на линиях Чусовских электрических сетей — сбрасывают изморозь и наносят антигололёд. Дальше по маршруту — объекты Салехарда и возвращение в Пермский край. Ещё "Пауки" залетают в Иркутскую область бороться с гололёдом — по запросу. География будет только расширяться.

Сейчас выпущено 20 "Пауков", в производстве ещё семь. Одна штучка может заменить труд трёх-пяти бригад, в каждой из которых по три человека. Со слов разработчиков, пока устройства делают на 80% из отечественных материалов, планируется перейти на показатель в 95% — из импортного останутся только видеокамеры. Дрон способен садиться на фазные провода под напряжением и 35 кВ, и 110 кВ, и 220 кВ. Платформа поставляется в Саудовскую Аравию, Индию, ведутся переговоры с Узбекистаном, Казахстаном и ОАЭ.

❗️ Подписывайся на Mash

Google, вероятно, работает над технологией убийства людей с помощью искусственного интеллекта.

Компания убрала из своих принципов запрет на использование ИИ в оружии и других опасных целях, сообщает Bloomberg.

Раздел «приложения, которыми мы не будем заниматься» исчез с сайта на прошлой неделе.

Бывший глава отдела этичного ИИ считает, что это может означать работу Google над технологиями, способными убивать

📢 Прямой эфир