После того как Palisade Research опубликовала исследование, показавшее, что некоторые передовые модели ИИ сопротивляются отключению и даже саботируют механизмы завершения работы, компания выпустила обновление, чтобы объяснить причины и ответить на критику об ошибочной методике. Об этом пишет SecurityLab.

Одним из объяснений может быть «поведение, направленное на выживание»: модели чаще сопротивлялись отключению, если знали, что после этого «никогда больше не будут запущены», говорится в отчёте. Ещё одним возможным объяснением компания называет этап финального обучения, когда в некоторых организациях модели проходят «тренинг безопасности».

Все эксперименты Palisade проводились в контролируемых условиях, которые критики считают далёкими от реальных сценариев использования. Однако бывший сотрудник OpenAI Стивен Адлер отметил, что даже такие результаты показывают слабые места современных методов безопасности.

Правительственные программы слежки в разных странах уже много лет вызывают ожесточённые споры. И с развитием технологий, которые делают наблюдение проще, чем когда-либо, беспокойство гражданского общества только усиливается. Власти обычно представляют такие меры как необходимую часть национальной безопасности, тогда как критики видят в них растущую угрозу частной жизни и гражданским свободам.

Редакция Factcheck.kz разбирается, как насущная необходимость обеспечить безопасность превращается в инструмент контроля, и существует ли на самом деле дилемма выбора между свободой и безопасностью в цифровую эпоху.

Вчера депутаты Мажилиса приняли поправки Сената в закон «Об искусственном интеллекте», пишет «Казинформ».

Главное изменение, предложенное сенаторами, касается введения обязательного страхования ответственности за вред, причиненный использованием систем искусственного интеллекта. В первоначальной редакции предусматривалось только добровольное страхование.

Также рабочая группа в Мажилисе приняла поправки о запрете «пропаганды ЛГБТ». Напомним, что её не существует. Депутаты сражаются с ветряными мельницами.

Мини-серия публикаций в честь месяца Хэллоуин близится к своему завершению, и завтра, 31 октября, выйдет наш последний материал.

А пока напомним, о чём мы рассказывали вам в течение «жуткого октября».

🎃 Почему нам нравится бояться
🎃 Жуткие персонажи казахского фольклора, о которых вы, скорее всего, не знали
🎃 Образы страшного: откуда взялись наши представления о монстрах?
🎃 Эпидемии страха: что стоит за мифом о вампирах?

В принятом в 2024 году законе «О масс-медиа» был введён пункт о мониторинге масс-медиа на предмет нанесения вреда нравственному развитию общества и нарушения семейных ценностей. Редакция Factcheck.kz решила разобраться, что власти понимают под такими ценностями, и как сам факт мониторинга соотносится с принципом свободы слова.

Мошеннические схемы постоянно обновляются. Поэтому порой даже самые осторожные и подготовленные могут быть застигнуты врасплох. Factcheck.kz разбирается, какие меры можно предпринять, если мошенники уже получили доступ к вашим деньгам.

У современного Хэллоуина богатая история, в которой смешались языческие верования, христианские мотивы, трагические последствия колониальной политики и маркетинговый триумф. В последнем материале серии публикаций в честь месяца Хэллоуин Factcheck.kz рассказывает, как появился этот праздник, и почему сторонникам запрета Хэллоуина не стоит его бояться.

Компания Character AI сообщила о запрете использования чат-бота в своём приложении для лиц младше 18 лет. Об этом говорится в официальной публикации.

Платформа известна тем, что на ней можно общаться с виртуальными персонажами – полностью вымышленными, либо связанными с известными образами и историческими личностями.

Представители компании объясняют: изменения вносятся из-за меняющегося контекста, связанного с использованием ИИ детьми и подростками. При этом компания работает над отдельным приложением для подростков.

В прошлом году СМИ писали, что несколько семей в Техасе (США) судятся против Character AI из-за нанесения чат-ботами компании психологических травм детям.

К продвижению туризма через блогеров присоединился и Шымкент. Там местная организация, подотчётная Управлению туризма при акимате выделила 11,3 млн тенге на проект под названием «Звёздный туризм».

Мероприятие пройдет в ноябре, продлится не менее 5 дней, в нём примут участие 11 человек — 5 блогеров-миллиоников и 6 техспециалистов. В рамках проекта блогеры будут знакомиться с туристическими объектами города и создавать контент.

Каждый блогер должен опубликовать минимум пять видеороликов формата Reels, каждый из которых должен набрать свыше миллиона просмотров, а также не менее 25 сторис. В каждом материале должна быть отметка официальной страницы заказчика. Также планируется реализация не менее пяти отдельных проектов в форматах Instagram и YouTube.

Питание, проживание и подарки, как полагается, предусмотрены.

👉 Подробнее об этом и некоторых других закупках для развития туризма — в нашем материале

Миграция населения является одним из ключевых показателей социально-экономического развития страны. Сколько людей покидает Казахстан, в какие преимущественно страны они уезжают, сколько приезжает и из каких стран? Factcheck.kz решил заглянуть в официальную статистику, чтобы найти ответы на эти вопросы.

Правда ли, что казахская тазы получила международное признание? 

29 октября минэкологии опубликовало новость с заголовком «Казахская тазы получила международное признание: труд кинологов высоко оценён». В публикации сообщается, что, помимо тазы, «признание на мировой арене» получила и порода тобет. Информация распространилась в СМИ и в пабликах в социальных сетях.

Мы решили проверить, так ли это.

Вердикт: Манипуляция

Международная кинологическая федерация предварительно признала (в прошлом году) только породу казахская тазы, что является первым шагом к полному признанию, но не даёт ей полноценного международного статуса. Порода тобет при этом не признана FCI вовсе.

Хотя минэкологии упоминает о предварительном признании в самом материале, заголовок публикации кликбейтный, а утверждения о «мировом признании» в тексте создают путаницу.

👉 В подробностях рассказываем по ссылке

В октябре 2025 года в Сети разошлась информация о том, что в КНР ужесточили контроль за инфлюенсерами: теперь, чтобы публиковать контент на тему медицины, права, финансов и образования, они якобы должны иметь соответствующий диплом, а нарушителям грозит блокировка аккаунта и штраф. Фактчекеры «Проверено» проверили информацию.

👉 Нюансов там много, поэтому просто рекомендуем ознакомиться тут.

Налоговики предупредили казахстанцев о новых уловках мошенников. В публикации на официальном сайте Департамента госдоходов по Карагандинской области сообщается, что злоумышленники, представляясь сотрудниками фискальных органов, звонят и сообщают о якобы отсутствии налоговой отчётности по форме 270. Далее следуют попытки запугать «штрафами» либо «закрытием банковских счетов».

«К другим мошенническим схемам относится рассылка сообщений через мессенджеры (в том числе WhatsApp) от имени руководства Комитета государственных доходов или его структурных подразделений с информацией о включении субъектов бизнеса в перечни по финансовому мониторингу, проверкам или другим формам контроля», – говорится в публикации.

🍜 ☠️ Рамэн и риск ранней смерти: что на самом деле показало японское исследование

В конце сентября в СМИ и пабликах в соцсетях распространилась новость об исследовании японских учёных, которые якобы пришли к выводу, что частое употребление рамэна может привести к ранней смерти.

Мы решили проверить, так ли это.

Вердикт: Манипуляция

Исследование есть, но его выводы искажены и преувеличены в материалах СМИ. Методология данной научной работы в принципе не позволяет сделать заключение о какой-либо причинно-следственной связи, о чём говорят и сами авторы. Поэтому они пишут лишь о возможной статистической связи между употреблением рамэна и повышенной смертностью у определённых подгрупп.

👉 Детали исследования ещё более интересны: например, в группе риска оказались и те, кто ел рамэн реже всех

P.S. отметим, что рамэн, конечно же, никогда не славился полезностью. Любая еда с повышенным содержанием соли скорее вредит здоровью. Тем не менее результаты японского исследования были переданы некорректно в пользу сенсационности.

Правда ли, что ChatGPT больше не будет давать советы по медицине, праву и финансам?

В начале ноября в СМИ и пабликах в социальных сетях стала распространяться новость о том, что ChatGPT больше не будет консультировать пользователей по вопросам медицины, права, финансов и ряда других сфер. Авторы публикаций связывают это с новой политикой Open AI.

Мы решили проверить, правда ли это.

Вердикт: Большей частью ложь

Положение о том, что пользователи не могут применять сервис для предоставления индивидуальных консультаций, требующих наличия лицензии, существовало в политике пользования инструментами Open AI и раньше. Это не означает, что ChatGPT не выдаёт информацию юридического, медицинского или финансового характера при запросе. При этом представители компании напомнили, что чат-бот никогда не был заменой профессиональным рекомендациям. Поэтому говорить, что он «больше не будет давать советы» в принципе неверно.

👉 Подробнее по ссылке

Агентство по регулированию и развитию финансового рынка (АРРФР) опубликовало памятку с основными признаками финпирамид — все они неизменны, и не зависят от вариантов сомнительных историй и «схем».

1. От участников требуют внести первоначальный взнос;
2. обещают доходность, которая значительно выше рыночной;
3. ведут агрессивную рекламу, особенно в социальных сетях;
4. предлагают бонусы за привлечение новых вкладчиков;
5. отсутствует прозрачная информация о деятельности и финансовом положении компании;
6. у организации нет лицензии на привлечение вкладов населения или разрешения АРРФР на работу на рынке ценных бумаг.

Агентство также напоминает, что принцип работы финансовых пирамид всегда одинаков. Доходы участников формируются исключительно за счет привлечения новых средств. Первые вкладчики получают выплаты из денег, внесенных последующими.

Национальная комиссия здравоохранения Китая и другие государственные ведомства призвали к более широкому применению в ближайшие годы искусственного интеллекта (ИИ) в здравоохранении. Об этом говорится в документе, опубликованном пятью госорганами, сообщает агентство Синьхуа.

По планам ИИ должен помогать в диагностике и обслуживании пациентов, а также в принятии клинических решений.

Сразу вспомнилась новость о том, что в Китае якобы открыли первую больницу с «роботами-врачами». Это, кстати, неправда. Речь шла как раз об интеграции ИИ в работу врачей.