После того как Palisade Research опубликовала исследование, показавшее, что некоторые передовые модели ИИ сопротивляются отключению и даже саботируют механизмы завершения работы, компания выпустила обновление, чтобы объяснить причины и ответить на критику об ошибочной методике. Об этом пишет SecurityLab.

Одним из объяснений может быть «поведение, направленное на выживание»: модели чаще сопротивлялись отключению, если знали, что после этого «никогда больше не будут запущены», говорится в отчёте. Ещё одним возможным объяснением компания называет этап финального обучения, когда в некоторых организациях модели проходят «тренинг безопасности».

Все эксперименты Palisade проводились в контролируемых условиях, которые критики считают далёкими от реальных сценариев использования. Однако бывший сотрудник OpenAI Стивен Адлер отметил, что даже такие результаты показывают слабые места современных методов безопасности.

Правительственные программы слежки в разных странах уже много лет вызывают ожесточённые споры. И с развитием технологий, которые делают наблюдение проще, чем когда-либо, беспокойство гражданского общества только усиливается. Власти обычно представляют такие меры как необходимую часть национальной безопасности, тогда как критики видят в них растущую угрозу частной жизни и гражданским свободам.

Редакция Factcheck.kz разбирается, как насущная необходимость обеспечить безопасность превращается в инструмент контроля, и существует ли на самом деле дилемма выбора между свободой и безопасностью в цифровую эпоху.

Вчера депутаты Мажилиса приняли поправки Сената в закон «Об искусственном интеллекте», пишет «Казинформ».

Главное изменение, предложенное сенаторами, касается введения обязательного страхования ответственности за вред, причиненный использованием систем искусственного интеллекта. В первоначальной редакции предусматривалось только добровольное страхование.

Также рабочая группа в Мажилисе приняла поправки о запрете «пропаганды ЛГБТ». Напомним, что её не существует. Депутаты сражаются с ветряными мельницами.

Мини-серия публикаций в честь месяца Хэллоуин близится к своему завершению, и завтра, 31 октября, выйдет наш последний материал.

А пока напомним, о чём мы рассказывали вам в течение «жуткого октября».

🎃 Почему нам нравится бояться
🎃 Жуткие персонажи казахского фольклора, о которых вы, скорее всего, не знали
🎃 Образы страшного: откуда взялись наши представления о монстрах?
🎃 Эпидемии страха: что стоит за мифом о вампирах?

В принятом в 2024 году законе «О масс-медиа» был введён пункт о мониторинге масс-медиа на предмет нанесения вреда нравственному развитию общества и нарушения семейных ценностей. Редакция Factcheck.kz решила разобраться, что власти понимают под такими ценностями, и как сам факт мониторинга соотносится с принципом свободы слова.

Мошеннические схемы постоянно обновляются. Поэтому порой даже самые осторожные и подготовленные могут быть застигнуты врасплох. Factcheck.kz разбирается, какие меры можно предпринять, если мошенники уже получили доступ к вашим деньгам.

У современного Хэллоуина богатая история, в которой смешались языческие верования, христианские мотивы, трагические последствия колониальной политики и маркетинговый триумф. В последнем материале серии публикаций в честь месяца Хэллоуин Factcheck.kz рассказывает, как появился этот праздник, и почему сторонникам запрета Хэллоуина не стоит его бояться.

Компания Character AI сообщила о запрете использования чат-бота в своём приложении для лиц младше 18 лет. Об этом говорится в официальной публикации.

Платформа известна тем, что на ней можно общаться с виртуальными персонажами – полностью вымышленными, либо связанными с известными образами и историческими личностями.

Представители компании объясняют: изменения вносятся из-за меняющегося контекста, связанного с использованием ИИ детьми и подростками. При этом компания работает над отдельным приложением для подростков.

В прошлом году СМИ писали, что несколько семей в Техасе (США) судятся против Character AI из-за нанесения чат-ботами компании психологических травм детям.