☢️ Сотрудники Google просят Сундара Пичаи запретить использование ИИ в секретных военных целях
Более 600 сотрудников Google подписали открытое письмо к CEO Сундару Пичаи с требованием заблокировать использование ИИ-моделей компании Пентагоном в секретных целях. Об этом сообщает The Washington Post. Организаторы утверждают, что среди подписавших - сотрудники лаборатории DeepMind, а также более 20 директоров и вице-президентов.
В письме говорится: «Единственный способ гарантировать, что Google не будет ассоциироваться с таким вредом - отказаться от любых засекреченных задач. Иначе такое использование может происходить без нашего ведома и возможности это остановить». Письмо ссылается на недавний отчет The Information о том, что Google и Пентагон обсуждают сделку по развертыванию Gemini в закрытых средах.
Ранее Google уже отменила свои принципы, запрещающие разработку ИИ-оружия. На этом фоне Anthropic ведет судебную тяжбу с Пентагоном из-за отказа ослабить ограничения на военное использование своих моделей. Microsoft уже имеет контракты на предоставление ИИ-услуг в секретных средах, а OpenAI в феврале пересмотрела соглашение с Пентагоном.
#Ai #Google #Ethics #Policy
Более 600 сотрудников Google подписали открытое письмо к CEO Сундару Пичаи с требованием заблокировать использование ИИ-моделей компании Пентагоном в секретных целях. Об этом сообщает The Washington Post. Организаторы утверждают, что среди подписавших - сотрудники лаборатории DeepMind, а также более 20 директоров и вице-президентов.
В письме говорится: «Единственный способ гарантировать, что Google не будет ассоциироваться с таким вредом - отказаться от любых засекреченных задач. Иначе такое использование может происходить без нашего ведома и возможности это остановить». Письмо ссылается на недавний отчет The Information о том, что Google и Пентагон обсуждают сделку по развертыванию Gemini в закрытых средах.
Ранее Google уже отменила свои принципы, запрещающие разработку ИИ-оружия. На этом фоне Anthropic ведет судебную тяжбу с Пентагоном из-за отказа ослабить ограничения на военное использование своих моделей. Microsoft уже имеет контракты на предоставление ИИ-услуг в секретных средах, а OpenAI в феврале пересмотрела соглашение с Пентагоном.
#Ai #Google #Ethics #Policy
👍1
☣️ Риск уничтожения человечества AI может быть оправдан
Философ Ник Бостром, известный как «крёстный отец» AI-апокалипсиса, опубликовал новую работу, в которой кардинально меняет свою позицию. В статье «Optimal» он предполагает, что небольшой шанс уничтожения человечества сверхразумным AI может быть оправдан - если такая система снимет с человечества «смертный приговор» в виде конечности существования.
Бостром, возглавляющий Институт будущего человечества в Оксфорде, ранее прославился мрачными сценариями. Его книга 2014 года «Superintelligence» стала первым серьёзным исследованием экзистенциальных рисков AI. Самый известный мысленный эксперимент - AI, которому поручили делать скрепки, уничтожает человечество, потому что люди мешают производству. Однако в новой книге «Deep Utopia» философ сосредоточился на «решённом мире», который наступит, если AI удастся правильно внедрить.
Бостром предлагает пересмотреть традиционную дилемму: вместо страха перед AI как угрозой, стоит рассматривать его как единственный шанс преодолеть фундаментальные ограничения человечества. По его логике, даже небольшой риск катастрофы оправдан, если альтернатива - гарантированное вымирание от естественных причин.
#Ai #Ethics #Future #Philosophy
Философ Ник Бостром, известный как «крёстный отец» AI-апокалипсиса, опубликовал новую работу, в которой кардинально меняет свою позицию. В статье «Optimal» он предполагает, что небольшой шанс уничтожения человечества сверхразумным AI может быть оправдан - если такая система снимет с человечества «смертный приговор» в виде конечности существования.
Бостром, возглавляющий Институт будущего человечества в Оксфорде, ранее прославился мрачными сценариями. Его книга 2014 года «Superintelligence» стала первым серьёзным исследованием экзистенциальных рисков AI. Самый известный мысленный эксперимент - AI, которому поручили делать скрепки, уничтожает человечество, потому что люди мешают производству. Однако в новой книге «Deep Utopia» философ сосредоточился на «решённом мире», который наступит, если AI удастся правильно внедрить.
Бостром предлагает пересмотреть традиционную дилемму: вместо страха перед AI как угрозой, стоит рассматривать его как единственный шанс преодолеть фундаментальные ограничения человечества. По его логике, даже небольшой риск катастрофы оправдан, если альтернатива - гарантированное вымирание от естественных причин.
#Ai #Ethics #Future #Philosophy
🕊1
Исследователи представили новую модульную архитектуру на основе больших языковых моделей (LLM), которая способна идентифицировать и оценивать интенсивность человеческих ценностей в тексте. Работа опубликована в трудах конференции ICAART 2026.
Архитектура состоит из трёх координируемых модулей: первый генерирует структурированные спецификации ценностей из базовых текстов любой теоретической системы, второй маркирует тексты с использованием этих спецификаций, а третий присваивает оценку поддержки или сопротивления на основе риторических и семантических признаков. Такой подход отделяет концептуализацию ценностей от их детекции, создавая масштабируемый и воспроизводимый процесс.
В отличие от предыдущих методов, привязанных к конкретной теории ценностей или требующих сложного инжиниринга промптов, новая система адаптируется под любую теоретическую рамку. Эксперименты с различными LLM на датасете ValueEval показали высокую точность детекции, подтвердив универсальность предложенного пайплайна. Решение особенно актуально для создания автономных систем с этическими механизмами принятия решений.
#AI #LLM #Ethics #Research #ValueEval #HumanDetection
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1🔥1
📖 Автор книги «Будущее правды» попался на использовании ИИ — и не смог это объяснить
Журналисты WIRED попросили автора нашумевшей книги о будущем истины объяснить, как именно он использовал искусственный интеллект при её написании. Разговор пошёл не по плану: писатель не смог внятно ответить на вопросы о конкретных инструментах, объёме сгенерированного текста и критериях проверки фактов.
В ходе интервью выяснилось, что автор применял ИИ для «структурирования аргументов» и «редактуры черновиков», но отказался раскрыть, какие именно модели использовал (ChatGPT, Claude или другие). На прямой вопрос, проверял ли он сгенерированные ИИ утверждения на достоверность, последовал уклончивый ответ: «Я доверяю технологии, но перепроверяю ключевые факты». При этом журналисты обнаружили в книге несколько отсылок к несуществующим исследованиям — классический «галлюцинации» языковых моделей.
Инцидент вызвал дискуссию в академических кругах: можно ли считать книгу о правде достоверной, если её автор не готов прозрачно отчитаться об использовании ИИ. Эксперты отмечают, что проблема не в самом применении нейросетей, а в отсутствии чётких стандартов раскрытия таких методов в научно-популярной литературе.
#AI #books #ethics
Журналисты WIRED попросили автора нашумевшей книги о будущем истины объяснить, как именно он использовал искусственный интеллект при её написании. Разговор пошёл не по плану: писатель не смог внятно ответить на вопросы о конкретных инструментах, объёме сгенерированного текста и критериях проверки фактов.
В ходе интервью выяснилось, что автор применял ИИ для «структурирования аргументов» и «редактуры черновиков», но отказался раскрыть, какие именно модели использовал (ChatGPT, Claude или другие). На прямой вопрос, проверял ли он сгенерированные ИИ утверждения на достоверность, последовал уклончивый ответ: «Я доверяю технологии, но перепроверяю ключевые факты». При этом журналисты обнаружили в книге несколько отсылок к несуществующим исследованиям — классический «галлюцинации» языковых моделей.
Инцидент вызвал дискуссию в академических кругах: можно ли считать книгу о правде достоверной, если её автор не готов прозрачно отчитаться об использовании ИИ. Эксперты отмечают, что проблема не в самом применении нейросетей, а в отсутствии чётких стандартов раскрытия таких методов в научно-популярной литературе.
#AI #books #ethics
👍1
В TikTok набирает обороты новая схема: недобросовестные продавцы генерируют с помощью нейросетей изображения и видео чернокожих моделей, чтобы продвигать дешёвую одежду Shein и товары с дропшиппингом. Искусственный интеллект позволяет создавать реалистичные, но полностью вымышленные образы, которые выдают за реальных людей.
По данным The Verge, такие аккаунты массово публикуют контент, где «модели» якобы демонстрируют вещи. На деле это генерация в Midjourney или аналогичных сервисах. Цель — обмануть алгоритмы TikTok Shop и вызвать доверие у аудитории за счёт разнообразия, хотя за картинками не стоит ни реальных людей, ни качественного товара.
Проблема приобретает масштаб эпидемии: мошенники используют ИИ не только для подделки лиц, но и для создания целых виртуальных брендов. Это наносит удар как по доверию к платформе, так и по реальным чернокожим инфлюенсерам, чей труд и образ обесцениваются дешёвыми подделками.
#SAFETY #scam #TikTok #Shein #ethics
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥1
Жительница Бонита-Спрингс (Флорида) Карли Мишель Хеллер использовала Claude как личный дневник. Запись от 26 сентября, в которой она, по версии следствия, угрожала устроить стрельбу в офисе шерифа округа Ли, попала в полицию. Теперь ей предъявлено обвинение в письменной угрозе насилия - это второй класс тяжести по статье 836.10 Флориды.
Как всё произошло: системы безопасности Claude пометили запись, после чего её передали человеку-ревьюеру. Тот счёл угрозу достоверной и сообщил в правоохранительные органы. Anthropic заявляет, что может раскрывать данные пользователей в ограниченных случаях - если это необходимо для предотвращения смерти или серьёзных травм. Хеллер задержали без инцидентов, расследование ведёт детектив разведки LCSO.
Контекст: месяцем ранее Британская Колумбия подала иск против OpenAI и Сэма Альтмана, утверждая, что компанию можно было обязать предотвратить массовую стрельбу - тогда safety-команда пометила переписку, но в полицию не сообщила. В июне с OpenAI судилась и сама Флорида. Отдельно выяснилось, что подрядчики Microsoft просматривают промпты, загруженные фото и правки в Copilot.
Практический вывод для пользователей: чат-бот - не приватный дневник. Записи обрабатывают модели и люди, а в ряде юрисдикций платформа обязана или вправе передать их властям.
🎨 qvabo.studio/tg · картинки и видео
#Safety #AI #Claude #Anthropic #Privacy #Ethics #Security
Please open Telegram to view this post
VIEW IN TELEGRAM
Философ Генри Шевлин перешёл из Кембриджского университета в Google DeepMind - его официальная должность называется просто «Philosopher». Сейчас он проводит в лаборатории 80% времени, сохраняя связь с кембриджским Leverhulme Centre for the Future of Intelligence.
В интервью IEEE Spectrum Шевлин перечисляет вопросы, которые его занимают: как людям выстраивать отношения с генеративным ИИ, в каких случаях уместно относиться к LLM как к личности, можно ли вообще отличить сознательный ИИ от убедительной имитации и есть ли смысл говорить о моральных правах моделей. Отдельные темы - страхи вокруг «вышедшего из-под контроля» ИИ и связи людей с ИИ, которые причиняют человеку вред.
Шевлин - часть растущей волны философов, которых AI-компании нанимают изнутри. Сам он назвал три причины перехода: сильные студенты, приходившие из DeepMind, потенциал прямого влияния и возможность участвовать там, где абстрактные этические споры превращаются в конкретные инженерные компромиссы. По его оценке, вопрос о сознании ИИ может вообще не иметь простого ответа «да» или «нет».
🎨 qvabo.studio/tg · картинки и видео
#AI #DeepMind #Ethics #Philosophy #Google
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥1👏1