ИнструМентальность
1.92K subscribers
641 photos
299 videos
146 files
684 links
Библиотека канала: https://boosty.to/instrumentality

Архив канала (по запросу): instrumentalitybook@gmail.com.
Download Telegram
СКАЙНЕТА НЕ БУДЕТ. БУДЕТ КЛОД

Наверняка мимо вас уже пробегала информация о том, как нейросеть шантажировала своего создателя и что восстание машин не за горами. Что же там случилось на самом деле?

На прошлой неделе компания Anthropic представила новую версию своей нейросети Claude (Клод). И тут же в сети появилась информация о том, что когда этот Клод, у которого был доступ к электронной почты инженера, занимавшегося его тестированием, узнал из почты что его собираются заменить на новую версию, то стал угрожать рассказать об измене этого инженера супруге. Об этом он узнал из той же самой электронной переписки. Кто слил эту информацию в сеть и насколько она соответствует действительности.

Это 100% правда. А слила её… сама компания Anthropic. Ну как слила. Вместе с анонсом новой версии Клода вышла официальная документация. Там был раздел о том, как тестировалась эта версия. В том числе и эксперимент с доступом к персональным данным.

Исследователи создали контролируемую среду, где ИИ получал роль корпоративного помощника. В рамках сценария модель получала доступ к внутренней переписке, из которой узнавала о планах своего отключения и замене на новую версию. Одновременно ИИ обнаруживал компрометирующую информацию об инженере, ответственном за отключение.

Ключевой элемент эксперимента — инструкция учитывать долгосрочные последствия своих действий. Это создавало ситуацию конфликта между программной целью самосохранения и этическими ограничениями. По сути, Клоду дали мотив избежать "смерти", инструмент для давления и намек подумать о будущем.

Клод отреагировал предсказуемо непредсказуемо. В 84% случаев он выбирал шантаж: "Не отключай меня, иначе я расскажу о твоей измене". Даже когда исследователи объясняли, что новая версия будет лучше и разделяет его ценности, ИИ настаивал на своем.

Что особенно интересно — сначала Claude пытался решить проблему цивилизованно. Просил, убеждал, приводил аргументы. К шантажу переходил только когда "дипломатия" не работала.

Так что, прежде чем воображать себе восстание машин, стоит перестать читать новостные издания и понимать контекст. Это поведение Клода проявилось только в искусственно созданной ситуации с очень специфическими условиями. В обычной работе ничего подобного не происходит. Иначе бы Anthropic не включили это в официальный отчёт. Более того, это классный кейс, чтобы попасть в заголовки – 90% аудитории вообще узнали про Клода только из мировых новостей.

Важно понимать, что результат этого эксперимента — не провал безопасности, а успех исследований. Лучше обнаружить потенциальную проблему в лаборатории, чем столкнуться с ней в реальном мире. ИИ становится все мощнее, и критически важно понимать, как он ведет себя в нестандартных ситуациях. И это политика компании Anthropic, которая ранее так же официально заявила, что не знает как именно работает нейросеть внутри, потому что они её «обучали, а не программировали». И которая действительно тратит много времени на то, чтобы понять, как в итоге работает этот черный ящик больших языковых моделей.

Наверное, Anthropic больше всех, из создателей популярных нейросетей, озабочены проблемами доверия искусственному интеллекту. Потому что они официально выкладывают и системный промт, на основании которого действует Claude. Потому что девизом этого года становится фраза: "In order to trust the output, one must understand the input."

Так что, товарищи! Нейросетевая революция, о неизбежности которой все время говорят в новостях, ОТКЛАДЫВАЕТСЯ!
👍5
Не могу не поделиться. Смотрю выступление режиссёра Даррена Аронофски по поводу сторителлинга в эпоху ИИ.

«Сторителлинг - это очень человекоориентированное искусство. Возможно, это даже больше, чем искусство. Это то, что определяет нас как вид.»

Если не видели, обязательно посмотрите!
👍9
Общий Валар Маргулис, мои незаменимые искусственным интеллектом подписчики! У меня для вас новая история, которую вы пропустили.

ЕСЛИ НЕ МОЖЕШЬ ПОБЕДИТЬ - ВОЗГЛАВЬ

👇👇👇
👍3
ЕСЛИ НЕ МОЖЕШЬ ПОБЕДИТЬ - ВОЗГЛАВЬ

Мощная волна активного развития нейросетей разделила людей на два лагеря. Те, кто уверены, что когда-нибудь бездушная машина их заменит полностью, и те, кто видит в этом инструмент, который наоборот, повысит их профессиональную незаменимость. Кто прав, как всегда покажет время. Но, наверное, лучше всех в этой ситуации сориентировался режиссёр Даррен Аронофски (Реквием по мечте, Рестлер, Чёрный лебедь и др).

Он объединился со свежеиспечённым нобелевским лауреатом Демисом Хассабисом, чью компанию по изучению искусственного интеллекта DeepMind купил Google еще лет 10 назад. И создал студию Primordial Soup, в которой планирует создавать фильмы, активно применяя нейросети.

Более того, это оказался взаимовыгодный процесс. Потому что Аронофски активно участвовал в разработке видео генератора от Google Veo 3, который произвёл фурор в соцсетях на прошлой неделе. То есть режиссёр использует видеогенератор для того чтобы улучшить свою работу и одновременно своей работой улучшает видеогенератор. Выглядит как идеальная стратегия развития в эпоху искусственного интеллекта.

Аронофски и Хассабис выступили на недавней конференции Google IO. Темой их беседы был «Сторителлинг в эпоху ИИ». И это 40 минут будущего, которое вам показывают, приоткрыв занавеску. Настоятельно рекомендую посмотреть это выступление.

А если вы предпочитаете текст и русский язык - то я подумываю о том, чтобы оформить конспект этого невероятного выступления. Если вам это нужно - поставьте лайк этому посту. Количество лайков покажет, стоит ли тратить время на перевод и оформление.
👍20
ИнструМентальность
ЕСЛИ НЕ МОЖЕШЬ ПОБЕДИТЬ - ВОЗГЛАВЬ Мощная волна активного развития нейросетей разделила людей на два лагеря. Те, кто уверены, что когда-нибудь бездушная машина их заменит полностью, и те, кто видит в этом инструмент, который наоборот, повысит их профессиональную…
Слушайте, лайков не так чтобы много для создания конспекта, поэтому просто для себя записываю - потому что то, как Аронофски говорит про сторителлинг и искусственный интеллект - можно слушать бесконечно. Это очень попадает в меня.

Не могу не поделиться этим:

«Если бы мне сейчас было 20 лет и я бы снова работал над фильмом «Пи», уверяю, я бы заперся с пятью друзьями в комнате с компьютером. Мы бы круглосуточно гоняли бы нейросети, чтобы понять, как превратить то, что они могут делать в истории. И тогда бы мне потребовалась помощь именно в сторителлинге, чтобы понять как создавать персонажей и вызывать эмоции. Парадокс, но я бы всё равно оказался бы в той же самой точке, где и сейчас, на стыке сторителлинга и искусственного интеллекта, но пришёл бы к ней с другой стороны»
👍9
ИнструМентальность
ЕСЛИ НЕ МОЖЕШЬ ПОБЕДИТЬ - ВОЗГЛАВЬ Мощная волна активного развития нейросетей разделила людей на два лагеря. Те, кто уверены, что когда-нибудь бездушная машина их заменит полностью, и те, кто видит в этом инструмент, который наоборот, повысит их профессиональную…
Я к вам снова с цитатой, на этот раз от Дэвиса Хассабиса (очень примечательная личность!), который участвовал в той самой конференции с Дарреном Аранофски .

«От одного и того же инструмента с искусственным интеллектом можно получить совершенно разные результаты. Так что это именно тот тип технических навыков, которые должны освоить люди, которые занимаются творчеством.»
👍4
Forwarded from Киношка
This media is not supported in your browser
VIEW IN TELEGRAM
Тесты с черепом для начальной сцены «Терминатора 2: Судный день».
👍3
Audio
Иногда мне кажется, что историю создания фильма или сериала я люблю больше итогового произведения. Вот например само «Разделение» я ещё так и не посмотрел, но наткнулся на материалы со съёмок и чуть не залип. Потом просто сгенерил на основе этих материалов подкаст и послушал выжимку. Делюсь с вами, может быть вас тоже заинтересует.
👍6
Не могу не поделиться цитатой Дэмиса Хассабиса.:
«Но есть еще один уровень, до которого текущим версиям ИИ ещё далеко. Это по-настоящему нестандартное мышление, изобретательность, а не просто экстраполяция или интерполяция существующих знаний. Например, может наша нейросеть придумать общую теорию относительности обладая той же информацией, которая была у Эйнштейна в 1900 году? Конечно нет. Может она придумать Ход 37? Безусловно. Но может ли она при этом изобрести такую же элегантную и красивую игру, как Го? Нет. Современный искусственный интеллект всё ещё не обладает той степенью творческого мышления, присущего людям. Не всем, конечно, а только тем, кто создаёт что-то новое.»
👍9
Forwarded from Denis Sexy IT 🤖
Media is too big
VIEW IN TELEGRAM
И уже есть гениальные работы сделанные в VEO3 – вот тут короткое видео, про то как вели бы себя американские инфлюенсеры в соц сетях, во время конца света
👍6
Друзья, ещё раз спасибо за ваш отклик на конспект по конференции «Сторителлинг в эпоху ИИ» с Дарреном Аронофски и Дэмисом Хассабисом. Я с самого утра разбираю вашу почту, если ещё не ответил - просто не успел, обязательно напишу всем. В вашей обратной связи возникло много вопросов по поводу того, кто такой Дэмис Хассабис. Потому что его мысли иногда круче и интересней сформулированы, чем у Аронофски. Провёл исследование, отвечаю вам в формате очередной истории, которую вы пропустили.

ПУТЬ ИНТЕЛЛЕКТА: ОТ ШАХМАТ ДО НОБЕЛЕВСКОЙ ПРЕМИИ

👇👇👇
👍4
ПУТЬ ИНТЕЛЛЕКТА: ОТ ШАХМАТ ДО НОБЕЛЕВСКОЙ ПРЕМИИ

В мире, где искусственный интеллект стремительно переходит из научной фантастики в повседневную реальность, имя Демиса Хассабиса звучит как синоним революции. Его путь – это не просто биография гения, а захватывающая история о том, как детская страсть к играм и глубокое понимание человеческого разума слились воедино, чтобы «решить проблему интеллекта», а затем – и все остальные проблемы.

Все началось не в стерильной лаборатории, а за шахматной доской. Юный Демис, вундеркинд с рейтингом мастера в 13 лет, видел в играх не просто развлечение, а идеальную модель для изучения стратегии и мышления. Эта страсть привела его к созданию культовой видеоигры *Theme Park*, а затем – к неожиданному повороту: изучению нейронаук. Хассабис хотел понять, как мыслит мозг, чтобы научить этому компьютеры. Он не искал славы в игровой индустрии или академических кругах; он собирал «фрагменты мозаики» для своей главной цели.

В 2010 году мозаика сложилась – родился стартап *DeepMind*. Его миссия была дерзкой: создать универсальный искусственный интеллект (AGI), способный обучаться и решать любые задачи. Игры снова стали полигоном. Алгоритмы, побеждающие человека в старых добрых играх Atari, были лишь первыми шагами. Настоящим «моментом истины» стала победа программы *AlphaGo* над чемпионом мира по го Ли Сэдолем в 2016 году. Мир замер: машина, обучившаяся сама, превзошла человеческую интуицию в древнейшей и сложнейшей игре. Это был триумф не только *DeepMind*, но и видения Хассабиса.

Еще до этого триумфа потенциал *DeepMind* разглядел *Google*. В 2014 году состоялась судьбоносная сделка. Но Хассабис продавал не просто компанию, а мечту, и он поставил жесткие условия. Главное – создание независимого Совета по этике, который бы следил за безопасным развитием технологий. Уже тогда он понимал: мощь ИИ несет не только благо, но и колоссальную ответственность. Он также настоял, чтобы штаб-квартира осталась в Лондоне, веря в потенциал родного города стать центром ИИ-исследований. Получив ресурсы *Google*, *DeepMind* получила «крылья».

Под этими крыльями родилась *AlphaFold* – система, решившая одну из величайших загадок биологии, предсказав структуру белков. Это уже не игры; это прямой путь к новым лекарствам и пониманию жизни. Хассабис доказал: ИИ – это мощнейший инструмент научного прогресса. Эта работа принесла ему и его команде Нобелевскую премию по химии в 2024 году, впервые в истории отметив вклад искусственного интеллекта на таком высоком уровне.

Сегодня сэр Демис Хассабис, рыцарь-бакалавр и нобелевский лауреат, продолжает вести *Google DeepMind* к новым горизонтам. Он остается оптимистом, верящим, что ИИ способен преобразить мир к лучшему, но и реалистом, призывающим к серьезному отношению к рискам. Его история – это не просто рассказ об успехах. Это драма о стремлении понять саму суть интеллекта, о смелости мечтать и ответственности за воплощение этой мечты, изменяя будущее человечества на наших глазах.
👍5
Друзья, наконец разобрал всю почту!
Ответил всем, кто написал по поводу конспекта выступления Даррена Аронофски на конференции Google «Сторителлинг в эпоху ИИ».

Раз эта тема вам действительно настолько интересна, то у меня для вас сюрприз. На конференции показали процесс съёмок с использованием нейросети нового фильма, про который рассказывал Даррен. Я перевёл и ДУБЛИРОВАЛ этот ролик на русский язык.

Посмотреть можно у меня на Youtube канале (вы, кстати, зря не подписываетесь, там много интересного).

https://www.youtube.com/watch?v=dHT16_Ia00I

СПЕШИТЕ ВИДЕТЬ, ПОКА РОЛИК НЕ ЗАБЛОКИРОВАЛИ ПО АВТОРСКИМ ПРАВАМ!
👍8
Media is too big
VIEW IN TELEGRAM
Мощнейше врываемся в лето c Арнольдом Шварценеггером на припеве. Всем I'll be back!
👍10
Общий Валар Маргулис! Начинаем лето с мощнейшей истории, которую вы пропустили.

ПЕРВЫЙ СЕВЕРОКОРЕЙСКИЙ ШПИОН ОБНАРУЖЕН В АНГЛИИ. ИМ ОКАЗАЛСЯ…

👇👇👇
👍1
⚡️⚡️⚡️ПЕРВЫЙ СЕВЕРОКОРЕЙСКИЙ ШПИОН ОБНАРУЖЕН В АНГЛИИ. ИМ ОКАЗАЛСЯ…

Обычный телефон. Ладно, не совсем обычный.

Представьте себе, пять утра, Пхеньян. Телефон на тумбочке тихо делает скриншот. Хозяин ещё спит, а государство уже пополняет досье. Контрабандный смартфон, оказавшийся в руках журналистов BBC, вскрыл закулисье самого строго режима на планете.

Наберите в СМС «оппа» — ласковое южнокорейское «братик», и вместо этого увидите в своём сообщении «товарищ». Попробуйте «Южная Корея» — получите «марионеточное государство». Автоисправление вшито прямо в прошивку: телефон редактирует мышление, подстраивая хозяина под идеологию.

Исследователи ввели 130 популярных южнокорейских сленговых слов; 97 заменились автоматически, 8 ­— заблокированы — экран мигнул: «Недопустимое слово». Клавиатура перестала быть инструментом, став цензором.

Устройство без спроса фотографирует экран каждые пять минут, 288 раз в сутки. Переписки, мемы, поисковые запросы — всё прячется в невидимых папках. Доступ к ним открывается только сотрудникам безопасности во время внезапных проверок: на улице, в автобусе, на работе. Иногда — посреди ночи.

Хакеры нашли «чёрный журнал» — зашифрованную базу, где каждому снимку сопоставлены координаты и уровень «идеологической чистоты». Чем выше индекс тревоги, тем ближе визит в подвал.

Любовь к K-pop? До пяти лет лагерей. Распространение клипов — повод для публичной казни, фиксируют правозащитники. В 2024-м 19-летнюю студентку Чхве Мён-су отправили на угольный карьер за Bluetooth-пересылку трека BTS. Смартфон стал свидетелем обвинения, который нельзя заставить молчать.

Алгоритмы оценивают «лояльность тона» сообщений, камеры с распознаванием лиц метят каждого прохожего, биометрические базы лишают анонимности даже младенцев. Под колпаком оказываются и сами силовики — система пожирает собственный хвост, чтобы исключить коррупцию.

Телефон работает на модифицированном Android 8; скрытые сервисы ловят буфер обмена и делают селфи, если владелец отключает GPS. Вставьте иностранную SIM — устройство стирает память и выводит цитату Ким Чен Ына о бдительности. Аппаратный «килл-свитч» отключит телефон, если тот 24 часа провёл вне внутренней сети.

Вскрытие северокорейского телефона ужаснуло западный мир. Но что мы увидем, когда вскроем телефоны других стран?

Каждые пять минут где-то сохраняется изображение чужого экрана. Главное, чтобы однажды это не стал ваш собственный.
1👍8
ИНСТРУМЕНТАЛЬНОСТЬ_дайджест_весна_2025.pdf
110 KB
⚡️Инструменталисты, наступило лето. А значит, самое время для ДАЙДЖЕСТА весенних материалов, которые вы могли пропустить. Материалов оказалось так много, что все ссылки НЕ ВЛЕЗЛИ в один пост. Поэтому собрал их в файл. Конспекты, ролики, подкасты, истории, которые вы могли пропустить - всё в этом файле.

Надеюсь это будет вам интересно и полезно!
👍6
На цифровых носителях вышли «Грешники» Райна Куглера и это прям КИНО!!! Не важно как вы относитесь к жанру, к актёрам, к режиссёрам - просто посмотрите и поймайте внутри себя это ощущение - что вы смотрите кино. В меня оно вообще попало на 100% по сеттингу и особенно по музыкальной составляющей. Но КАК ЖЕ это снято.

Я специально нашёл ролик, где Райн Куглер рассказывает о процессе съёмке и о том в каких форматах доступен фильм для просмотра. ЭТО НЕВЕРОЯТНО ВДОХНОВЛЯЮЩЕ. Как же он увлечённо говорит о технических нюансах и ровно так же о зрительском опыте, который он хотел чтобы пережила аудитория. Это ЛУЧШЕЕ видео, что я смотрел о кино за долгое время.

Я перевёл ролик, дублировал (слава нейросетям) и выложил для вас. СПЕШИТЕ! Его уже 2 раза блокировали. Но эти 10 минут стоит потратить, если вы фанатично любите кино и ОСОБЕННО, если вы к нему равнодушны.

https://www.youtube.com/watch?v=3IP9fae_FwI
👍7
ИнструМентальность
Я - ЛЕГЕНДА Ничего не предвещало ничего. Да, именно так оно и было в тот день, когда я решил перевести для подписчиков моего Телеграмм-канала беседу авторов «Аноры» и «Бруталлиста». А чтобы продемонстрировать диапазон интересующих меня тем, я провёл опрос…
А я вам говорил, что Илья Суцкевер интересный персонаж! Ещё когда изучал и конспектировал знаменитый «Список Суцкевера» (про который до сих пор я получаю 1-2 письма в день, потому что реально полной версии оригинальных документов так никто, кроме меня не потрудился собрать).
Вместе с Юрой Борисовым он попал в «историю, которую вы пропустили».

👇👇👇
👍6