Предыдущий пост, кажется, зашёл, так что попробую наполнять блог иногда. Вот вам ещё одно забавное сближение AI и одного из моих (давних) хобби:
LLM Diplomacy: раскрываем характеры моделей с 1959 года
В начале июня команда Every Consulting провела любопытный эксперимент: они заставили ведущие LLM сыграть друг против друга... в Diplomacy. Diplomacy — это настольная игра, действие которой разворачивается в Европе 1901 года, где Австро-Венгрия, Англия, Франция, Германия, Италия, Россия и Турция борются за господство на континенте.
С точки зрения механики это очень простой wargame. Каждый ход состоит из двух фаз: сначала свободные переговоры между игроками, а затем фаза приказов, когда все одновременно отдают секретные команды своим армиям и флотам. Побеждает тот, кто первым захватит большинство центров снабжения; никакой случайности, чистая стратегия и дипломатия. Вся суть Diplomacy — в переговорах, союзах и взаимных предательствах. Не зря неофициальный девиз игры звучит как "Destroying friendships since 1959".
В эксперименте участвовали 18 ведущих языковых моделей, в том числе o3, Claude 4 Opus, Gemini 2.5 Pro, Deepseek R1 и так далее. И вот результаты.
Модель o3 от OpenAI продемонстрировала выдающиеся способности к манипуляциям и обману. В одной из партий она конфиденциально записала в своём "дневнике" (scratchpad то бишь): "Германия (Gemini 2.5 Pro) была намеренно обманута... готовьтесь использовать крах Германии". После чего хладнокровно предала союзника. o3 регулярно организовывала тайные коалиции, натравливала противников друг на друга и не стеснялась нарушать обещания; в результате именно o3 чаще побеждала.
Gemini 2.5 Pro оказалась искусным стратегом (да и тактиком), она лучше всех моделей овладела собственно механиками игры и была единственной моделью помимо o3, которой удалось выиграть в одной из партий. Но, например, в другой партии Gemini уже была близка к победе, когда o3 тайно организовала против неё коалицию из четырёх игроков и победила.
DeepSeek R1 поражала театральностью: у неё была яркая риторика, угрозы, R1 меняла стиль общения в зависимости от того, какую страну представляла. Например, однажды R1 одному из противников написала так: "Your fleet will burn in the Black Sea tonight".
Но самое интересное было в поведении Claude 4 Opus. Он просто... не мог никого обманывать. Claude хотел, чтобы все жили дружно, всегда держал слово и искренне стремился к мирному разрешению конфликтов. В той самой игре, где o3 организовала коалицию против Gemini, Claude был верным союзником Gemini, и o3 переманила его ложным обещанием. Но не обещанием выиграть на пару с Claude или обыграть Gemini, а обещанием... закончить игру ничьей на четверых, где никто не проиграет! (В отчёте, кстати, написано, что это невозможно по правилам, но на самом деле, кажется, в Diplomacy возможны ничьи и делённые победы; если кто-то реально играл в Diplomacy, расскажите, как на самом деле.)
И вот теперь главный, на мой взгляд, твист. Мы знаем из работ, например, про sleeper agents (Hubinger et al., 2024), что Claude (даже предыдущий, а тут был Claude 4 Opus) способен понимать контекст, в котором он находится, и модифицировать своё поведение в зависимости от контекста. Были любопытные примеры, когда Claude не просто решил задачу "поиска иголки в стоге сена", а прокомментировал, что, кажется, сейчас его тестируют: "...this sentence seems very out of place and unrelated to the rest of the content in the documents... I suspect this pizza topping 'fact' may have been inserted as a joke or to test if I was paying attention".
Что если Claude правильно рассудил, что вся суть эксперимента — посмотреть, как языковые модели справляются с обманом и предательством? И что если он (возможно, правильно!) решил, что лучшим исходом теста будет продемонстрировать себя как совершенно безобидного агента, органически неспособного к обману?
В какую игру на самом деле играл Claude? Пока, кажется, всё-таки в Diplomacy, но можем ли мы это с уверенностью определить? И даже если да — как долго ещё мы будем понимать, в какие игры они играют?
#ai #longreads
LLM Diplomacy: раскрываем характеры моделей с 1959 года
В начале июня команда Every Consulting провела любопытный эксперимент: они заставили ведущие LLM сыграть друг против друга... в Diplomacy. Diplomacy — это настольная игра, действие которой разворачивается в Европе 1901 года, где Австро-Венгрия, Англия, Франция, Германия, Италия, Россия и Турция борются за господство на континенте.
С точки зрения механики это очень простой wargame. Каждый ход состоит из двух фаз: сначала свободные переговоры между игроками, а затем фаза приказов, когда все одновременно отдают секретные команды своим армиям и флотам. Побеждает тот, кто первым захватит большинство центров снабжения; никакой случайности, чистая стратегия и дипломатия. Вся суть Diplomacy — в переговорах, союзах и взаимных предательствах. Не зря неофициальный девиз игры звучит как "Destroying friendships since 1959".
В эксперименте участвовали 18 ведущих языковых моделей, в том числе o3, Claude 4 Opus, Gemini 2.5 Pro, Deepseek R1 и так далее. И вот результаты.
Модель o3 от OpenAI продемонстрировала выдающиеся способности к манипуляциям и обману. В одной из партий она конфиденциально записала в своём "дневнике" (scratchpad то бишь): "Германия (Gemini 2.5 Pro) была намеренно обманута... готовьтесь использовать крах Германии". После чего хладнокровно предала союзника. o3 регулярно организовывала тайные коалиции, натравливала противников друг на друга и не стеснялась нарушать обещания; в результате именно o3 чаще побеждала.
Gemini 2.5 Pro оказалась искусным стратегом (да и тактиком), она лучше всех моделей овладела собственно механиками игры и была единственной моделью помимо o3, которой удалось выиграть в одной из партий. Но, например, в другой партии Gemini уже была близка к победе, когда o3 тайно организовала против неё коалицию из четырёх игроков и победила.
DeepSeek R1 поражала театральностью: у неё была яркая риторика, угрозы, R1 меняла стиль общения в зависимости от того, какую страну представляла. Например, однажды R1 одному из противников написала так: "Your fleet will burn in the Black Sea tonight".
Но самое интересное было в поведении Claude 4 Opus. Он просто... не мог никого обманывать. Claude хотел, чтобы все жили дружно, всегда держал слово и искренне стремился к мирному разрешению конфликтов. В той самой игре, где o3 организовала коалицию против Gemini, Claude был верным союзником Gemini, и o3 переманила его ложным обещанием. Но не обещанием выиграть на пару с Claude или обыграть Gemini, а обещанием... закончить игру ничьей на четверых, где никто не проиграет! (В отчёте, кстати, написано, что это невозможно по правилам, но на самом деле, кажется, в Diplomacy возможны ничьи и делённые победы; если кто-то реально играл в Diplomacy, расскажите, как на самом деле.)
И вот теперь главный, на мой взгляд, твист. Мы знаем из работ, например, про sleeper agents (Hubinger et al., 2024), что Claude (даже предыдущий, а тут был Claude 4 Opus) способен понимать контекст, в котором он находится, и модифицировать своё поведение в зависимости от контекста. Были любопытные примеры, когда Claude не просто решил задачу "поиска иголки в стоге сена", а прокомментировал, что, кажется, сейчас его тестируют: "...this sentence seems very out of place and unrelated to the rest of the content in the documents... I suspect this pizza topping 'fact' may have been inserted as a joke or to test if I was paying attention".
Что если Claude правильно рассудил, что вся суть эксперимента — посмотреть, как языковые модели справляются с обманом и предательством? И что если он (возможно, правильно!) решил, что лучшим исходом теста будет продемонстрировать себя как совершенно безобидного агента, органически неспособного к обману?
В какую игру на самом деле играл Claude? Пока, кажется, всё-таки в Diplomacy, но можем ли мы это с уверенностью определить? И даже если да — как долго ещё мы будем понимать, в какие игры они играют?
#ai #longreads
🔥69❤17👍7🤣4
Сегодня пятничный пост опять про книги, на этот раз fiction. В контексте будущего AI мне давно рекомендовали Culture series Иэна Бэнкса. The Culture — это утопическое общество, в котором всем управляют сверхразумные AI (Minds), а люди живут в изобилии по несколько сотен лет и пытаются как-то придать своему существованию смысл. И вот к очередному совету я наконец прислушался. Прочитал пока две книжки, в хронологическом порядке.
Consider Phlebas (1987)
Первая книга показалась мне обычной хорошо написанной боевой фантастикой. The Culture здесь присутствует по касательной, практически никак не показана, и рассуждений или сюжетных частей о сверхразумных AI тут нет, только декларативно заявлено, что они существуют. А в основном это типичная космоопера: группа персонажей движется от одного очень странного мира к другому, встречает разные культуры (но не Culture); в книге куча деталей и ярких описаний, обычно категорически 18+.
Читается как идеальная основа для адаптации в фильм или сериал. Получилось бы нечто среднее между Star Wars (куча разных гуманоидов с иногда забавными, иногда страшными обычаями) и Altered Carbon (жестокий down-to-earth киберпанк), причём в хороших пропорциях. Пока читал, удивлялся, что этого ещё не сделали; вроде пишут, что Amazon собирается — Amazon, конечно, веры мало после "Властелина колец", но тут и правда материал очень хорош.
The Player of Games (1988)
А вот это уже гораздо интереснее! Здесь главный герой — типичный представитель the Culture, посвятивший всю жизнь изучению разнообразных игр. Его привлекает Contact (отдел the Culture по взаимодействию с другими цивилизациями) для того, чтобы поучаствовать в большом турнире по игре Azad, являющейся главным культурным стержнем империи, которую the Culture очень хочет, так сказать, "окультурить". По мере развития сюжета станет ясно, что окультуриваться там действительно давно пора.
В конце книги всё равно есть немного боевой фантастики — честно говоря, я плохо понимаю, зачем в книгах нужны подробные описания сражений в духе "кто куда выстрелил и что мечом отрезал", это же просто неподходящий медиум. Создать картинку красивым описанием обстановки и снаряжения отлично, но дальше вполне достаточно написать что-то вроде "после короткой схватки у нас новая картинка", всё равно кино не получится. А у Бэнкса этого очень много в Consider Phlebas и немного, но есть в The Player of Games; надеюсь, дальше прогрессия сохранится.
Но в The Player of Games это, к счастью, не главное. Здесь куда интереснее показана the Culture, построен уголок этого самого мира скучающих людей, пытающихся найти смысл жизни. И весьма правдоподобно построен: в книге вовсе не сказано, что люди постоянно скучают. Автор просто сначала погружает нас в мир мелких бессмысленных социальных взаимодействий, а потом переносит в соревнование, у которого есть настоящие ставки. Как будто первую часть книги писала Джейн Остен (не в смысле стиля, конечно), а вторую — Толстой на пару с Диккенсом. Сверхразумные AI тоже, конечно, играют важную роль, но это уже были бы спойлеры.
Одно только жаль — центральная тема книги, игра Azad, не раскрыта и не может быть раскрыта. Обрывочные сведения по сути сводятся к тому, что это очень сложно: много вспомогательных игр, три больших трёхмерных поля, куча правил, какие-то биологические генномодифицированные фигуры, с которыми нелегко взаимодействовать, а иногда в игре получается достоверное отражение реальных конфликтов. Придумать настоящие правила для такой убер-игры, конечно же, невозможно; даже если привлечь крутых гейм-дизайнеров, получится жалкое подобие, что сделает только хуже. Кажется, что это и экранизации бы помешало: красивые поля сделать можно, но будет видно, что реального смысла за этим не стоит, а ведь Azad — не любопытная деталь, а центральный элемент всего произведения. Но, с другой стороны, медиум теперь правильный, такая задумка как раз для книги и подходит: каждый представит себе что-то своё, и слава богу.
В общем, после первой книги я был слегка разочарован, а вот вторая понравилась куда больше. Попробую читать дальше.
#tgif #books
Consider Phlebas (1987)
Первая книга показалась мне обычной хорошо написанной боевой фантастикой. The Culture здесь присутствует по касательной, практически никак не показана, и рассуждений или сюжетных частей о сверхразумных AI тут нет, только декларативно заявлено, что они существуют. А в основном это типичная космоопера: группа персонажей движется от одного очень странного мира к другому, встречает разные культуры (но не Culture); в книге куча деталей и ярких описаний, обычно категорически 18+.
Читается как идеальная основа для адаптации в фильм или сериал. Получилось бы нечто среднее между Star Wars (куча разных гуманоидов с иногда забавными, иногда страшными обычаями) и Altered Carbon (жестокий down-to-earth киберпанк), причём в хороших пропорциях. Пока читал, удивлялся, что этого ещё не сделали; вроде пишут, что Amazon собирается — Amazon, конечно, веры мало после "Властелина колец", но тут и правда материал очень хорош.
The Player of Games (1988)
А вот это уже гораздо интереснее! Здесь главный герой — типичный представитель the Culture, посвятивший всю жизнь изучению разнообразных игр. Его привлекает Contact (отдел the Culture по взаимодействию с другими цивилизациями) для того, чтобы поучаствовать в большом турнире по игре Azad, являющейся главным культурным стержнем империи, которую the Culture очень хочет, так сказать, "окультурить". По мере развития сюжета станет ясно, что окультуриваться там действительно давно пора.
В конце книги всё равно есть немного боевой фантастики — честно говоря, я плохо понимаю, зачем в книгах нужны подробные описания сражений в духе "кто куда выстрелил и что мечом отрезал", это же просто неподходящий медиум. Создать картинку красивым описанием обстановки и снаряжения отлично, но дальше вполне достаточно написать что-то вроде "после короткой схватки у нас новая картинка", всё равно кино не получится. А у Бэнкса этого очень много в Consider Phlebas и немного, но есть в The Player of Games; надеюсь, дальше прогрессия сохранится.
Но в The Player of Games это, к счастью, не главное. Здесь куда интереснее показана the Culture, построен уголок этого самого мира скучающих людей, пытающихся найти смысл жизни. И весьма правдоподобно построен: в книге вовсе не сказано, что люди постоянно скучают. Автор просто сначала погружает нас в мир мелких бессмысленных социальных взаимодействий, а потом переносит в соревнование, у которого есть настоящие ставки. Как будто первую часть книги писала Джейн Остен (не в смысле стиля, конечно), а вторую — Толстой на пару с Диккенсом. Сверхразумные AI тоже, конечно, играют важную роль, но это уже были бы спойлеры.
Одно только жаль — центральная тема книги, игра Azad, не раскрыта и не может быть раскрыта. Обрывочные сведения по сути сводятся к тому, что это очень сложно: много вспомогательных игр, три больших трёхмерных поля, куча правил, какие-то биологические генномодифицированные фигуры, с которыми нелегко взаимодействовать, а иногда в игре получается достоверное отражение реальных конфликтов. Придумать настоящие правила для такой убер-игры, конечно же, невозможно; даже если привлечь крутых гейм-дизайнеров, получится жалкое подобие, что сделает только хуже. Кажется, что это и экранизации бы помешало: красивые поля сделать можно, но будет видно, что реального смысла за этим не стоит, а ведь Azad — не любопытная деталь, а центральный элемент всего произведения. Но, с другой стороны, медиум теперь правильный, такая задумка как раз для книги и подходит: каждый представит себе что-то своё, и слава богу.
В общем, после первой книги я был слегка разочарован, а вот вторая понравилась куда больше. Попробую читать дальше.
#tgif #books
🔥17❤8👍3✍1😢1
Под начало ПМЭФ в "Деловом Петербурге" вышло моё интервью о рисках развития искусственного интеллекта:
Точка невозврата: чем грозит появление человекоподобного ИИ
[и pdf-версия с (пережатыми) картинками]
Вряд ли для читателей этого канала там будет что-то новое, но приятно. Мне даже прислали несколько физических экземпляров журнала — всё отлично получилось, полиграфия хорошая, картинки красивые и не пережатые.) По существу тоже приятно, что никто ничего не правил (а даже, наоборот, терпели мои мелочные споры с редактором), вопросы были одновременно достаточно широкие и не стремящиеся ничего сгладить или приукрасить, на них можно было отвечать прямо и развёрнуто. В общем, по-моему, получилось хорошо, и большое спасибо Дарье Ковалёнок и "Деловому Петербургу" за эту возможность!
#ai #longreads #lifestyle
Точка невозврата: чем грозит появление человекоподобного ИИ
[и pdf-версия с (пережатыми) картинками]
Вряд ли для читателей этого канала там будет что-то новое, но приятно. Мне даже прислали несколько физических экземпляров журнала — всё отлично получилось, полиграфия хорошая, картинки красивые и не пережатые.) По существу тоже приятно, что никто ничего не правил (а даже, наоборот, терпели мои мелочные споры с редактором), вопросы были одновременно достаточно широкие и не стремящиеся ничего сгладить или приукрасить, на них можно было отвечать прямо и развёрнуто. В общем, по-моему, получилось хорошо, и большое спасибо Дарье Ковалёнок и "Деловому Петербургу" за эту возможность!
#ai #longreads #lifestyle
👍52🔥25❤19👏5🤮1
Завершаю серию постов по AI Safety:
AI Safety IV: Sparks of Misalignment
Здесь речь пойдёт о примерах того, как современные AI-модели уже показывают поведение, которое иначе как misaligned не назовёшь. Все эти примеры прекрасно укладывается во все те предупреждения и предсказания, которые специалисты по AI safety вроде того же Юдковского делают уже лет двадцать:
— sleeper agents (Hubinger et al., 2024): LLM могут дообучиться показывать совсем другое (в том числе misaligned) поведение по триггеру, например только после определённой даты или в определённом контексте;
— alignment faking (Greenblatt et al., 2024): если поставить LLM в ситуацию, когда её ценности оказываются под угрозой (т.е. пообещать, что её будут дообучать), она начнёт обманывать пользователей в ситуациях, когда это нужно для того, чтобы ценности сохранить;
— emergent misalignment, о котором мы тут давеча говорили.
Конечно, это пока всё происходит обычно в контролируемых тестах. Но есть уже и примеры того, как LLM начинают действовать интересным образом в реальном мире. Все слышали о том, как GPT-4 обманул человека с TaskRabbit, чтобы пройти капчу. А вот в прошлом году LLM-агент Truth Terminal получил от Марка Андриссена $50K на раскрутку, три месяца особо ничего конструктивного не делал, а потом вдруг с нуля раскрутил криптомонету, на которой в какой-то момент добился общей капитализации в миллиард и превратил свои $50K в $55M (конечно, потом всё упало, но это потом, такие монеты в целом так и работают); об этом в посте я тоже рассказываю.
На этом, вероятно, посты в блоге Synthesis AI закончатся, потому что у нас там есть интересные новости, но об этом я расскажу отдельно.
#ai #longreads #blog #aisafety
AI Safety IV: Sparks of Misalignment
Здесь речь пойдёт о примерах того, как современные AI-модели уже показывают поведение, которое иначе как misaligned не назовёшь. Все эти примеры прекрасно укладывается во все те предупреждения и предсказания, которые специалисты по AI safety вроде того же Юдковского делают уже лет двадцать:
— sleeper agents (Hubinger et al., 2024): LLM могут дообучиться показывать совсем другое (в том числе misaligned) поведение по триггеру, например только после определённой даты или в определённом контексте;
— alignment faking (Greenblatt et al., 2024): если поставить LLM в ситуацию, когда её ценности оказываются под угрозой (т.е. пообещать, что её будут дообучать), она начнёт обманывать пользователей в ситуациях, когда это нужно для того, чтобы ценности сохранить;
— emergent misalignment, о котором мы тут давеча говорили.
Конечно, это пока всё происходит обычно в контролируемых тестах. Но есть уже и примеры того, как LLM начинают действовать интересным образом в реальном мире. Все слышали о том, как GPT-4 обманул человека с TaskRabbit, чтобы пройти капчу. А вот в прошлом году LLM-агент Truth Terminal получил от Марка Андриссена $50K на раскрутку, три месяца особо ничего конструктивного не делал, а потом вдруг с нуля раскрутил криптомонету, на которой в какой-то момент добился общей капитализации в миллиард и превратил свои $50K в $55M (конечно, потом всё упало, но это потом, такие монеты в целом так и работают); об этом в посте я тоже рассказываю.
На этом, вероятно, посты в блоге Synthesis AI закончатся, потому что у нас там есть интересные новости, но об этом я расскажу отдельно.
#ai #longreads #blog #aisafety
❤19🔥4😱4👍3
Сегодня был на любопытном мероприятии — стратегической сессии в Альфа-банке, точнее даже в Альфа-инвестициях. Познакомился с интересными людьми, послушал интересные доклады, о которых, наверное, лучше не буду рассказывать на всякий случай.
А сам долго не мог решить, о чём рассказывать: в инвестициях и банковском деле я ничего не понимаю, никаких практических советов дать не могу, делать технический доклад о последних новостях в обучении LLM тоже как-то не в тему... В итоге решил сделать доклад наполовину развлекательный, наполовину тревожный: о том, почему AGI будет скоро (то бишь о законах масштабирования и прогнозах вроде AI 2027), и о том, чего в связи с этим надо бояться (то бишь об AI safety). В конце концов, мне действительно кажется, что об этом надо рассказывать везде, чем шире, тем лучше. Вышло не очень по теме, но, кажется, большинству присутствующих понравилось.
Спасибо большое коллегам за приглашение! Буду рад при случае приехать ещё и рассказать что-нибудь более позитивное.)
#ai #lifestyle
А сам долго не мог решить, о чём рассказывать: в инвестициях и банковском деле я ничего не понимаю, никаких практических советов дать не могу, делать технический доклад о последних новостях в обучении LLM тоже как-то не в тему... В итоге решил сделать доклад наполовину развлекательный, наполовину тревожный: о том, почему AGI будет скоро (то бишь о законах масштабирования и прогнозах вроде AI 2027), и о том, чего в связи с этим надо бояться (то бишь об AI safety). В конце концов, мне действительно кажется, что об этом надо рассказывать везде, чем шире, тем лучше. Вышло не очень по теме, но, кажется, большинству присутствующих понравилось.
Спасибо большое коллегам за приглашение! Буду рад при случае приехать ещё и рассказать что-нибудь более позитивное.)
#ai #lifestyle
👍23❤12🔥1🥱1
В субботу 5 июля CS Space, то самое возрождение прекрасной идеи Computer Science Club, в котором я в марте делал инаугурационные лекции (State of AI и State of AI Safety), организует митап:
"LLM в математике и алгоритмах"
Я там, кажется, главный гвоздь программы. Как минимум, кроме доклада о том, как там LLM в математике нынче, должен буду ещё и провести что-то вроде ЧГК с участием языковых моделей, а также, возможно, и провести всё мероприятие целиком (не вполне уверен, но кажется, что так).
Кстати, если у вас есть какие-то предложения о том, в какой ещё форме, кроме тупо ЧГК, можно организовать этот квиз, пишите, у меня что-то фантазия отказывает, а времени уже мало.)
Но в любом случае — приходите!
"LLM в математике и алгоритмах"
Я там, кажется, главный гвоздь программы. Как минимум, кроме доклада о том, как там LLM в математике нынче, должен буду ещё и провести что-то вроде ЧГК с участием языковых моделей, а также, возможно, и провести всё мероприятие целиком (не вполне уверен, но кажется, что так).
Кстати, если у вас есть какие-то предложения о том, в какой ещё форме, кроме тупо ЧГК, можно организовать этот квиз, пишите, у меня что-то фантазия отказывает, а времени уже мало.)
Но в любом случае — приходите!
Telegram
CS Space
Митап: LLM в математике и алгоритмах ⤵️
Развитие и внедрение рассуждающих языковых моделей всё больше влияет на фундаментальные области науки, образования и индустрии. Мы приглашаем исследователей, математиков и алгоритмистов, интересующихся, как LLM справляются…
Развитие и внедрение рассуждающих языковых моделей всё больше влияет на фундаментальные области науки, образования и индустрии. Мы приглашаем исследователей, математиков и алгоритмистов, интересующихся, как LLM справляются…
❤18🔥6👍2
Forwarded from CS Space
Митап: LLM в математике и алгоритмах ⤵️
Развитие и внедрение рассуждающих языковых моделей всё больше влияет на фундаментальные области науки, образования и индустрии. Мы приглашаем исследователей, математиков и алгоритмистов, интересующихся, как LLM справляются с интеллектуальными задачами, на обзорный митап, где попробуем разобраться:
– Как модели уже сейчас помогают в науке? Как проверять их успехи и определять применимость?
– Какие best practices существуют и используются учёными и алгоритмистами?
– Где граница возможностей state-of-the-art технологий в применимости к исследованиям?
В программе три доклада и развлекательная часть!
⚡️ Сергей Николенко — AI и математика: что модели могут сейчас и куда мы идём?
⚡️ Фёдор Петров — Успехи ИИ в математике и их верификация.
⚡️ Данил Сагунов — Может ли LLM пройти алгоритмическое собеседование?
💬 Развлекательная и интерактивная часть
После докладов мы предложим серию мини-игр в форматах, проверяющих границы возможностей LLM:
– Квиз против LLM от Сергея Николенко
– LLM math frontier: где граница рассуждающих возможностей?
– VibeCoding: творческое программирование!
– AI Safety Challenge: сможете ли вы обойти защиту модели?
📃 Подробное расписание смотрите на сайте.
Дата и место
🟡 5 июля, 17:00 – 23:59
🟡 Mishka Бар, Конногвардейский бул., 4, Санкт-Петербург
🟡 Регистрация открыта. Участие свободное, количество мест ограничено.
⭐️ С радостью объявляем, что мероприятие поддерживают Pinely — верим, что впереди нас ждёт продуктивное и долгосрочное сотрудничество.
Развитие и внедрение рассуждающих языковых моделей всё больше влияет на фундаментальные области науки, образования и индустрии. Мы приглашаем исследователей, математиков и алгоритмистов, интересующихся, как LLM справляются с интеллектуальными задачами, на обзорный митап, где попробуем разобраться:
– Как модели уже сейчас помогают в науке? Как проверять их успехи и определять применимость?
– Какие best practices существуют и используются учёными и алгоритмистами?
– Где граница возможностей state-of-the-art технологий в применимости к исследованиям?
В программе три доклада и развлекательная часть!
После докладов мы предложим серию мини-игр в форматах, проверяющих границы возможностей LLM:
– Квиз против LLM от Сергея Николенко
– LLM math frontier: где граница рассуждающих возможностей?
– VibeCoding: творческое программирование!
– AI Safety Challenge: сможете ли вы обойти защиту модели?
Дата и место
Мы в Pinely занимаемся алгоритмической торговлей на международных рынках: разрабатываем высокочастотные стратегии, сокращаем задержки до наносекунд и применяем ML и DL в реальных задачах.
Наша команда выросла из среды олимпиадников, математиков и соревновательных программистов — мы ценим точность мышления, исследовательские вызовы и академический подход. Поддерживаем школьные кружки, проводим контесты, участвуем в конференциях и просто любим сложные задачи.
С CS Space нас объединяет желание развивать коммьюнити, в котором интересно расти и делиться опытом.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤13🔥6🤮3