Интервью: With OpenAI Co-Founder & Chief Scientist Ilya Sutskever
OpenAI, компания-разработчик искусственного интеллекта, ставит своей целью обеспечить, чтобы разработки в области искусственного общего интеллекта приносили пользу всему человечеству.
Путём перехода к структуре "с ограниченной прибылью", OpenAI стремится сосредоточиться на исследованиях и разработках в интересах широкой публики, не преследуя при этом исключительно коммерческие интересы.
Существенные вычислительные мощности являются критически важными для прогресса в области искусственного интеллекта.
Изменения в исследовательской программе компании подразумевают фокус на модели, основанные на трансформерах и глубоком обучении.
Проекты OpenAI включают тренировку нейронных сетей для участия в стратегических играх в реальном времени, что способствует развитию искусственного интеллекта, совместимого с человеческим поведением и потребностями.
В разработках AI особое внимание уделяется масштабируемости и надёжности моделей.
Существующий компромисс между размером модели и её специализированным тонким настройкам определяет различные области применения - более мелкие модели подходят для узкоспециализированных задач, в то время как крупные модели обладают широкими возможностями.
Будущее открытых моделей может стать более сложным ввиду неясности границ, когда мощные модели стоит сохранять в открытом доступе.
Автономия и исследования суперсовместимости являются важными для продвижения разработок искусственного интеллекта и предотвращения потенциальных рисков в деле создания безопасных систем искусственного интеллекта.
#AIResearch #FutureOfAI #OpenAI
OpenAI, компания-разработчик искусственного интеллекта, ставит своей целью обеспечить, чтобы разработки в области искусственного общего интеллекта приносили пользу всему человечеству.
Путём перехода к структуре "с ограниченной прибылью", OpenAI стремится сосредоточиться на исследованиях и разработках в интересах широкой публики, не преследуя при этом исключительно коммерческие интересы.
Существенные вычислительные мощности являются критически важными для прогресса в области искусственного интеллекта.
Изменения в исследовательской программе компании подразумевают фокус на модели, основанные на трансформерах и глубоком обучении.
Проекты OpenAI включают тренировку нейронных сетей для участия в стратегических играх в реальном времени, что способствует развитию искусственного интеллекта, совместимого с человеческим поведением и потребностями.
В разработках AI особое внимание уделяется масштабируемости и надёжности моделей.
Существующий компромисс между размером модели и её специализированным тонким настройкам определяет различные области применения - более мелкие модели подходят для узкоспециализированных задач, в то время как крупные модели обладают широкими возможностями.
Будущее открытых моделей может стать более сложным ввиду неясности границ, когда мощные модели стоит сохранять в открытом доступе.
Автономия и исследования суперсовместимости являются важными для продвижения разработок искусственного интеллекта и предотвращения потенциальных рисков в деле создания безопасных систем искусственного интеллекта.
#AIResearch #FutureOfAI #OpenAI
YouTube
No Priors Ep. 39 | With OpenAI Co-Founder & Chief Scientist Ilya Sutskever
Each iteration of ChatGPT has demonstrated remarkable step function capabilities. But what’s next? Ilya Sutskever, Co-Founder & Chief Scientist at OpenAI, joins Sarah Guo and Elad Gil to discuss the origins of OpenAI as a capped profit company, early emergent…
Q* - Clues to the Puzzle?
Появилась информация о потенциальном прорыве в OpenAI.
Среди ключевых достижений – значительное улучшение способности моделей AI к рассуждению и самоанализу, благодаря которому исследователи достигли рекордных 78% в математическом бенчмарке.
То о чем Маск написал как о Q*, возможно, предполагает доведение модели до самоусовершенствования через самокритику, пересмотр и повторное обучение на собственных успешных результатах.
Возможно AGI уже крутится в бете.
#AIResearch #OpenAI #ArtificialIntelligence
Появилась информация о потенциальном прорыве в OpenAI.
Среди ключевых достижений – значительное улучшение способности моделей AI к рассуждению и самоанализу, благодаря которому исследователи достигли рекордных 78% в математическом бенчмарке.
То о чем Маск написал как о Q*, возможно, предполагает доведение модели до самоусовершенствования через самокритику, пересмотр и повторное обучение на собственных успешных результатах.
Возможно AGI уже крутится в бете.
#AIResearch #OpenAI #ArtificialIntelligence
Пишем GPT-2 своими руками с Андреем Карпати
В новом видео Андрей Карпати демонстрирует процесс создания модели GPT-2 объемом 124B.
Основная цель — обучение модели GPT2 с использованием веб-данных.
В 4х часовом видео разобраны процедуры подбора параметров под объем GPU и общие требования к модели, валидация, оценка потерь.
Потери на валидации выводятся каждые 100 итераций.
В качестве дополнительной оценки используется набор данных H-SWAG, который представляет из себя тест с множественным выбором, где нужно выбрать наиболее вероятное продолжение предложения.
Задача H-SWAG — выбор естественного продолжения предложения.
Скрипт всего процесса опубликован на GitHub.
- build-nanogpt GitHub repo, with all the changes in this video as individual commits: https://github.com/karpathy/build-nanogpt
- nanoGPT repo: https://github.com/karpathy/nanoGPT
- llm.c repo: https://github.com/karpathy/llm.c
#AIResearch #Karpathy #GPT2
-------
@tsingular
В новом видео Андрей Карпати демонстрирует процесс создания модели GPT-2 объемом 124B.
Основная цель — обучение модели GPT2 с использованием веб-данных.
В 4х часовом видео разобраны процедуры подбора параметров под объем GPU и общие требования к модели, валидация, оценка потерь.
Потери на валидации выводятся каждые 100 итераций.
В качестве дополнительной оценки используется набор данных H-SWAG, который представляет из себя тест с множественным выбором, где нужно выбрать наиболее вероятное продолжение предложения.
Задача H-SWAG — выбор естественного продолжения предложения.
Скрипт всего процесса опубликован на GitHub.
- build-nanogpt GitHub repo, with all the changes in this video as individual commits: https://github.com/karpathy/build-nanogpt
- nanoGPT repo: https://github.com/karpathy/nanoGPT
- llm.c repo: https://github.com/karpathy/llm.c
#AIResearch #Karpathy #GPT2
-------
@tsingular
👍1
Media is too big
VIEW IN TELEGRAM
А вот ещё интересное нашёл в продолжение предыдущей темы про математический потолок масштабирования LLM.
Если делать модель шире, глубже и дольше учить становится всё дороже, то следующий очевидный резерв — test-time compute: тратить больше вычислений уже непосредственно при решении задачи.
Но тут возникает следующий вопрос: а на что именно их тратить?
Обычно модель просто генерирует много вариантов ответа, а потом выбирается лучший.
Работа Refining Over Resampling предлагает другую схему:
8 независимых решений → критика каждого → исправление → несколько таких циклов → голосование.
Причём генератор, критик и корректор — одна и та же модель, без отдельного reward model.
Даже на Qwen2.5-1.5B получили таким образом приличный результат:
MATH500: 29,6% → 58,0%
AMC: 25,0% → 32,5%
Проще говоря: вместо того чтобы 8 раз спросить модель и выбрать самый популярный ответ, можно заставить её несколько раз проверить собственные решения, найти ошибки, исправить их и только потом выбирать итоговый вариант.
То есть дополнительные вычисления можно тратить не только на большее количество попыток, но и на повышение качества уже найденных решений.
Чем-то, кстати, напоминает рекурсивный анализ Астры.
А дальше начинается уже инженерия: Best-of-N, деревья поиска, PRM, sandbox, отсечение плохих веток.
И тут возможен следующий этап масштабирования, - не модель и обучение, а сам процесс решения задачи:
поиск → проверка → исправление → повтор.
Возможно, после потолка pre-training следующий большой резерв лежит именно здесь.
📎 Refining Over Resampling
пост marfin про Test-Time Compute
#TestTimeCompute #Reasoning #AIResearch
———
@tsingular
Если делать модель шире, глубже и дольше учить становится всё дороже, то следующий очевидный резерв — test-time compute: тратить больше вычислений уже непосредственно при решении задачи.
Но тут возникает следующий вопрос: а на что именно их тратить?
Обычно модель просто генерирует много вариантов ответа, а потом выбирается лучший.
Работа Refining Over Resampling предлагает другую схему:
8 независимых решений → критика каждого → исправление → несколько таких циклов → голосование.
Причём генератор, критик и корректор — одна и та же модель, без отдельного reward model.
Даже на Qwen2.5-1.5B получили таким образом приличный результат:
MATH500: 29,6% → 58,0%
AMC: 25,0% → 32,5%
Проще говоря: вместо того чтобы 8 раз спросить модель и выбрать самый популярный ответ, можно заставить её несколько раз проверить собственные решения, найти ошибки, исправить их и только потом выбирать итоговый вариант.
То есть дополнительные вычисления можно тратить не только на большее количество попыток, но и на повышение качества уже найденных решений.
Чем-то, кстати, напоминает рекурсивный анализ Астры.
А дальше начинается уже инженерия: Best-of-N, деревья поиска, PRM, sandbox, отсечение плохих веток.
И тут возможен следующий этап масштабирования, - не модель и обучение, а сам процесс решения задачи:
поиск → проверка → исправление → повтор.
Возможно, после потолка pre-training следующий большой резерв лежит именно здесь.
📎 Refining Over Resampling
пост marfin про Test-Time Compute
#TestTimeCompute #Reasoning #AIResearch
———
@tsingular
❤12✍9⚡5🆒3💯1