👾 Альтман: целое поколение исследователей тормозило ИИ, недооценивая скейлинг

Генеральный директор OpenAI Сэм Альтман продолжает делать ставку на масштабирование больших языковых моделей и критикует скептиков. По его словам, целое поколение исследователей сдерживало развитие ИИ, будучи слишком уверенными в том, чего скейлинг не может достичь.

«Ставки против масштабирования LLM сейчас кажутся мне весьма ошибочными», — заявил Альтман в Стэнфорде, отвечая на критику Янна ЛеКуна, назвавшего LLM тупиковым путем. Альтман отметил, что некоторые люди привязывают свою идентичность к позиции и не могут от нее отказаться, даже когда данные доказывают обратное. «Тролли из Twitter», годами предсказывающие провал OpenAI, его не беспокоят.

Альтман привел пример: недавно модель OpenAI опровергла математическую гипотезу, над которой долго бились лучшие умы. «Очевидно, что LLM способны открывать новые знания», — подчеркнул он. Впрочем, для долгосрочных задач, требующих высокой степени суждения, модели «пока значительно уступают людям».

#AI #SamAltman #Scaling #LLM #Agents

⚙️ Modal Labs запустила миллион песочниц за минуту

Команда Modal Labs переписала свою платформу для запуска sandbox-окружений с нуля, чтобы справиться с нагрузкой от современных AI-агентов. В тесте система создала 1 млн изолированных окружений менее чем за 60 секунд — это новый рекорд для индустрии.

Проблема в том, что традиционные решения (включая Kubernetes) не рассчитаны на такие масштабы. У Kubernetes алгоритм планирования имеет сложность O(n×p), а etcd не шардируется в пределах одного ключевого пространства. Modal решила отказаться от сильной согласованности как основы архитектуры — теперь все централизованные узкие места устранены, а контейнеры создаются напрямую на воркер-нодах через слой балансировщиков.

Новая архитектура уже используется в продакшене: Modal поддерживает до 50 тыс. одновременных песочниц на одного клиента и миллионы запусков в день. Это критично для reinforcement learning (где нужны миллионы параллельных сред) и для фоновых агентов, которые должны мгновенно масштабироваться при всплесках трафика.

#AI #Modal #Sandboxes #Agents #Infrastructure #Scaling