⚙️ Как построили единую data-платформу Cloudflare и AI-агента на её основе

Cloudflare обрабатывает более миллиарда событий каждую секунду, а её сеть охватывает 330+ городов в 120+ странах. Долгое время эти данные были разрознены: десятки production-баз, кластеры ClickHouse, Kafka, Google Cloud и BigQuery. Чтобы ответить на простой вопрос, аналитику приходилось знать, в какой системе искать, какие credentials использовать и насколько данные свежи.

Для решения этой проблемы Cloudflare построила два внутренних инструмента: Town Lake — единую аналитическую платформу, и Skipper — AI-агента для работы с данными на естественном языке. Town Lake предоставляет единый SQL-интерфейс ко всем данным Cloudflare, а Skipper позволяет задавать вопросы на английском и получать корректные, проверяемые ответы за секунды.

В основе архитектуры лежит data lakehouse: движок запросов Apache Trino читает данные из объектного хранилища R2, а мета-слой делает это хранилище похожим на базу данных. Один SQL-запрос может объединить таблицу из Postgres, ClickHouse и Iceberg на R2 без материализации промежуточных результатов. Например, запрос «топ-100 платящих клиентов по Workers requests за неделю» компилируется в план, который пушит фильтры в ClickHouse, джойнит с dimension-таблицей аккаунтов в Postgres и ранжирует результат.

Ключевые требования: свежие и несэмплированные данные для биллинга и security-расследований, быстрые сэмплированные данные для дашбордов, встроенная безопасность с автоматическим детектированием PII и time-bounded разрешениями.
Платформа состоит из нескольких ключевых компонентов. R2 Data Catalog хранит «тёплые» и «холодные» данные в формате Apache Iceberg со schema evolution и компакцией по мере старения. DataHub — каталог метаданных с описанием каждой таблицы, колонки, владельца и lineage-связей. Lifeguard управляет доступом, динамически собирая JSON-политику для Trino. Skimmer непрерывно сканирует колонки через Workers AI и классифицирует PII в два прохода. Transformer — ELT-движок на Workflows, где пользователи описывают DAG SQL-трансформаций в YAML.

Governance построен по принципу default-closed: таблицы недоступны для запросов, пока не пройдут автоматический скан Skimmer и ревью. Если пользователь обращается к неодобренной таблице, он получает не «permission denied», а ссылку на запрос ревью. PII-колонки редактируются по умолчанию и раскрываются только при явном opt-in в сессии — с логированием каждого запроса.

Skipper построен поверх Town Lake и платформы Workers: он находит нужные таблицы через DataHub, вытягивает их схемы и lineage, пишет SQL, отправляет в Trino и возвращает результат таблицей или графиком. Контекст модели заземляется в пять слоёв: схема и метаданные, человеческие аннотации, знания из SQL-кода трансформаций, курируемые data models и runtime-интроспекция через живые запросы к Trino. Через MCP-сервер Skipper использует Code Mode — вместо десятков отдельных инструментов экспонируются два (search и execute), а модель пишет JavaScript, который исполняется в песочнице Dynamic Worker isolate. Это превращает пятишаговый воркфлоу в один round-trip и делает рассуждения агента аудируемыми как код.

Главные уроки команды: меньше промптинга — лучше (модель не нужно микроменеджить пошаговыми инструкциями), пересечение инструментов — яд (каждый тул должен иметь единственную причину существовать), а главный прирост точности дал не каталог метаданных, а ингест самого SQL-кода, который порождает таблицы — именно там живёт смысл колонок.

Сегодня биллинг-запросы составляют 53% всей нагрузки Town Lake, а вопросы вида «топ-100 клиентов по выручке» отвечаются за три секунды вместо многодневных Jira-тикетов. Ставка Cloudflare проста: следующий прорывной продукт родится у того, кто посмотрит на данные и увидит то, чего не видит никто другой. Town Lake и Skipper — про то, чтобы такой человек смог это найти.

#Cloudflare #Ai #Agent #DataPlatform #Development