🛡 Мультитенантная LLM-аналитика с безопасностью на уровне строк: как PAR построила защищённого агента на AWS

PAR Technology Corporation, разработчик решений для ресторанной индустрии, представила production-ready архитектуру мультитенантного LLM-агента для self-serve аналитики. Система решает ключевую проблему: один и тот же вопрос от разных пользователей (владелец франшизы vs корпоративный менеджер) должен возвращать разные данные, соответствующие их правам доступа.

Архитектура включает три независимых уровня защиты: криптографическая подпись запросов через AWS SigV4, семантическая валидация на Amazon Bedrock и программная изоляция данных через Split-Plane SQL. Такой подход гарантирует, что даже при компрометации LLM или манипуляции промптом утечка данных между арендаторами невозможна — фильтры применяются детерминированно на уровне архитектуры, а не через инструкции модели.

Ключевое отличие от наивных text-to-SQL решений: PAR отказалась от идеи полагаться на LLM для соблюдения границ данных. Вместо этого каждый слой безопасности работает независимо, делая систему пригодной для compliance и аудита. Решение уже обрабатывает тысячи запросов ежедневно для 300+ ресторанных бизнесов.

#SAFETY #LLM #Security #Multitenant #Analytics

☁️ Как Axonius построила безопасные мультитенантные AI-агенты на Bedrock AgentCore

AWS опубликовала кейс Axonius — платформы управления активами, которая обрабатывает данные из 1400+ систем и ведёт сотни изолированных сред клиентов в отдельных VPC. Компания добавила в SaaS AI-агентов и рассказала, как сохранила строгую изоляцию тенантов.

Для развёртывания использовали Amazon Bedrock AgentCore. Рассмотрели три паттерна мультитенантности: silo, pool и bridge. Axonius выбрала silo-модель: у каждого клиента собственный агент, а runtime AgentCore дополнительно изолирует пользовательские сессии через уникальные session IDs и выделенные microVM. Такой подход гарантирует, что агент одного заказчика не получит доступ к данным другого.

Ключевые требования: интеграция с существующей аутентификацией на EC2, учёт стоимости вызовов моделей в расчёте на тенанта, безопасный доступ агента к API клиентской инфраструктуры и добавление агентов в текущий CD-пайплайн. Отдельно решили проблему наблюдаемости: DevOps-команде нужны трейсинг и алерты для большого флота агентов.

Практический результат: AI-агент анализирует миллионы точек данных и помогает младшим аналитикам выявлять риски в инфраструктуре без многочасовой ручной работы старших специалистов.

#AI #AWS #BedrockAgentCore #Tech #MultiTenant #SaaS