Дата публикации
business

Как AWS превратила BI‑дашборды в разговорный ИИ‑ассистент для 4000 топ‑менеджеров

Что произошло

AWS запустила внутренний ИИ‑ассистент NarrateAI для подразделения SMGS (Sales, Marketing and Global Services).

Ключевые факты:

  • Пользователи: более 4 000 руководителей AWS — от CEO до региональных менеджеров.
  • Задача: заменить ручную подготовку к бизнес‑ревью и работу с тяжёлыми BI‑дашбордами на диалоговый интерфейс.
  • Технологическая база: Amazon Bedrock AgentCore, Amazon Redshift, Amazon S3, AWS Lambda, Amazon CloudWatch.
  • Мозг ассистента: Claude Sonnet 4 через Amazon Bedrock.
  • Архитектура: два слоя — пакетная генерация «нарративов» и реальное время для диалогов.
  • Механика безопасности: жёсткая построчная (row‑level) безопасность и полная изоляция данных по пользователям.

NarrateAI уже работает в продакшене и обслуживает глобальные операционные решения AWS. Команда перевела подготовку к бизнес‑ревью с часов ручной работы на минуты диалога с ассистентом.

Зачем это нужно

Проблема старого BI

До NarrateAI руководители AWS тратили часы на подготовку к ревью:

  • собирали данные вручную из разных дашбордов;
  • мирили метрики из разных источников;
  • делали сводки и выводы сами.

В итоге:

  • решения принимали медленно;
  • метрики расходились между системами;
  • доступ к аналитике зависел от отдельных отчётных команд;
  • руководители не могли задать вопрос «на лету» и сразу получить ответ.

Задача NarrateAI

AWS захотела дать лидерам простой сценарий:

Задаёшь вопрос на естественном языке — получаешь точный, проверенный и контекстный ответ по своему участку бизнеса.

Для этого команда сделала ставку на три вещи:

  1. Диалог вместо дашбордов: руководитель общается с ассистентом в Amazon Quick или веб‑интерфейсе.
  2. Предварительно собранные «нарративы»: система заранее готовит персональные текстовые отчёты для каждого пользователя.
  3. Оркестрация через Amazon Bedrock AgentCore: вместо собственного оркестратора AWS использует готовый серверлесс‑слой для агентов, памяти и логирования.

Что получает каждая сторона

AWS SMGS и топ‑менеджмент:

  • Время подготовки к бизнес‑ревью сокращается с часов до минут.
  • Можно задавать сложные вопросы по продажам, маркетингу и сервисам без BI‑команды.
  • Растёт уверенность в цифрах: все ответы проходят автоматическую валидацию.

Команды данных и ML:

  • Не нужно строить свой оркестратор агентов и память для диалогов.
  • Инфраструктура — полностью на AWS: Redshift, S3, Lambda, Bedrock, CloudWatch.
  • Разработка идёт быстрее: внедрение заняло недели, а не месяцы.

Amazon Bedrock и AgentCore как продукт:

  • Живой кейс, что на AgentCore можно поднять крупный корпоративный ассистент с высокой нагрузкой.
  • Показано, как использовать multi‑agent‑подход, guardrails и встроенную память в продакшене.

Что меняет для рынка

От дашборда к диалогу

NarrateAI показывает, как может выглядеть корпоративный BI ближайших лет:

  • Руководитель перестаёт «ходить по дашбордам».
  • Вместо этого он общается с ассистентом, который уже знает его роль, регион, клиентов и KPI.
  • BI‑команды меньше занимаются ручными отчётами и больше — шаблонами и качеством данных.

Для крупных компаний это сигнал: модель «1000 дашбордов + отчётные команды» начинает уступать место диалоговым ИИ‑слоям поверх дата‑лейков.

Давление на конкурентов

Для других вендоров BI и облаков это жёсткий бенчмарк:

  • AWS показывает, что можно обслуживать тысячи руководителей через единый ассистент.
  • В архитектуре нет экзотики: Redshift, S3, Lambda, Bedrock, AgentCore, CloudWatch.
  • Много внимания уделено безопасности и валидации, а не только «красивым ответам».

BI‑платформы без сильной ИИ‑прослойки рискуют превратиться в бэкэнд, к которому поверх подключают ассистентов от других игроков.

Новая планка по безопасности и качеству

AWS явно делает ставку на три требования к корпоративному ИИ:

  1. Жёсткий контроль доступа: каждый руководитель видит только свои строки данных.
  2. Валидация ответов: числа и выводы проверяются до показа пользователю.
  3. Профессиональный тон: Amazon Bedrock Guardrails следят за стилем, контентом и PII.

Для рынка это означает: «просто чат с LLM и доступом к базе» уже не выглядит достаточным.

Развитие агентных систем

NarrateAI — не просто чат‑бот, а система из нескольких специализированных агентов под управлением Supervisor Agent в AgentCore:

  • один классифицирует вопросы;
  • второй определяет, какой персональный нарратив нужен;
  • третий извлекает релевантные куски;
  • четвёртый оценивает релевантность;
  • пятый генерирует ответ с помощью Claude Sonnet 4;
  • шестой проверяет качество и корректность.

Это пример того, как multi‑agent‑архитектуры выходят из экспериментального статуса в рутину корпоративных продуктов.

Что это значит для вас

Если вы руководите продуктом, продажами или маркетингом

NarrateAI показывает, к чему можно стремиться:

  • Не тратить время на поиск цифр по дашбордам.
  • Задавать вопросы в духе: «Покажи топ‑5 аккаунтов по росту за квартал и сравни по продуктовым линиям».
  • Получать ответы, адаптированные под вашу роль — от CEO до менеджера региона.

Если ваша компания уже сидит на AWS, похожий ассистент можно собрать на тех же сервисах: Amazon Redshift, S3, Lambda, Bedrock AgentCore.

Если вы data‑engineer или ML‑инженер

Из кейса AWS можно вынести конкретные инженерные практики:

  • Разделяйте batch и online: NarrateAI заранее готовит персональные нарративы, а в онлайне только извлекает и интерпретирует.
  • Используйте шаблоны: SQL‑шаблоны и Jinja‑шаблоны позволяют быстро масштабировать новые домены и роли.
  • Ограничивайте LLM в арифметике: числовые расчёты лучше делать детерминированно и только потом отдавать в модель.
  • Проверяйте ответы: Online Evaluator сверяет числа и логику с исходными данными.
  • Переносите память в управляемый сервис: команда отказалась от самописной памяти в DynamoDB и перешла на нативную память AgentCore.

Если вы строите ассистента поверх корпоративных данных

Из подхода AWS можно собрать «чек‑лист»:

  1. Сначала данные, потом ассистент
    Настройте дата‑лейк и хранилище (Redshift или аналог) с прозрачными правами.

  2. Генерируйте персональные артефакты
    AWS не даёт ассистенту прямой доступ к сырым таблицам. Вместо этого система готовит персональные JSON‑структуры и текстовые нарративы.

  3. Храните знания в S3‑подобном хранилище
    NarrateAI складывает нарративы в Amazon S3 с полной изоляцией по пользователям.

  4. Используйте TOC‑подход к поиску
    Вместо векторного поиска по огромным файлам команда использует структуру оглавления и вытаскивает только нужные секции.

  5. Вводите guardrails
    AWS использует три фильтра: контент, PII и тон. Это снижает юридические и репутационные риски.

  6. Стройте multi‑agent‑оркестрацию
    Один универсальный агент быстро становится монолитом. AWS разбила логику на несколько специализированных агентов.

Кому это не подойдёт

  • Маленьким командам без нормального дата‑лейка и управляемого доступа к данным.
    Без этого ассистент превратится в красивый интерфейс к хаотичной базе.

  • Проектам, которые не готовы инвестировать в качество данных и шаблонов.
    NarrateAI сильно опирается на аккуратную схему, роли и иерархии.

Как устроен NarrateAI: архитектура

Два слоя: пакетная генерация и реальное время

NarrateAI разделяет систему на два крупных контура.

  1. Пакетный контур (Knowledge Engine) — готовит знания.
  2. Онлайн‑контур (Conversational AI Interface) — отвечает на вопросы.

Это даёт два эффекта:

  • тяжёлая обработка и агрегация происходят заранее;
  • ответы в онлайне получаются быстрыми и стабильными.

Пакетный слой: генерация персональных нарративов

NarrateAI генерирует для каждого пользователя персональный «нарратив» — структурированный текстовый отчёт, который учитывает роль, права и иерархию.

Пайплайн состоит из трёх шагов:

  1. Извлечение данных

    • Конфигурационные SQL‑шаблоны в Amazon Redshift.
    • Параметризация под роль и права пользователя.
    • Поддержка многоуровневых разрезов и временных рядов.
    • Права доступа применяются уже на этом этапе.
  2. Трансформация данных

    • AWS Lambda превращает сырые данные в структурированный JSON.
    • Используются типы секций: объекты, массивы, разбиения, контейнеры.
    • Данные укладываются в иерархию с явными маппингами полей.
  3. Рендеринг нарратива

    • Jinja‑шаблоны превращают JSON в человекочитаемый текст.
    • Применяется иерархическая стратегия «нарезки» больших датасетов.
    • Для каждого пользователя итоговый текстовый файл кладётся в Amazon S3.
    • Сильная изоляция: один файл — один пользователь, без пересечений.

Эта схема даёт встроенную построчную безопасность: в персональный нарратив просто не попадают чужие строки.

Онлайн‑слой: диалоговый интерфейс на AgentCore

Пользователь общается с NarrateAI через:

  • Amazon Quick — диалоговый интерфейс;
  • веб‑UI.

Оба канала идут в Amazon Bedrock AgentCore Runtime.

Внутри крутится NarrateAI Agent (Strands agent) с Supervisor Agent и набором инструментов.

Шесть ключевых инструментов агента

  1. Классификация вопросов
    Определяет намерение и сложность запроса:

    • простые запросы вроде «Какой доход у моей команды за этот квартал?» идут по быстрому пути;
    • сложные, например «Сравни рост топ‑5 аккаунтов по всем продуктовым линиям», разбиваются на параллельные подзадачи.
  2. Идентификатор персоны
    Определяет роль пользователя, уровень в иерархии и права.
    На этом шаге система выбирает, какой именно нарратив из S3 нужно достать.

  3. Извлекатель знаний
    Использует подход с оглавлением (TOC):

    • не сканирует весь файл;
    • вытаскивает только нужные разделы по структуре;
    • помогает держать время ответа стабильным при росте размеров нарратива.
  4. Оценщик релевантности
    Смотрит на извлечённые фрагменты и вопрос пользователя.
    Оставляет только действительно релевантные куски, отбрасывая шум.

  5. Генератор ответа
    На основе релевантных данных формирует связный ответ на естественном языке.
    На этом шаге используется Claude Sonnet 4 через Amazon Bedrock.

  6. Онлайн‑оценщик (Online Evaluator)
    Проверяет ответ до отправки пользователю:

    • сверяет числа с исходными данными;
    • проверяет логическую целостность;
    • убеждается, что выводы опираются только на доступный пользователю нарратив.

Время ответа зависит от сложности вопроса и источников данных, но за счёт разветвления по сложности и параллельной обработки сложные запросы стали заметно быстрее.

Ключевые возможности NarrateAI

1. Естественный язык + структурированные знания

Руководитель задаёт вопрос на английском, без SQL и знания схемы:

  • система понимает бизнес‑термины: регионы, продукты, сегменты клиентов, периоды;
  • под капотом ассистент работает не с сырыми таблицами, а с заранее подготовленными структурированными нарративами в S3.

Это даёт сочетание живого диалога и строгой структуры данных.

2. Встроенная построчная безопасность

Безопасность не навешивается сверху — она заложена в генерацию нарратива:

  • права доступа применяются ещё в SQL‑шаблонах и Lambda‑трансформации;
  • в персональный нарратив попадают только разрешённые строки;
  • файлы в S3 полностью изолированы между пользователями.

Риск утечки данных между пользователями снижается уже на уровне артефактов.

3. Персонализация по роли и уровню

NarrateAI учитывает, кто задаёт вопрос:

  • CEO видит высокоуровневую картину по всей организации;
  • региональный менеджер — детальные операционные метрики по своему региону;
  • фильтрация и формат ответов зависят от роли и иерархии.

Это не просто фильтр по полям, а разный уровень агрегации и детализации.

Инфраструктура и ИИ‑фундамент

Хранение и обработка данных

  • Amazon Redshift — основной аналитический склад.
  • AWS Lambda — серверлесс‑функции для трансформации и применения прав.
  • Amazon S3 — хранилище структурированных артефактов и текстовых нарративов.
  • Кастомный TOC‑поиск — быстрый доступ к нужным разделам без сканирования всего файла.

Модели и Bedrock

  • Amazon Bedrock — доступ к базовым моделям.
  • Claude Sonnet 4 — отвечает за понимание вопросов, рассуждения и генерацию ответов.
  • Архитектура позволяет менять версии моделей без больших переделок.

Guardrails и безопасность контента

Amazon Bedrock Guardrails настроены под NarrateAI и включают три типа фильтров:

  1. Контент‑фильтрация — блокирует вредный или неподходящий язык.
  2. Редакция PII — помогает не допустить утечки персональных данных.
  3. Контроль тона — удерживает стиль на уровне, подходящем для руководства AWS.

AgentCore как оркестратор

Amazon Bedrock AgentCore даёт NarrateAI:

  • серверлесс‑оркестрацию агентов;
  • интеграцию с провайдерами аутентификации;
  • встроенную память диалогов;
  • подробную наблюдаемость.

Наблюдаемость

  • AgentCore Observability даёт трассировку сессий от начала до конца.
  • Интеграция с Amazon CloudWatch — для мониторинга и алёртов.
  • Поддержка OpenTelemetry упростила отладку: время на поиск проблем сократилось с десятков минут или часов до единиц минут.

Память

Команда перенесла историю диалогов с самописного решения на Amazon DynamoDB в нативную память AgentCore:

  • ушёл в прошлое собственный код управления сессиями;
  • архитектура стала проще — память живёт внутри AgentCore;
  • скорость разработки новых фич выросла за счёт готовой сессионной логики.

Инженерия продакшена: 4 главных вызова

1. Точность и доверие

Главный риск — правдоподобные, но неверные ответы. Для управленческих решений это критично.

AWS решает проблему так:

  • каждый ответ проходит валидацию Online Evaluator;
  • числовые расчёты максимально выносятся из LLM в детерминированные функции;
  • проверяется согласованность метрик и логики;
  • guardrails отсекают неподходящий язык ещё до пользователя.

2. Контекст и иерархия

Разные уровни управления должны видеть разный срез данных.

NarrateAI автоматически:

  • определяет, кто задаёт вопрос;
  • знает, какие регионы, команды и клиенты входят в его зону ответственности;
  • ограничивает ответы этим контекстом без ручных фильтров.

3. Задержки на масштабе

Ранние версии страдали от долгих ответов на сложные вопросы:

  • пользователи ждали, падало доверие и вовлечённость.

Сейчас система:

  • классифицирует вопросы по сложности;
  • быстрые запросы обрабатывает по упрощённому пути;
  • сложные разбивает на параллельные подзадачи;
  • ускоряет доступ к данным за счёт предварительного анализа структуры документов.

4. Ширина покрытия тем

Бизнес‑аналитика включает продажи, финансы, маркетинг, сервисы — у каждого домена своя логика и словарь.

Команда AWS:

  • работала с доменными экспертами по каждому направлению;
  • зашила институциональные знания в стандартизированные шаблоны;
  • сократила внедрение новых доменов с месяцев до недель.

Главный вывод: продакшен‑готовый ассистент — это баланс между свободой LLM и жёсткими правилами по данным, доступам и типовым сценариям.

Результаты и эффект

После запуска NarrateAI AWS фиксирует:

  • более 4 000 активных пользователей среди руководства, от CEO до региональных менеджеров;
  • сокращение подготовки к бизнес‑ревью с часов до минут;
  • проверку точности данных через детерминированные вычисления и Online Evaluator.

Руководители отмечают:

  • больше уверенности в решениях на основе данных;
  • возможность исследовать бизнес через диалог, а не через навигацию по дашбордам.

Для AWS переход к NarrateAI означает смену парадигмы: от ручных BI‑процессов к ИИ‑центричному самообслуживанию с встроенной безопасностью и контролем доступа на уровне строк.

Что дальше: от реактивного к проактивному ассистенту

Текущая версия NarrateAI отвечает на вопросы. Следующий шаг — проактивность.

План развития:

  • ассистент сам инициирует диалог перед важными событиями в календаре;
  • реагирует на изменения в реальном времени в данных;
  • учитывает организационный контекст и прошлые сессии.

AWS собирается развивать архитектуру в сторону:

  • событийной модели;
  • расширенных multi‑agent‑систем: Knowledge Agent, Forecast Agent, Policy Agent;
  • предиктивной аналитики с безопасными и объяснимыми действиями.

Цель — превратить NarrateAI в партнёра, который не просто отвечает, а заранее подсказывает риски, аномалии и возможные действия, при этом всё остаётся под контролем политики и аудита.


Читайте также