Курс предназначен для IT-архитекторов и технических руководителей, которым необходимо проектировать и внедрять решения на базе больших языковых моделей в корпоративной среде. Основной акцент сделан на архитектуре: как построить надежный контур модель + знания + инструменты + контроль качества + безопасность + наблюдаемость. В ходе обучения слушатели разберут практические паттерны RAG для работы с корпоративными данными, агентные сценарии с вызовом инструментов через API, а также инженерные подходы к оценке качества, снижению рисков и подготовке решения к эксплуатации.
Предварительные требования
- Понимание принципов архитектуры информационных систем: интеграции, SLA/SLO, требования надежности, безопасность, наблюдаемость.
- Базовое понимание HTTP и REST API, аутентификации и авторизации, ролей и сервисных учетных записей.
- Желательно умение читать Python или псевдокод.
- В практической части предусмотрены варианты с минимальным кодом и упором на архитектурные артефакты.
По окончании курса слушатели смогут:
- Проектировать архитектуру корпоративного AI-компонента с учетом NFR, границ доверия, потоков данных и требований безопасности.
- Проектировать и описывать RAG-контур для корпоративных знаний, включая стратегию обновления индексов, контроль качества выдачи и обязательные ссылки на источники. Проектировать интеграции ассистента с корпоративными системами через инструменты и API, определять контракты, права, аудит и ограничения.
- Собирать комплект материалов для запуска в эксплуатацию: ADR, модель угроз, план тестирования, runbook, план мониторинга, политика журналирования.
- Проводить оценку качества ответов и стабильности поведения на эталонном наборе вопросов, фиксировать метрики и регрессионные проверки.
Цель курса:
- Сформировать системное понимание архитектуры LLM-решений в enterprise-среде:компоненты, роли, зоны ответственности, NFR и компромиссы.
- Научить проектировать контур корпоративных знаний на основе RAG: ingestion, чанкинг, эмбеддинги, поиск, reranking, формирование контекста и управление источниками.
- Научить проектировать агентные сценарии и интеграции через инструменты и API:контракты, валидация, идемпотентность, контроль прав, журналирование, человек в контуре.
- Разобрать практики безопасности и устойчивости: атаки на промпты, утечки данных, политика PII, ограничение инструментов, угрозы цепочки поставок.
- Освоить инженерный контур качества и эксплуатации: метрики, эталонные наборы, регрессионные прогоны, наблюдаемость, управление версиями промптов, производительность и стоимость.
Аудитория курса:
Программа рассчитана на solution architects, enterprise architects, tech lead, platform engineers, SRE/DevOps, руководителей разработки и аналитиков, участвующих в проектировании корпоративных систем.
Подходит для команд, которые внедряют корпоративные ассистенты, поиск по базе знаний, генерацию документации, автоматизацию внутренних процессов, поддержку пользователей и инженерные помощники для разработки и эксплуатации.
1. Архитектура LLM-решений в enterprise-среде (8 часов)
1. Сценарии применения: поиск по базе знаний, инженерный ассистент, генерация доку-
ментов, triage инцидентов, поддержка и онбординг. Критерии, когда LLM оправдана, а
когда необходимо классическое решение.
2. Компоненты архитектуры: модель, слой оркестрации, слой промптов, слой контекста,
память, политики, инструменты, логирование, контур оценки качества.
3. Промпт как спецификация поведения: роли, формат вывода, отказ от ответа при не-
хватке данных, требования к ссылкам на источники.
4. Память и состояние: окно контекста, долговременная память, суммаризация, риски
хранения контента.
5. NFR: latency, стоимость, масштабирование, отказоустойчивость, аудит, требования к
данным.
6. Практика и артефакт: архитектурная схема решения, границы доверия, ADR по вы-
бору паттерна, черновик системного промпта и требований к формату ответов.
2. RAG и контур корпоративных знаний (8 часов)
1. Источники знаний: документация, регламенты, wiki, тикеты, репозитории, каталоги
услуг. Управление версиями и определение источника истины.
2. Подготовка данных: нормализация, удаление шума, метаданные, стратегии чанкинга,
overlap, правила для таблиц и структурированных разделов.
3. Эмбеддинги и векторный поиск: принципы семантического поиска, ограничения, ги-
бридные подходы, фильтры по метаданным.
4. Повышение релевантности: rerank, дедупликация, контроль размера контекста, отсе-
чение нерелевантных фрагментов.
5. Управление недостоверными ответами: ответы только на основе источников, цитиро-
вание фрагментов, корректный отказ при отсутствии данных.
6. Практика и артефакт: RAG-прототип на бесплатном стеке, конфигурация чанкинга и
метаданных, шаблон ответа со ссылками на источники.
3. Агентные сценарии и интеграции через инструменты и API (8 часов)
1. Tool calling как архитектурный контракт: строгие схемы параметров, JSON, валидация
и обработка ошибок.
2. Дизайн инструментов: атомарные функции, контрактная совместимость, идемпотент-
ность, таймауты, ретраи, rate limit, деградация.
3. Политики доступа: принцип наименьших привилегий, сервисные учетные записи, раз-
граничение прав, аудит вызовов.
4. Workflow и агент: где требуется детерминированный сценарий, а где допустима авто-
номность. Режимы suggest-only и подтверждение действий.
5. Интеграционная архитектура: API gateway, очереди, кэширование, хранение секре-
тов, журналирование, трассировка.
6. Практика и артефакт: набор инструментов для корпоративного сценария, описание
контрактов, схема прав и журналирования, демонстрация интеграции на заглушках
или тестовых сервисах.
4. Качество, безопасность, наблюдаемость и эксплуатация (8 часов)
1. Качество: полезность, точность по источникам, полнота, стабильность формата, вос-
производимость поведения.
2. Эталонный набор: сбор вопросов, эталонные ответы, критерии приемки, регрессион-
ные прогоны перед релизом.
3. Безопасность: prompt injection, извлечение данных, PII, небезопасные инструменты,
подмена источников, jailbreak. Политики отказа и ограничения.
4. Защитные контуры: проверка ввода, проверка вывода, маскирование чувствительных
данных, правила доступа к источникам, ограничения инструментов.
5. Наблюдаемость: метрики задержек, качество retrieval, ошибки инструментов, стои-
мость токенов, версии промптов, аудит действий, инциденты и постмортем.
6. Практика и артефакт: план тестирования качества, регрессионный прогон на эталон-
ном наборе, базовые защитные правила и журналирование, план мониторинга.
5. Итоговый проект (8 часов)
1. Постановка задачи и границы решения. Определение пользовательских ролей и сце-
нариев. Требования к источникам знаний.
2. Сбор и индексация базы знаний. Настройка выдачи с обязательными ссылками на
источники и правилами отказа.
3. Инструменты: 1-2 функции для интеграции, права, аудит, ограничения, режим под-
тверждения действий.
4. Тестирование: эталонный набор, регресс, проверки устойчивости к атакам, проверки
поведения при отсутствии данных.
5. Документация: архитектурная схема, ADR ключевых решений, модель угроз, runbook,
план мониторинга, план развития.
6. Итоговая защита: демонстрация прототипа и защита архитектурных решений с обос-
нованием компромиссов.
