Архитектура «Архангела»: как развернуть On-Premise систему мультиагентного ИИ в закрытом контуре

<p>В&nbsp;последнее время бизнес активно смотрит в сторону Agentic AI — систем, где нейросети не просто отвечают на промпты в чате, а действуют как автономные цифровые сотрудники.</p><p>Когда речь заходит о крупном Enterprise, комплаенсе и работе с чувствительными данными (например, юридическими или финансовыми документами), облачные API от OpenAI или Anthropic сразу становятся стоп-фактором. Безопасность требует полной изоляции.</p><p>В этой статье я технически разберу, как мы спроектировали и реализовали On-Premise платформу мультиагентного ИИ «Архангел», способную работать без доступа к внешнему интернету.</p><p><strong>1. Поставка и инфраструктурный слой: полный On-Premise в Kubernetes</strong></p><p>Для крупных заказчиков критически важно, чтобы софт разворачивался в их собственном закрытом периметре (On-Premise) и управлялся стандартными для их Ops-команд инструментами. Мы отказались от сложных проприетарных установщиков в пользу контейнеризации.<br></p><p>Мы поставляем платформу «Архангел» в виде изолированных Helm-чартов для Kubernetes-кластера заказчика. Это даёт предсказуемое разворачивание и лёгкое масштабирование под нагрузкой. Изоляцию при этом обеспечивает не сама упаковка, а сетевые политики и отсутствие маршрута наружу — об этом ниже.<br></p><p>Как это устроено на уровне инфраструктуры:</p><p>- <strong>Air-gapped окружение.</strong> Все базовые Docker-образы платформы и веса локальных LLM (например, семейств Llama или Mistral, адаптированных под наши задачи) зеркалируются во внутренний приватный реестр (Private Registry) заказчика — Harbor или Nexus.</p><p>- <strong>Стейт и хранилища.</strong> Внутри Helm-чартов описаны StatefulSet'ы для баз данных и брокеров сообщений, которые могут использовать как внутренние K8s-хранилища (через CSI), так и подключаться к уже существующим в контуре заказчика кластерам PostgreSQL или Redis.</p> <a href="https://habr.com/ru/articles/1078100/?utm_source=habrahabr&amp;utm_medium=rss&amp;utm_campaign=1078100#habracut">Читать далее</a>