Открытый квотировано-кластерный оркестратор ИИ (ОКОИИ) на базе архитектуры PBDR "OQOAI:PBDR 5.2"

Назначение и область применения

Программное обеспечение «Открытый квотировано-кластерный оркестратор ИИ (ОКОИИ) на базе архитектуры PBDR "OQOAI:PBDR 5.2"» предназначено для децентрализованной маршрутизации и управления вычислительными ресурсами на основе политик (Policy-Based Decentralized Routing, PBDR) для задач искусственного интеллекта, обработки запросов и оптимизации распределения вычислительной нагрузки, моделирования, планирования, управления распределенными системами ИИ, на базе реализации интеллектуальной поддержки принятия решений на основе политик и многокритериального расчета значений эффективности узла. ПО используется для построения отказоустойчивого, децентрализованного, эффективного кластера для размещения ИИ-моделей на базе GPU ресурсов.

Функциональные характеристики

Программное обеспечение «Открытый квотировано-кластерный оркестратор ИИ (ОКОИИ) на базе архитектуры PBDR "OQOAI:PBDR 5.2"» реализует следующий набор функций:

• Прием и обработка запросов внешних потребителей генерации запросов к LLM;
• Децентрализованная маршрутизация запросов;
• Взаимодействие с LLM-серверами;
• Векторная модель расчета стоимости запроса;
• Политики интеллектуальной маршрутизации;
• Обнаружение и мониторинг доступа узлов;
• Администрирование клиентских и серверных узлов;
• Мониторинг и сбор метрик аппаратных ресурсов узлов;
• Управление расширенной конфигурацией серверов и клиентов.

Минимальные технические требования

• ЦП: x86_64 архитектура, от 2 ядер (рекомендуется от 4 ядер)
• ОЗУ: от 4 ГБ (зависит от размера используемой языковой модели)
• GPU: Nvidia или AMD
• Диск: SSD от 25 ГБ (зависит от размера загруженной языковой модели)
• ОС: Astra Linux, ОСнова (рекомендуется); также поддерживаются Debian, Ubuntu, Windows 10/11
• Интернет: не требуется для работы, только на этапе установки (опционально)
• Браузер: Яндекс.Браузер, Google Chrome, другие на движке Chromium

Системные зависимости

• Сервер LLM (например Ollama, llama.cpp), клиент запросов LLM (например Open WebUI)

Тарифная политика на период с 12.07.2026 по 11.07.2027

Официальный прайс-лист определяет принципы и порядок формирования стоимости.

Видеоматериалы по установке и работе с программным обеспечением «Открытый квотировано-кластерный оркестратор ИИ (ОКОИИ) на базе архитектуры PBDR "OQOAI:PBDR 5.2"».