LLM-архітектор

«Лава» — Полк безпілотних систем 2-го корпусу Національної гвардії України «Хартія». Новий високотехнологічний хартійський підрозділ, що працює з дронами різних типів — коптерами, «крилами», наземними роботизованими комлексами.

Основні компетенції:

• Проєктування архітектури систем на основі LLM — від вибору моделей до інтеграції з наявною інфраструктурою.
• Вибір моделей за якістю, вартістю, безпекою та підтримкою української мови.
• Проєктування RAG-систем: підготовка й chunking документів, гібридний пошук, reranking, фільтрація за метаданими, посилання на джерела.
• Побудова агентних систем: tool calling, багатокрокові сценарії, інтеграція із зовнішніми сервісами.
• Розгортання LLM у локальних (on-premise) і закритих (air-gapped) середовищах, планування GPU-ресурсів і масштабування.
• Оптимізація inference: quantization, batching, KV-cache, latency/throughput.
• Fine-tuning моделей (LoRA/QLoRA) і підготовка навчальних датасетів.
• Оцінювання якості: еталонні набори, LLM-as-a-judge, метрики достовірності.
• Безпека LLM-систем: захист від prompt injection і витоку даних, guardrails, розмежування доступу, аудит запитів.
• Моніторинг у продакшні: логування, трасування, контроль деградації якості.

Технологічний стек:

• Моделі: open-weight LLM (Llama, Mistral, Gemma), embedding-моделі, rerankers.
• Inference і serving: vLLM, SGLang, TensorRT-LLM, llama.cpp, Ollama.
• Фреймворки: Transformers, PEFT, TRL, LangGraph або LlamaIndex.
• Пошук і дані: Qdrant, OpenSearch або Elasticsearch (BM25), PostgreSQL.
• Оцінювання та observability: RAGAS, Langfuse, OpenTelemetry, Grafana.
• Безпека: NeMo Guardrails, Llama Guard або аналоги.
• Оптимізація: quantization (AWQ, GPTQ, GGUF, FP8), ONNX Runtime, TensorRT.
• Інтеграція: REST/gRPC, OpenAI-сумісні API, Model Context Protocol (MCP).
• Інфраструктура: Linux, Docker, Kubernetes, NVIDIA CUDA, CI/CD, Git.

Очікувані навички:

• Самостійне ухвалення архітектурних рішень та їх обґрунтування: альтернативи, компроміси, ризики.
• Розрахунок GPU-ресурсів (VRAM, кількість користувачів, навантаження) і вартості рішення.
• Регресійне тестування промптів, моделей і пайплайнів перед кожною зміною.
• Системний аналіз помилок: галюцинації, нерелевантний пошук, збої агентів.
• Технічне лідерство: code review, менторство інженерів, стандарти розробки.
• Взаємодія із замовниками та предметними експертами для формування вимог.
• Швидке оцінювання нових моделей і підходів.

Що пропонуємо:

• Служба за контрактом або мобілізацією;
• Можливість переведення з інших підрозділів (за погодженням поточного командування).

Підготовка:

• 60 днів навчання для кандидатів без бойового досвіду.

Забезпечення:

• Повне матеріальне забезпечення, форма та спорядження;
• Харчування та медичне забезпечення.

Грошове забезпечення:

• 25 000 грн базова ставка;
• + від 30 000 грн додатково (залежно від задач і району виконання).

Гарантії:

• Соціальний пакет військовослужбовця;
• Лікування та компенсації у разі поранення.

Надсилайте свої резюме або телефонуйте на офіційний номер 3333 для призначення співбесіди.