Особисті дані приховані

Віталій Галак ПЕРЕВІРИТИ

Код
AI RESEARCH ENGINEER
github.com/vitaliihalak/sencelium
Чернівці, Україна · Віддалено · [відкрити контакти](див. вище в блоці «контактна інформація») · LinkedIn · Telegram Моделі
huggingface.co/Sencelium
Сайт
ПРО МЕНЕ
sencelium.com
DOI
Розробник з 9+ роками в софті та геймдеві, який перейшов у ML-дослідження. За 10.5281/zenodo.23134120
останній рік спроєктував, натренував і оцінив власну не-трансформерну мовну Препринт
архітектуру Sencelium з нуля на 30M, 65M і 125M параметрів проти Transformer з тим HAL hal-05794045
самим бюджетом, і відкрито випустив код, чекпоінти та препринт. Мені важливі Claunity
результати, які витримують перевірку: я аудитую власні цифри і виправляю їх, коли github.com/vitaliihalak/claunity

вони не тримаються.

ДОСВІД ДОСЛІДЖЕННЯ
PyTorch, PyTorch Lightning
Sencelium — незалежне дослідження архітектур мовних 2026 — тепер Дизайн абляцій
моделей Оцінка довгого контексту
Незалежний дослідник · PyTorch · open source bf16 / дебаг числових помилок
Спроєктував не-трансформерну архітектуру послідовностей: рекурентний backbone Перевірка причинності
лінійної складності з навчуваним пулом пам'яті зі слотів.
LLM
Порівняв із Transformer того самого бюджету на 30M / 65M / 125M параметрів,
HuggingFace Transformers
WikiText-103. Розрив у перплексії зменшується з масштабом (+18.7% → +11.5% →
QLoRA / PEFT, SFT
+9.2%), а пам'ять реально працює: без неї перплексія 125M зростає з 81.4 до 87.6.
Prompt-пайпланни, RAG
Довгий контекст: після тренування на 512 токенах модель 125M тримається
стабільно до 8k токенів (перплексія 86 → 64 → 66), тоді як звичайний Transformer ІНЖЕНЕРІЯ
деградує з 78 до 993. Python, FastAPI, SQLite
Побудував тренувальну й оціночну інфраструктуру від початку до кінця: PyTorch Linux, хмарні GPU (RunPod,
Lightning, мульти-GPU прогони в хмарі (RunPod, Modal), checkpoint/resume, власні Modal)
оцінки довгого контексту, абляції пам'яті та причинності. C#, C++

Знайшов і виправив витік інформації з майбутнього в минуле (підтверджено ІГРИ
perturbation-тестами) та NaN-нестабільність у bf16. Unity (9+ років)
Провів аудит власних опублікованих бенчмарків і виправив розбіжність протоколів Unreal Engine 5
оцінки, яка завищувала розрив для 65M (15.4% → 11.5%), ще до подачі статті.
МОВИ
Усе випущено відкрито: код, чекпоінти 30M / 65M / 125M на Hugging Face, Zenodo
DOI та препринт, поданий на HAL із запитом на перенесення в arXiv. Українська — рідна
Англійська — технічне читання і
Процес перехресної перевірки: кілька LLM як незалежні технічні рецензенти, перш письмо
ніж витрачати GPU-бюджет.
ШУКАЮ
Claunity — AI-асистент у Unity Editor 2025 — 2026
Віддалені ролі ML-дослідника або
Автор · open source (MIT) LLM-інженера з реальною
C# EditorWindow і локальний Python/FastAPI бекенд, що надає Claude близько 75 відповідальністю за дизайн і оцінку.
інструментів редактора через MCP; вкладки чату, проєкту, тестів, пошуку та збірки.
Випущено як чистий публічний репозиторій зі встановленням через Unity Package
Manager.

Pulses — LLM-персони з пам'яттю 2025
Засновник · особистий проєкт
QLoRA fine-tuning Mistral-7B (HuggingFace, PEFT, SFTTrainer): 3 ітерації адаптера на
власному датасеті з 2 800 прикладів.
Бекенд FastAPI + SQLite з модулями пам'яті, емоцій і щоденника, багаточастинним
prompt-пайплайном і прихованим chain-of-thought.

Neuropers — платформа AI-персон 2024 — 2025
Розробник
Full-stack платформа: бекенд на FastAPI, інтеграція LLM API з кешуванням,
лідерборди, налаштування приватності, багатомовний інтерфейс.

Розробка ігор 2016 — тепер
Unity (9+ років) · Unreal Engine 5 / C++
PC та мобільні ігри від прототипу до релізу: ігрові системи, AI для NPC, власна
фізика, оптимізація.