# CMF Decision ### Решение за миллисекунды. Вся модель — в одном CMF-файле. Определите тему обращения, направьте запрос в нужный отдел или обучите свой навык выбора инструмента. Cortiq выбирает метку, а при неопределённости отказывается от ответа — **без локальной генерации токенов**. Для незнакомых случаев подключите оракул и используйте его ответы для обучения своих навыков. **Локальные решения · Свои навыки · Подключаемый оракул** **[Попробовать в Spaces →](https://huggingface.co/spaces/infosave/cmf-decision)** — введите запрос и посмотрите решение, уверенность и ошибки реконструкции. Без установки и API-ключа. [Запуск](#быстрый-запуск) · [Свой навык](#добавьте-свой-навык) · [Оракул](ORACLE.md#connect-openrouter) · [API](API.md) · [Методика](BENCHMARKS.md) · [English](README.md) ## Быстрый запуск ### Готовый сервис без установки [allaigate Routing API](https://api.allaigate.com/) — готовый сервис маршрутизации на основе формата CMF. Получите API-ключ на сайте и подключите сервис по [документации](https://api.allaigate.com/ru/docs): скачивать модель и разворачивать собственный сервер не нужно. ### Локальный запуск Установите актуальную опубликованную CLI из crates.io (нужен Rust 1.88 или новее): ```bash cargo install cortiq-cli --locked ``` Для обновления повторите ту же команду. Скачайте модель и получите первое решение: ```bash curl -fL -o cortiq-decision.cmf \ https://huggingface.co/infosave/cmf-decision/resolve/main/cortiq-decision.cmf cortiq decide cortiq-decision.cmf --skill banking77 -p "I still have not received my new card" ``` **Результат:** `card_arrival` — ожидание доставки карты. Решение принято локально, ключ облачного API не нужен. Готовые навыки: `banking77`, `clinc150`, `massive`. ### Выберите устройство Без настройки используется CPU. Та же установленная CLI поддерживает GPU, начиная с Cortiq 0.8.0: ```bash # Apple Silicon CORTIQ_DECISION_DEVICE=metal cortiq decide cortiq-decision.cmf \ --skill banking77 -p "I still have not received my new card" # Vulkan GPU — нужен аппаратный Vulkan-драйвер CORTIQ_DECISION_DEVICE=vulkan cortiq decide cortiq-decision.cmf \ --skill banking77 -p "I still have not received my new card" ``` Если GPU несколько, задайте `CORTIQ_DECISION_VULKAN_ADAPTER` — уникальную часть имени карты. Для `cortiq serve` действуют те же переменные. [Подробнее →](GPU.md) С версии 0.8.6 вопрос с вариантами, на которые ни один навык не обучен, выучивается по ответам оракула в *авто-навык* и дальше решается локально за миллисекунды; редкие метки остаются в карантине и продолжают обучаться. [Как учатся авто-навыки →](ORACLE.md#auto-skills) ## Результаты измерений ### Качество самой модели против Jev 1.13 ![Точность на всех примерах: Cortiq / Jev — BANKING77 93,34 / 85,58%; CLINC150 96,18 / 96,76%; MASSIVE 86,15 / 85,78%.](figures/quality.png) В режиме с отказом точность принятых ответов — **97,24–98,70%**, а доля запросов, на которые модель отвечает локально, — **54,30–92,11%**. Это разные показатели: высокая точность принятых ответов не означает ответ на каждый запрос. [Результаты по каждому набору →](BENCHMARKS.md#accuracy-and-coverage) ### Laya: 77 вариантов на одном Mac ![CMF и Laya: BANKING77 на Apple M4](figures/laya-ru.png) **Обученный навык CMF: 93,34%, 3,10 мс p50.** Базовая English-модель Laya, все 77 меток сразу: 35,65%, 917,59 мс p50. Все 3 080 запросов, локально, без оракула. **Стресс-тест с 77 вариантами, не лучший возможный результат Laya:** предварительный отбор вариантов и multilingual не проверялись; обучение различается. [Методика, неудачный прогон с длинным описанием и исходные ответы →](LAYA.md) ### Скорость: теперь Metal и Vulkan ![Полный путь от текста до решения: Apple M4 CPU / Metal и Xeon CPU / RTX PRO 4000 Vulkan. В каждой паре один стенд; режимы запросов между панелями различаются.](figures/gpu.svg) **1,10–1,24 мс на RTX PRO 4000; 2,28–2,58 мс на Apple M4.** Ускорен весь локальный путь, а не только ядро реконструкции. На всех **10 554** тестовых примерах решения и отказы совпали с CPU. Переобучения нет. На M4 запросы CPU/GPU чередуются; на RTX измерена прогретая непрерывная серия. После простоя RTX медленнее; под нагрузкой рабочего стола хвост задержек Metal может быть хуже CPU. [Методика, задержки и память →](GPU.md) · [Предыдущее API-сравнение с Jev →](BENCHMARKS.md) ### Стоимость: облако только для сложных случаев ![Плата за API на миллион решений: Cortiq с оракулом — $3,01 / $3,53 / $8,48; Jev — $183,69 / $271,61 / $110,86.](figures/cost.png) При полностью локальной работе **платы за API нет**. В гибридном тесте сложные случаи решал DeepSeek V4.1 Flash: итоговая точность — **93,93% / 97,47% / 88,00%**. Это пересчёт сохранённых расходов, без стоимости оборудования и электричества. [Подключение оракула →](ORACLE.md) ## Зачем CMF - **Один файл для переноса.** Энкодер, навыки и правила решений внутри. - **Резонанс вместо генерации.** Каждая метка пробует восстановить сигнал запроса. Побеждает наименьшая ошибка; проверка уверенности разрешает ответ или возвращает отказ. - **Свои задачи.** Добавляйте навыки по примерам, не меняя параметры старых. Обновления можно версионировать и откатывать. - **Локальная работа по умолчанию.** Внешний оракул подключается отдельно. ## Добавьте свой навык Подготовьте примеры с метками в `train.jsonl` и описание меток в `question.json`: ```bash cortiq decision add-skill cortiq-decision.cmf --skill support \ --train train.jsonl --question question.json -o support.cmf cortiq decide support.cmf --skill support -p "Please cancel my subscription" ``` [Формат примеров, калибровка и параметры →](API.md#7-your-own-model) HTTP-сервер: `cortiq serve cortiq-decision.cmf`. [Запросы, ключи и совместимость с роутером →](API.md) --- **Условия сравнения:** повторно использованные открытые наборы; CMF обучен на train + dev, Jev получил по два примера на метку. В модели объединены энкодер, переработанный технологией Cortiq NVG, и обученные резонансные топологии. [Методика и лицензии](BENCHMARKS.md) · [Данные графиков](evidence/comparison.json) Resonance Routing — US 19/452,440.