Hugging Face's logo

infosave
/
cmf-decision

Text Classification
cortiq
Laya
English
cmf
jev
decision-making
structured-output
tool-selection
semantic-routing
on-device
metal
vulkan
intent-classification
resonance-routing
Model card Files
xet
 Community
cmf-decision / README_RU.md
infosave's picture
infosave
card: auto-skills (0.8.6), one paragraph
ad9bf33 verified
preview code
|
Raw History Blame Contribute Delete
9.26 kB

CMF Decision

Решение за миллисекунды. Вся модель — в одном CMF-файле.

Определите тему обращения, направьте запрос в нужный отдел или обучите свой навык выбора инструмента. Cortiq выбирает метку, а при неопределённости отказывается от ответа — без локальной генерации токенов. Для незнакомых случаев подключите оракул и используйте его ответы для обучения своих навыков.

Локальные решения · Свои навыки · Подключаемый оракул

Попробовать в Spaces → — введите запрос и посмотрите решение, уверенность и ошибки реконструкции. Без установки и API-ключа.

Запуск · Свой навык · Оракул · API · Методика · English

Быстрый запуск

Готовый сервис без установки

allaigate Routing API — готовый сервис маршрутизации на основе формата CMF. Получите API-ключ на сайте и подключите сервис по документации: скачивать модель и разворачивать собственный сервер не нужно.

Локальный запуск

Установите актуальную опубликованную CLI из crates.io (нужен Rust 1.88 или новее):

cargo install cortiq-cli --locked

Для обновления повторите ту же команду. Скачайте модель и получите первое решение:

curl -fL -o cortiq-decision.cmf \
  https://huggingface.co/infosave/cmf-decision/resolve/main/cortiq-decision.cmf
cortiq decide cortiq-decision.cmf --skill banking77 -p "I still have not received my new card"

Результат: card_arrival — ожидание доставки карты. Решение принято локально, ключ облачного API не нужен. Готовые навыки: banking77, clinc150, massive.

Выберите устройство

Без настройки используется CPU. Та же установленная CLI поддерживает GPU, начиная с Cortiq 0.8.0:

# Apple Silicon
CORTIQ_DECISION_DEVICE=metal cortiq decide cortiq-decision.cmf \
  --skill banking77 -p "I still have not received my new card"

# Vulkan GPU — нужен аппаратный Vulkan-драйвер
CORTIQ_DECISION_DEVICE=vulkan cortiq decide cortiq-decision.cmf \
  --skill banking77 -p "I still have not received my new card"

Если GPU несколько, задайте CORTIQ_DECISION_VULKAN_ADAPTER — уникальную часть имени карты. Для cortiq serve действуют те же переменные. Подробнее →

С версии 0.8.6 вопрос с вариантами, на которые ни один навык не обучен, выучивается по ответам оракула в авто-навык и дальше решается локально за миллисекунды; редкие метки остаются в карантине и продолжают обучаться. Как учатся авто-навыки →

Результаты измерений

Качество самой модели против Jev 1.13

Точность на всех примерах: Cortiq / Jev — BANKING77 93,34 / 85,58%; CLINC150 96,18 / 96,76%; MASSIVE 86,15 / 85,78%.

В режиме с отказом точность принятых ответов — 97,24–98,70%, а доля запросов, на которые модель отвечает локально, — 54,30–92,11%. Это разные показатели: высокая точность принятых ответов не означает ответ на каждый запрос. Результаты по каждому набору →

Laya: 77 вариантов на одном Mac

CMF и Laya: BANKING77 на Apple M4

Обученный навык CMF: 93,34%, 3,10 мс p50. Базовая English-модель Laya, все 77 меток сразу: 35,65%, 917,59 мс p50. Все 3 080 запросов, локально, без оракула. Стресс-тест с 77 вариантами, не лучший возможный результат Laya: предварительный отбор вариантов и multilingual не проверялись; обучение различается. Методика, неудачный прогон с длинным описанием и исходные ответы →

Скорость: теперь Metal и Vulkan

Полный путь от текста до решения: Apple M4 CPU / Metal и Xeon CPU / RTX PRO 4000 Vulkan. В каждой паре один стенд; режимы запросов между панелями различаются.

1,10–1,24 мс на RTX PRO 4000; 2,28–2,58 мс на Apple M4. Ускорен весь локальный путь, а не только ядро реконструкции. На всех 10 554 тестовых примерах решения и отказы совпали с CPU. Переобучения нет.

На M4 запросы CPU/GPU чередуются; на RTX измерена прогретая непрерывная серия. После простоя RTX медленнее; под нагрузкой рабочего стола хвост задержек Metal может быть хуже CPU. Методика, задержки и память → · Предыдущее API-сравнение с Jev →

Стоимость: облако только для сложных случаев

Плата за API на миллион решений: Cortiq с оракулом — $3,01 / $3,53 / $8,48; Jev — $183,69 / $271,61 / $110,86.

При полностью локальной работе платы за API нет. В гибридном тесте сложные случаи решал DeepSeek V4.1 Flash: итоговая точность — 93,93% / 97,47% / 88,00%. Это пересчёт сохранённых расходов, без стоимости оборудования и электричества. Подключение оракула →

Зачем CMF

  • Один файл для переноса. Энкодер, навыки и правила решений внутри.
  • Резонанс вместо генерации. Каждая метка пробует восстановить сигнал запроса. Побеждает наименьшая ошибка; проверка уверенности разрешает ответ или возвращает отказ.
  • Свои задачи. Добавляйте навыки по примерам, не меняя параметры старых. Обновления можно версионировать и откатывать.
  • Локальная работа по умолчанию. Внешний оракул подключается отдельно.

Добавьте свой навык

Подготовьте примеры с метками в train.jsonl и описание меток в question.json:

cortiq decision add-skill cortiq-decision.cmf --skill support \
  --train train.jsonl --question question.json -o support.cmf
cortiq decide support.cmf --skill support -p "Please cancel my subscription"

Формат примеров, калибровка и параметры →

HTTP-сервер: cortiq serve cortiq-decision.cmf. Запросы, ключи и совместимость с роутером →

Условия сравнения: повторно использованные открытые наборы; CMF обучен на train + dev, Jev получил по два примера на метку. В модели объединены энкодер, переработанный технологией Cortiq NVG, и обученные резонансные топологии. Методика и лицензии · Данные графиков

Resonance Routing — US 19/452,440.