Charomi-AI/charomi-pre-training-dataset-4B

Charomi 1.5 Micro Pre-Training Dataset (4B Tokens)

🇬🇧 English | 🇷🇺 Русский

---

🇬🇧 English Documentation

Overview

Charomi-AI/charomi-pre-training-dataset-4B is a high-density, pre-tokenized binary pre-training corpus specifically engineered for the Charomi 1.5 model family (hybrid architectures combining Linear Associative Memory via Gated Delta Rule, Sliding Window Attention, Fine-Grained Sparse MoE, and Recursive Latent Reasoning).

Instead of raw noisy web crawls, this corpus follows the High Signal-to-Noise Ratio (High-SNR) paradigm, concentrating on executable code, formal mathematical derivations, high-grade educational articles, and technical Russian prose.

Key Statistics

Metric	Value
Total Tokens	~4.0 Billion tokens
Total Documents	~2,800,000 documents (2,772,000 train / 28,000 validation)
Binary Format	Flat memory-mapped uint32 token stream (tokens.bin) + int64 index (documents.idx)
Tokenizer	CharomiTokenizer 1.5 (Byte-level BPE, vocabulary size: 163,840)
Deduplication	Exact & normalized BLAKE2b-128 document-level deduplication

Dataset Composition & Curated Mix

The dataset is synthesized from four rigorously filtered open-source pillars:

1. Executable Code & Algorithms (~40%):
   • Derived from curated educational programming subsets (SmolLM python-edu & clean code repositories).
   • Preserves exact indentation, docstrings, algorithmic data structures, and terminal scripts.
2. Formal Mathematics & Proofs (~25%):
   • Sourced from FineMath-4plus (filtered by LLM classifiers for grade $\ge 4$ mathematical reasoning, step-by-step derivations, olympiad problems, and university-level calculus/linear algebra).
3. High-Grade Educational Web — English (~20%):
   • Sourced from FineWeb-Edu (educational quality score $\ge 4$: textbooks, scientific articles, lectures, and structured analytical writing).
4. Technical & Encyclopedic Prose — Russian (~15%):
   • Sourced from FineWeb-2 (rus_Cyrl) with strict heuristic filtering against spam, machine-translated boilerplate, and formatting corruption.

Binary Storage Architecture (charomi_indexed_corpus)

To achieve zero CPU parsing overhead and $O(1)$ random document access during stateful long-context training, the dataset is distributed in a compiled binary format:

charomi-pre-training-dataset-4B/
├── train/
│   ├── tokens.bin       # Flat little-endian uint32 array of token IDs
│   ├── documents.idx    # Little-endian int64 pairs: [token_offset, token_length]
│   └── metadata.json    # Corpus statistics, SHA-256 hashes, and tokenizer fingerprint
└── validation/
    ├── tokens.bin
    ├── documents.idx
    └── metadata.json

Quickstart: Zero-Copy Loading in Python (numpy.memmap)

You can stream billions of tokens directly from disk with 0 MB of RAM overhead using standard numpy:

import json
from pathlib import Path
import numpy as np

corpus_dir = Path("train")
meta = json.loads((corpus_dir / "metadata.json").read_text(encoding="utf-8"))

# 1. Memory-map the flat token stream and document index
tokens = np.memmap(
    corpus_dir / "tokens.bin",
    dtype=np.dtype("<u4"),
    mode="r",
    shape=(meta["token_count"],),
)

documents = np.memmap(
    corpus_dir / "documents.idx",
    dtype=np.dtype("<i8"),
    mode="r",
    shape=(meta["document_count"], 2),
)

# 2. Fetch any document in O(1) time
doc_id = 0
offset, length = documents[doc_id]
doc_tokens = tokens[offset : offset + length]
print(f"Document #{doc_id}: {length} tokens -> {doc_tokens[:16]}...")

---

🇷🇺 Документация на русском

Описание

Charomi-AI/charomi-pre-training-dataset-4B — это высокоплотный, предварительно токенизированный бинарный корпус для предобучения (Pre-training) моделей семейства Charomi 1.5 (гибридных архитектур на базе линейной ассоциативной памяти Gated Delta Rule, скользящего внимания SWA, разреженной смеси экспертов Sparse MoE и рекурсивного ядра мышления).

В отличие от сырых дампов интернета, этот датасет собран по принципу максимальной концентрации полезного сигнала (High-SNR): он объединяет чистый программный код, высшую математику, образовательные статьи и технический русскоязычный текст.

Основные характеристики

Параметр	Значение
Объём токенов	~4.0 миллиарда токенов
Количество документов	~2 800 000 документов (2 772 000 train / 28 000 validation)
Бинарный формат	Прямой поток uint32 (tokens.bin) + таблица смещений int64 (documents.idx)
Токенизатор	CharomiTokenizer 1.5 (Byte-level BPE, словарь: 163 840 токенов)
Очистка и фильтрация	Нормализация Unicode NFC, фильтр энтропии символов, дедупликация BLAKE2b

Состав и пропорции микса

1. Программный код и алгоритмы (~40%):
   • Образовательный код (SmolLM python-edu), структуры данных, алгоритмы и системные скрипты с полным сохранением форматирования и отступов.
2. Высшая математика и логика (~25%):
   • Срез FineMath-4plus: пошаговые доказательства теорем, линейная алгебра, матанализ и разборы олимпиадных задач с рейтингом качества $\ge 4/5$.
3. Образовательный и научный корпус — EN (~20%):
   • Срез FineWeb-Edu: университетские лекции, учебные материалы и научные публикации.
4. Русскоязычный технический и энциклопедический корпус — RU (~15%):
   • Очищенный срез FineWeb-2 (rus_Cyrl), прошедший строгую фильтрацию от рекламного мусора и спама.

Лицензия и цитирование (Citation)

Датасет распространяется под открытой лицензией Apache 2.0. При использовании в исследованиях или обучении моделей, пожалуйста, указывайте ссылку на проект Charomi-AI:

@misc{charomi2026dataset4b,
  title        = {Charomi 1.5 Pre-Training Dataset (4B High-SNR Tokens)},
  author       = {Charomi-AI Team},
  year         = {2026},
  publisher    = {Hugging Face},
  howpublished = {\url{https://huggingface.co/datasets/Charomi-AI/charomi-pre-training-dataset-4B}}
}