The dataset viewer is not available because its heuristics could not detect any supported data files. You can try uploading some data files, or configuring the data files location manually.

Russian Wikipedia Dataset (РуВики)

Полный текстовый датасет русской Википедии, подготовленный для обучения языковых моделей.

Описание

Датасет содержит извлечённый и очищенный текст всех статей русской Википедии. Источник: официальные дампы Wikimedia.

Статистика

Параметр	Значение
Статей	1,855,155
Слов	642,078,669
Размер (текст)	4.34 ГБ
Язык	Русский
Лицензия	CC BY-SA 4.0

Формат

ruwiki_full.txt — полный датасет (все статьи)
Статьи разделены токеном <|endoftext|>

Использование

from datasets import load_dataset

dataset = load_dataset("atBuba/ruwiki-dataset")

Обработка

Скачивание дампа с dumps.wikimedia.org
Извлечение текста через wikiextractor (удаление вики-разметки, шаблонов)
Очистка: удаление HTML, URL, дедупликация
Фильтрация статей короче 100 символов
Случайное разделение train/val (seed=42)

Лицензия

Контент Википедии распространяется под лицензией CC BY-SA 4.0.

Downloads last month: 18