Rcarvalo/conversational-s2s-v1

Conversational S2S v1 — dialogues parlés FR + EN

Corpus synthétique de conversations orales multi-tours entre un utilisateur et un assistant, en français et en anglais, destiné au finetuning speech-to-speech de LFM2.5-Audio (Liquid AI). Chaque tour est un clip audio séparé, aligné avec son texte ; les dialogues sont conçus pour être rejoués tour à tour (user → assistant → user → …).

Projet tts-model-exploration. Produit par voxtral_datagen_pipeline (s2s-skeletons → remplissage LLM → s2s-render-push).

	FR	EN
Dialogues	6 511	6 621
Tours parlés (= clips)	45 574	46 222
Durée totale	~95 h	122 h
Durée par clip (médiane / moyenne)	5,9 s / 7,5 s	7,3 s / 9,5 s
Mots par tour (médiane / moyenne)	18 / 23	17 / 21
Taille	8,3 Go	8,1 Go

Total : 91 796 clips, ~217 h, 16,4 Go. Tous les tours ont leur audio ; aucun échec de synthèse.

---

Organisation du repo

dataset/
  conversational_v1_fr_fr_female_mix.jsonl        # un dialogue par ligne
  conversational_v1_en_neutral_female_mix.jsonl
audio/conversational_v1/
  fr/fr_female_mix/00..63/<id>__t<NN>.flac        # 64 sous-dossiers (hash du nom)
  en/neutral_female_mix/00..63/<id>__t<NN>.flac

Le nom du dossier de voix (fr_female_mix, neutral_female_mix) désigne le jeu de voix utilisé, pas une seule voix : l'assistant a une voix fixe, l'utilisateur en tire une parmi plusieurs (cf. Voix).

Les clips sont répartis en 64 sous-dossiers par hash SHA-1 du nom de fichier (~700 fichiers chacun), pour rester sous la limite de 10 000 fichiers par dossier du Hub. Le chemin exact de chaque clip est dans le champ audio du JSONL — ne pas le reconstruire.

Format d'une ligne

{
  "id": "conv-000015",
  "lang": "fr",
  "axes": {
    "domain": "celebrity_entertainment",
    "intent": "chitchat",
    "length_bucket": "short",
    "register": "informal_neutral",
    "user_profile": "knowledgeable_neutral",
    "response_form": "with_clarification",
    "context_dependency": "low"
  },
  "n_exchanges": 2,
  "target_ratio": 1.47,
  "turns": [
    {"turn_idx": 0, "role": "user",      "type": "spoken",
     "text": "Tu savais que Timothée Chalamet a été nommé aux Oscars …",
     "audio": "audio/conversational_v1/fr/fr_female_mix/25/conv-000015__t00.flac"},
    {"turn_idx": 1, "role": "assistant", "type": "spoken",
     "text": "Ah oui carrément, il est parti tôt niveau reconnaissance. …",
     "audio": "audio/conversational_v1/fr/fr_female_mix/17/conv-000015__t01.flac"}
  ],
  "meta": {"blank_generator": "claude-sonnet-5"}
}

Champ	Description
id	Identifiant stable du dialogue (conv-NNNNNN). Un même id en FR et en EN désigne le même squelette (mêmes axes, même nombre d'échanges) rempli dans chaque langue — 6 202 ids communs, 309 FR seuls, 419 EN seuls
lang	fr ou en
axes	Les 7 axes tirés pour ce dialogue (voir ci-dessous)
n_exchanges	Nombre d'échanges user/assistant (= len(turns) / 2), de 1 à 12
target_ratio	Ratio de longueur visé assistant / utilisateur au moment du remplissage
turns[].turn_idx	Position du tour, 0-based ; les tours alternent toujours user puis assistant
turns[].role	user ou assistant
turns[].type	Toujours spoken dans ce corpus (pas d'appel d'outil)
turns[].text	Texte tel que synthétisé, sans normalisation ultérieure
turns[].audio	Chemin du clip dans ce repo
meta.blank_generator	Modèle qui a rempli le squelette (claude-sonnet-5)

Le texte et tous les champs hors audio sont strictement identiques aux squelettes remplis d'origine (vérifié par comparaison profonde après rendu).

Axes de génération

Les dialogues sont tirés sur une grille de 7 axes, puis remplis par LLM ; la distribution est la même en FR et en EN (mêmes squelettes, remplis dans chaque langue).

Axe	Valeurs (× nb)
domain	30 domaines : literature, cooking_recipes, foreign_languages, personal_finance, work_career, everyday_admin, movies_tv, celebrity_entertainment, … (~220 dialogues chacun)
intent	educational_explanation 20 %, advice_recommendation 18 %, chitchat 16 %, opinion_debate 16 %, anecdote_storytelling 11 %, clarification 10 %, emotional_support 9 %
length_bucket	short 63 %, medium 29 %, long 8 %
register	informal_neutral, informal_rushed, informal_upbeat, informal_relaxed, formal_neutral, formal_polite, formal_rushed
user_profile	novice_curious, knowledgeable_neutral, knowledgeable_deep_diver, beginner_hesitant, novice_in_a_hurry
response_form	short_direct 38 %, detailed_spoken 31 %, with_clarification 16 %, empathetic 10 %, decline_redirect 5 %
context_dependency	low 49 %, medium 31 %, high 20 %

Longueur des dialogues : 1 échange (19 %), 2 (21 %), 3 (23 %), 4–6 (29 %), 7–12 (8 %).

Audio

Modèle TTS	mistralai/Voxtral-4B-TTS-2603, servi par vLLM-omni 0.26.0
Format	FLAC, 24 kHz, mono, 16 bit — taux natif du codec Mimi, aucun ré-échantillonnage
Un clip par tour	pas de silence ajouté, pas de concaténation ; les dialogues se reconstituent par turn_idx
Nommage	<id>__t<turn_idx:02d>.flac

Voix

	FR	EN
Assistant (voix fixe)	fr_female	neutral_female
Utilisateur (une voix par dialogue)	fr_male	neutral_male, casual_female, casual_male, cheerful_female

La voix de l'utilisateur est choisie par hash SHA-1 de l'id du dialogue, donc stable : tous les tours user d'un même dialogue ont la même voix, et un re-rendu la retrouve. Les noms de voix sont ceux exposés par le serveur Voxtral.

Chargement

from huggingface_hub import snapshot_download
from datasets import load_dataset
import soundfile as sf

root = snapshot_download("Rcarvalo/conversational-s2s-v1", repo_type="dataset",
                         allow_patterns=["dataset/*", "audio/conversational_v1/fr/*"])
ds = load_dataset("Rcarvalo/conversational-s2s-v1", "fr", split="train")

row = ds[0]
for turn in row["turns"]:
    audio, sr = sf.read(f"{root}/{turn['audio']}")   # float64, 24 000 Hz
    print(turn["role"], f"{len(audio) / sr:.1f}s", turn["text"][:60])

Le viewer du Hub affiche les JSONL (configs fr et en) ; la colonne audio y apparaît comme un chemin, pas comme un lecteur.

Limites

• Synthétique de bout en bout : textes LLM (Claude Sonnet 5), voix TTS. Aucune parole humaine, aucun bruit de fond, aucun chevauchement — à compléter par des données réelles pour la robustesse acoustique.
• Une seule voix d'assistant par langue et 1 (FR) ou 4 (EN) voix utilisateur : peu de diversité de locuteurs.
• Les textes n'ont pas été relus humainement ; les squelettes ont été filtrés automatiquement (cf. s2s_datagen/report/).
• Pas de split train/validation/test fourni : à faire par id, en gardant un même id du même côté dans les deux langues pour éviter les fuites.

Licence

Textes générés par Claude Sonnet 5 (Anthropic) et audio par Voxtral-4B-TTS (Mistral AI, licence du modèle à vérifier avant tout usage externe). Usage interne au projet ; license: other en attendant une décision.

Reproduction

# 1. squelettes + remplissage LLM (voir voxtral_datagen_pipeline/README.md)
s2s-skeletons …
# 2. rendu audio local puis push, par langue (run_conv.sh)
s2s-render-push --input _conv_fr.jsonl --out data/conversational_v1 \
  --repo Rcarvalo/conversational-s2s-v1 --prefix audio/conversational_v1 --shards 64 \
  --voice fr_female --visitor-voices fr_male --no-push
s2s-render-push … --push-only