Sparkplugx1904/voiceoftrisma-voice-datasets

Create combined metadata.tsv

import pandas as pd
import os
import shutil

# --- CONFIGURATION ---
# Daftar folder dataset yang ingin digabungkan
dataset_folders = [
    "VOT-Denpasar_18-12-25-0",
    "VOT-Denpasar_22-12-25-3"
]

home_clips_dir = "clips"
output_metadata = "metadata.tsv"

# Buat folder clips di direktori utama jika belum ada
if not os.path.exists(home_clips_dir):
    os.makedirs(home_clips_dir)

all_data = []

print("=== Memproses Penggabungan Dataset ===")

for folder in dataset_folders:
    metadata_path = os.path.join(folder, "metadata.tsv")
    clips_source = os.path.join(folder, "clips")
    
    # 1. Proses File Metadata
    if os.path.exists(metadata_path):
        # Membaca TSV (mengabaikan error jika ada baris header ganda di dalam file sumber)
        df = pd.read_csv(metadata_path, sep='\t')
        
        # Validasi kolom agar tidak terjadi kesalahan struktur
        if 'path' in df.columns and 'sentence' in df.columns:
            all_data.append(df[['path', 'sentence']])
            print(f"[OK] Metadata dari {folder} dimuat.")
        else:
            print(f"[!] Kolom tidak sesuai di {folder}/metadata.tsv")
    else:
        print(f"[?] File {metadata_path} tidak ditemukan.")

    # 2. Pindahkan file audio ke folder clips utama
    if os.path.exists(clips_source):
        files_moved = 0
        for file_name in os.listdir(clips_source):
            src_file = os.path.join(clips_source, file_name)
            dst_file = os.path.join(home_clips_dir, file_name)
            
            # Pindahkan file (shutil.move menangani overwrite jika file sudah ada)
            shutil.move(src_file, dst_file)
            files_moved += 1
        print(f"[OK] {files_moved} file audio dipindahkan dari {folder}.")

# 3. Gabungkan semua data dan simpan ke metadata.tsv baru
if all_data:
    # pd.concat akan menyatukan semua baris secara bersih
    combined_df = pd.concat(all_data, ignore_index=True)
    
    # Simpan sebagai TSV dengan satu header di paling atas
    combined_df.to_csv(output_metadata, sep='\t', index=False)
    
    print("-" * 40)
    print(f"BERHASIL: {output_metadata} telah diperbarui.")
    print(f"Total baris data: {len(combined_df)}")
else:
    print("-" * 40)
    print("EROR: Tidak ada data yang berhasil digabungkan.")