Hugging Face's logo

Datasets:
WTFO
/
ru_extra

Tasks:
Automatic Speech Recognition
Modalities:
Audio
Text
Formats:
parquet
Languages:
Russian
Size:
100K - 1M
Libraries:
Datasets
Dask
Polars
License:
Dataset card Data Studio Files
xet
 Community

You need to agree to share your Hugging Face information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

This dataset contains audio redistributed from Vikhrmodels/ToneBooks (Apache-2.0, audiobook fragments) and Vikhrmodels/ToneWebinars (Apache-2.0; upstream ZeroAgency/shkolkovo-bobr.video-webinars-audio, MIT, school exam webinars). Agree to use it for research / ASR training only and to respect the rights of the original audiobook publishers and narrators.

Log in or Sign Up to review the conditions and access this dataset content.

WTFO/ru_extra

俄語 ASR 補充資料：俄語音訊 → 俄文轉寫。用來補充基線 YuKuanFu/ru（約 4,465.6 h）。 Russian ASR supplement (Russian audio → Russian text) for the YuKuanFu/ru baseline (~4,465.6 h).

config 來源 / source 列 rows 時數 hours 狀態 status
tonebooks Vikhrmodels/ToneBooks @ 4fd7ba96 (train) 60,695 105.24 已清理 / cleaned
tonebooks_adj Vikhrmodels/ToneBooks @ 4fd7ba96 (train)，tonebooks 以外的新收列 / rows not in tonebooks 13,996 35.41 已清理（三 ASR + LLM 裁決）/ cleaned (3-ASR + LLM adjudication)
tonewebinars Vikhrmodels/ToneWebinars @ a9bda19f (train) 44,246 311.77 已清理（三 ASR + LLM 裁決）/ cleaned (3-ASR + LLM adjudication)

tonebooks 與 tonebooks_adj 不重疊（id 不重複），可同時載入。 / tonebooks and tonebooks_adj are disjoint.

來源與授權 / Provenance and license

ToneBooks

  • Hugging Face 卡片宣告的授權是 Apache-2.0。
  • 內容是俄語有聲書片段，共 10 位朗讀者（speaker_id）。卡片致謝 its5Q/bigger-ru-book 協助收集。
  • 上游 its5Q/bigger-ru-book（rev 18a38573）沒有 dataset card，也沒有授權標記。
  • 書籍與錄音的著作權屬原出版者和朗讀者。Apache-2.0 只是 Vikhrmodels 的宣告，不是我們的法律評估。

ToneBooks (English)

  • The Hugging Face card declares Apache-2.0.
  • Content: Russian audiobook fragments read by 10 narrators (speaker_id). The card credits its5Q/bigger-ru-book for collection help.
  • The upstream its5Q/bigger-ru-book (rev 18a38573) has no dataset card and no license tag.
  • Copyright of the books and recordings stays with the original publishers and narrators. Apache-2.0 is Vikhrmodels' declaration, not our legal assessment.

轉寫的獨立性 / Transcript independence

  • ToneBooks 的文字有書籍排版特徵。
    • label 中出現對話破折號 - 的有 25.1%，括號 2.5%，分號 1.5%，?! 0.5%。
    • faster-whisper 在同一批音訊上，這幾項全是 0%。
    • 因此判定 label 是書本原文，與 Whisper 互相獨立。
  • ToneBooks text shows book typography that faster-whisper never produced on the same audio.
    • Dialogue hyphen 25.1%, parentheses 2.5%, semicolons 1.5%, ?! 0.5% in labels; 0% for each in Whisper output.
    • We therefore treat the labels as source book text, independent of Whisper.
  • ToneWebinars 的上游卡片寫明轉寫是「whisper and VAD」產生的，label 與 Whisper 不算獨立，因此加做 GigaAM-v3 重驗與 LLM 裁決（見下方 tonewebinars 一節）。
  • ToneWebinars' upstream card states its transcripts were made "with whisper and VAD", so its labels are not independent of Whisper; GigaAM-v3 verification and LLM adjudication were added (see the tonewebinars section).

ToneWebinars

  • Hugging Face 卡片宣告 Apache-2.0；上游 ZeroAgency/shkolkovo-bobr.video-webinars-audio 宣告 MIT。內容是 Shkolkovo 免費升學考試課程的網路研討會錄音（約 2,573 場）。
  • The card declares Apache-2.0; upstream ZeroAgency/shkolkovo-bobr.video-webinars-audio declares MIT. Content: recordings of free exam-prep webinars by Shkolkovo (~2,573 webinars).
  • 錄音著作權屬原講者與 Shkolkovo；上述授權是上游的宣告，不是我們的法律評估。

清理內容 / What was cleaned (tonebooks)

  • 範圍 / scope：上游 train 共 91,976 列。

    • 先做精確音訊去重：比對 PCM SHA 與原始 FLAC SHA，對象是 baseline train/eval 與來源內部。
    • 再做 faster-whisper-large-v3 盲轉寫 QC：不給參考文字、hotword 或語言提示。
    • 通過以上兩步的 83,577 列 / 164.04 h 是候選。

  • 收錄條件 / admitted：只收 source label 與 Whisper 在正規化後一致的列。

    • 正規化是指不分大小寫、去標點、ё→е，連字號與空白視為相同。
    • 收錄共 60,695 列 / 105.24 h。
    • 書本原文加上一個獨立 ASR 家族，構成兩個獨立來源。
    • Only rows whose source text equals the independent faster-whisper-large-v3 hypothesis after normalization (case, punctuation, ё/е, hyphen/space) are included.

  • 排除 / excluded（見 EXCLUDED.jsonl）：

    原因 / reason 列 rows 時數 h
    仍有用字差異、待第二 ASR / lexical difference, pending GigaAM-v3 22,190 58.54
    HOLD：外部評測命中、非俄文、重複等 / eval hit, non-Russian, duplicates 481 0.18
    保守排除：外部評測短句文字命中 / conservative short-text eval hit 197 0.07
    加標點後仍無句讀（只有破折號） / still no sentence punctuation 14 0.01

    上游另有兩類列，不在 83,577 列候選中：

    • 已知外部評測重疊：11 列。
    • 音訊/ASR 待審：8,377 列 / 15.1 h。

  • 外部評測隔離 / eval isolation：

    • 比對方式：精確文字、近似文字（3-gram 加相似度 ≥90 或 partial ≥95）、精確 PCM。
    • 比對集合：Golos crowd/farfield、Common Voice 22 ru test、FLEURS ru test、RuLS test/val、SOVA RuDevices 與 RuAudiobooksDevices test、ToneBooks/ToneWebinars validation、YuKuanFu/ru eval、ToneSpeak validation（部分）。

  • 基線去重 / baseline dedup：

    • 對象：YuKuanFu/ru@6cf44587 train（4,650,979 列）與 eval。
    • 方式：精確音訊，加上正規化文字（長度 ≥20 字元）。

  • 標點 / punctuation：

    • 每個 label 都有標點。
    • 196 列原本完全沒有標點。這些列以 1-800-BAD-CODE/xlm-roberta_punctuation_fullstop_truecase 為參考，只補 .,?!。
    • 文字鎖定、大小寫不改。驗證條件：去掉新增標點後，必須與原文逐字相同。
    • 這些列的 text_state=punct_only_overlay，qc_flags 含 punct_added_text_locked。

  • 數字 / numbers：保留原書寫法，不做 ITN 改寫。含數字的列在 qc_flags 標 label_has_digits。

  • 只收俄文 / Russian only：

    • 範圍內沒有英文翻譯。
    • 拉丁字母（品牌、符號）保留，標 label_latin。
    • 拉丁字母多於西里爾字母的列已排除。

清理內容 / What was cleaned (tonebooks_adj, tonewebinars)

  • 證據 / evidence：每列有三份盲轉寫：faster-whisper-large-v3（W）、GigaAM-v3 RNNT（G）、GigaAM-v3 CTC（C）。G 與 C 同一家族，只算一個來源。

  • LLM 裁決 / LLM adjudication：本機 Qwen3.8-27B-FP8（只看文字，不聽音訊）對 label 與 ASR 不一致的列提出 KEEP / FIX / HOLD / DROP，再由 root 規則 ru_clean912_root_adj_v1_20261025 決定：

    • KEEP：差異只在格式（標點、大小寫、ё/е、數字寫法）、填充詞或已知 ASR 誤聽；或 label 與兩個獨立來源一致（AGREE）。
    • FIX：只接受有 ASR 支持的最小修改；人名、數字、拉丁字串的修改需要額外證據，否則 HOLD。
    • HOLD／DROP 的列不收錄（見各 config 的 EXCLUDED.jsonl）。

  • 收錄 / admitted：

    config 候選 rows / h KEEP（LLM） KEEP（AGREE） FIX 收錄 rows / h HOLD 未收 rows / h DROP rows / h
    tonebooks_adj 83,577 / 164.04（含 tonebooks 已收） 7,364 5,675 957 13,996 / 35.41 8,207 / 23.14 678 / 0.25
    tonewebinars 105,194 / 747.72 38,438 3,405 2,403 44,246 / 311.77 59,929 / 428.82 1,019 / 7.14

  • text_state：root_adj_accept_keep_LLM、root_adj_accept_keep_AGREE、root_adj_accept_fix_LLM；text_original 是上游原文。

  • qc_tier：stage-2 分級（T0/T1 正規化後與 Whisper 一致；T2 有用字差異，經上述裁決）。

  • 評測隔離、基線去重與標點規則同 tonebooks；每個 label 都有標點。

  • 仍在處理 / still in progress：HOLD 列（約 452 h）正以第二輪 LLM 裁決（加上下文與外部查證）處理，通過者日後以新 config 發佈。

尚未完成 / Still pending (honest limits)

  • ToneSpeak validation：只取得 64/700 列 metadata。它是 GPT 合成文本，重疊風險低，但尚未完整比對。
  • GigaAM evaluation 中的 OpenSTT 驗證集：未取得，沒有比對。
  • 沒有做重新編碼或重切段的近似音訊比對，也沒有做 speaker 層級的評測隔離。
  • 專名：ToneBooks 的專名拼寫以原書為準。Whisper 與 label 有差異的列都已排除，等第二 ASR 重驗。
  • text 保留原書的排版，包括對話破折號 - 、引號和省略號。

English summary of the same limits:

  • ToneSpeak validation: only 64 of 700 rows of metadata were obtained.
  • The OpenSTT eval sets inside the GigaAM evaluation were not obtained.
  • No re-encode / re-segment near-audio check and no speaker-level eval isolation were done.

欄位 / Columns

欄位 說明
id 列 ID
audio {bytes, path}；FLAC，16 kHz mono（Audio(16000)）
text 清理後的俄文 label（有標點）
text_original 上游原文
duration 秒
source_dataset、source_revision、source_file、source_row、source_id 上游 parquet 與列號、上游 mp3 名稱
speaker_id、license 朗讀者、授權
asr_hyp、asr_model、asr_model_revision、asr_wer、asr_cer faster-whisper-large-v3 盲轉寫與距離
qc_tier T0 完全一致；T1 只差空白或連字號
text_state source 或 punct_only_overlay
eval_gate、dedup_gate、qc_flags 評測與去重檢查結果、旗標
audio_sha256、pcm_sha256 音訊雜湊
clean_rule 清理規則版本

使用 / How to load 

from datasets import load_dataset
ds = load_dataset("WTFO/ru_extra", "tonebooks", split="train")   # or "tonebooks_adj", "tonewebinars"   # gated: accept terms first, then `huggingface-cli login`
print(ds[0]["text"], ds[0]["audio"]["sampling_rate"])

清理證據（本地，未發佈）：tp1_new_data/ru/clean912_20261022/，含 RU_CLEAN_PLAN.md、out/SUMMARY.json、out/stage2_final.sqlite、out/PUNCT_RECEIPT.json。 Cleaning evidence (local, not published): the same directory and files.
Downloads last month
34
Total file size:
27.6 GB