Fix/finetuning - #2
Merged
Merged
Conversation
ayutaz
added a commit
that referenced
this pull request
Jul 12, 2025
- Unity 6 environment setup completed - GitHub Actions CI/CD configured with game-ci - PR #2 created for Phase 0 Task 0.1 🤖 Generated with [Claude Code](https://claude.ai/code) Co-Authored-By: Claude <noreply@anthropic.com>
ayutaz
added a commit
that referenced
this pull request
Mar 18, 2026
- Fix all_passed never set to False when validation marginal (#1) - Remove unused cast_output_map, use unique name generator to avoid name collisions in ONNX graph (#2, #3) - Use temporary file + atomic replace for in-place FP16 conversion to prevent data corruption on interruption (#4) - Specify CPUExecutionProvider explicitly in test sessions (#5) - Add lid input support to validate_model dummy inputs
ayutaz
added a commit
that referenced
this pull request
Mar 18, 2026
* feat: バイリンガル (JA+EN) Phonemizer追加 — 文内コードスイッチング対応
統一phoneme_id_map (JA+EN ~110記号) とUnicode範囲ベースの言語自動検出により、
「今日はgood morningですね」のような混合テキストを正しく音素化できる。
Phase B (学習パイプライン) / Phase C (データ準備+学習) の基盤。
Co-Authored-By: Claude Opus 4.5 <noreply@anthropic.com>
* feat: バイリンガル学習パイプライン (Phase B) — language embedding + language_id対応
- SynthesizerTrnにnn.Embedding(n_languages, gin_channels)追加
- Dataset/Batchにlanguage_id伝播
- ONNX export/推論にlid入力対応
- preprocess.pyに--language ja-enバイリンガルモード追加
- config.jsonにnum_languages/language_id_map追加
Co-Authored-By: Claude Opus 4.5 <noreply@anthropic.com>
* fix: バイリンガルモデル学習前の全体検証修正
- validation_stepにlid (language_id)を追加し、EN utteranceの評価精度を改善
- infer_onnx.py --textモードでconfig.jsonのlanguage_id_mapからlanguage_idを決定
- dataset.py collateでlanguage_idsテンソルを.zero_()で初期化（ゴミ値防止）
- bilingual_id_mapを実際のEnglishPhonemizer出力に合わせて101→97シンボルに修正
- CLAUDE.mdをバイリンガルモデル学習状況に更新
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix: JA二重パディング修正 + 推論EOS不一致修正 + EN phonemize並列化
- Bug #1: _add_inter_phoneme_padding()で既存padding(ID=0)をスキップし三重padding防止
- Bug #2: BilingualPhonemizer.post_process_ids()が最終セグメントのEOS($/?)を保持
- EN phonemization をProcessPoolExecutorで並列化（60ワーカーで~10倍高速化）
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* perf: EN phonemize並列化 + audioキャッシュスキップ最適化
- EN phonemizationをProcessPoolExecutor並列化（60ワーカーで約10倍高速化）
- Audio caching Phase 2でキャッシュ済みファイルをスキップ（librosa/torch import不要）
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* chore: 学習依存関係をpyproject.tomlに追加 + setuptools packages.find設定
- torch, pytorch-lightning, librosa, cython, pyopenjtalk-plus, wandb を
pyproject.toml の dependencies に宣言
- [tool.setuptools.packages.find] where=["src/python"] を追加し
piper_train パッケージを正しく認識させる
- これにより uv add で新パッケージ追加時に既存依存が削除される問題を防止
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* chore: torchaudio, transformers を依存関係に追加
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* docs: バッチサイズを12→20に更新 (OOM対策)
batch-size 28はV100-16GBでOOM発生。batch-size 20で安定稼働を確認。
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* feat: --no-wavlm フラグ追加 + wavlm-every-n-steps + 空phoneme_ids除外
- __main__.py: --no-wavlm で WavLM Discriminator を無効化、--wavlm-every-n-steps でWavLM loss計算頻度を制御
- lightning.py: wavlm_every_n_steps 対応、MEMORY_CLEANUP_FREQUENCY を500に変更
- prepare_bilingual_dataset.py: 空phoneme_ids (16件) をスキップ
- CLAUDE.md: WavLM無効化の経緯・学習コマンド・状況を更新
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* docs: FP32切り替え記録 — V100 FP16-mixed backward性能問題
V100でFP16-mixed使用時、Generator backward passが29-40秒かかり
0.03 it/sに低下する問題を発見。FP32に切り替えることで0.45 it/s
(15倍高速化)を達成。学習コマンド・設定を更新。
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix: ONNX export互換性 + バイリンガル推論language_id自動検出
- export_onnx.py: PosixPath safe_globals追加 (PyTorch 2.6対応)
- export_onnx.py: dynamo=False でレガシーONNXエクスポーター使用
- infer_onnx.py: --language ja-en 時にテキストのUnicode範囲から
language_idを自動判定 (CJK→ja=0, Latin→en=1)
- pyproject.toml/uv.lock: onnxscript, onnxruntime 依存追加
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* docs: バイリンガルモデル200epoch学習完了を反映
- 状態を「学習中」→「200epoch完了」に更新
- ONNXモデルパス (bilingual-ja-en-200epoch.onnx) 追加
- チェックポイントパスをversion_28に更新
- 品質評価追加: JA良好、EN発音不明瞭 (データ量18%のため)
- WandB run ID追加、学習期間・速度記録
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* docs: 推奨設定をV100/FP32に更新
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* docs: 次のステップ (TODO) セクション追加
英語データ増強、チェックポイント削除、HuggingFaceアップロード、
WavLM再学習検討を記載。環境引き継ぎ用。
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* docs: WavLM再学習をTODOから削除 (事前学習では不要)
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix: WandB音声ログのメモリ最適化 (Generator leak + 積極的cleanup)
## 主要な修正
### 1. Generator メモリリークバグ修正 (最重要)
- models.py:360: `torch.zeros(1)` → `xs = None` でCPUスカラー生成を回避
- In-place演算 `xs +=` → `xs = xs +` に変更
- 効果: 学習中の段階的メモリ蓄積を解消
### 2. 音声サンプル数削減 (5→2)
- lightning.py: デフォルト値とCLI引数を2に変更
- 効果: 音声ログ時のピークメモリ60%削減
### 3. 積極的メモリクリーンアップ
- on_validation_epoch_end(): サンプルごとに synchronize() + empty_cache()
- training_step(): インスタンス変数 (_y, _y_hat) をNoneにクリア
- 定期クリーンアップに synchronize() 追加
### 4. ドキュメント更新
- CLAUDE.md: メモリ最適化セクション追加
- トラブルシューティングガイド拡充
## テスト結果
- GPUメモリ: 15.3GB (OOM) → 4.7GB (69%削減)
- 音声ログ: 2サンプル正常動作
- 学習速度: 影響なし (~0.38-0.45 it/s)
Co-Authored-By: Claude Sonnet 4.5 <noreply@anthropic.com>
* perf: Phase 1学習速度最適化 (1.4-1.6倍高速化見込み)
Phase 1の学習速度最適化を実装。PyTorch 2.x最新機能とSuper-MASを統合し、
V100環境で1.4-1.6倍の学習速度向上を見込む。
## 主要な変更
### 1. torch.compile() サポート ⭐⭐⭐⭐⭐
- `__main__.py`: `--compile` フラグ追加
- mode="reduce-overhead", dynamic=True でVITS動的制御フローに最適化
- 期待効果: 20-50%高速化（V100でFP32: 15-30%見込み）
- 初回エポックはコンパイルオーバーヘッドあり（2エポック目から高速化）
### 2. Fused AdamW Optimizer ⭐⭐⭐⭐
- `lightning.py`: Generator/Discriminator両方のoptimizerに `fused=True` 追加
- optimizer step段階で21-293%高速化、全体で5-15%改善
- CUDA専用（CPUでは自動的に通常AdamWにフォールバック）
### 3. Super Monotonic Alignment Search (Super-MAS) ⭐⭐⭐⭐⭐
- `models.py`: `super_monotonic_align.maximum_path` に切り替え
- Triton kernelでGPU上完結（CPU-GPU転送なし）
- MAS部分で10-72倍高速化（極端な長文で72倍、平均10-20倍）
- バイリンガルデータセット（平均phoneme_ids ~200-300）では5-10%改善見込み
### 4. DataLoader num_workers デフォルト変更
- `lightning.py`: デフォルトを1→0に変更（メモリ安全性優先）
- ユーザーは `--num-workers N` で2-4に段階的に増やせる（5-15%高速化）
- メモリクラッシュリスクを考慮し、保守的なデフォルト値を採用
### 5. ベンチマークスクリプト
- `benchmark_optimizations.sh`: Baseline/Phase1/Phase2の性能比較スクリプト追加
- 5 epoch × 3構成で1-2時間でベンチマーク実行可能
### 6. WandB Audio Logging改善
- `lightning.py`: `_load_test_dataset()` メソッド追加
- 混合テキスト (language_id=-1) の自動phonemization対応
- バイリンガルモデルでのJA/EN/混合テストサンプル生成をサポート
## 期待される効果
- **現状**: 0.45-0.71 it/s (V100 4GPU, FP32, WavLM無効)
- **Phase 1後**: 0.63-1.14 it/s (1.4-1.6倍高速化)
- **200 epoch学習時間**: 2.7日 → 1.7-1.9日
## 使用方法
```bash
# Super-MASインストール（初回のみ）
pip install super-monotonic-align
# torch.compile有効化（Fused AdamW/Super-MASは自動適用）
uv run python -m piper_train \
--dataset-dir /data/piper/dataset-bilingual-ja-en \
--compile \
--num-workers 0 \
... その他のパラメータ
```
## 注意事項
- torch.compile()はPyTorch 2.0以降が必要
- Fused AdamWはCUDA専用（CPUでは自動フォールバック）
- Super-MASは `pip install super-monotonic-align` が必要
- num_workersを増やす場合は2→4で段階的に（8以上は避ける）
## 参考資料
- Super-MAS: https://arxiv.org/html/2409.07704v1
- PyTorch 2.x: https://pytorch.org/get-started/pytorch-2-x/
- Fused Optimizers: https://docs.pytorch.org/docs/stable/optim.html
Co-Authored-By: Claude Sonnet 4.5 <noreply@anthropic.com>
* feat: prepare_bilingual_dataset.pyに並列オーディオキャッシング追加
バイリンガルデータセット準備時のオーディオ正規化・スペクトログラム生成を
並列化し、大幅な前処理速度向上を実現。
## 主要な変更
### Phase 1/2分離アーキテクチャ
- **Phase 1**: Phoneme remapping（シングルスレッド、高速）
- **Phase 2**: Audio normalization（並列処理、ボトルネック解消）
### 並列オーディオキャッシング
- `ProcessPoolExecutor`で複数ワーカーによる並列処理
- 既存キャッシュの再利用（audio_norm.pt + spec.pt）
- SHA256ハッシュによる一意なキャッシュID生成
### 新規パラメータ
- `sample_rate`: サンプリングレート（デフォルト22050）
- `cache_dir`: キャッシュディレクトリパス
- `workers`: 並列ワーカー数（デフォルト1、推奨4-8）
## 期待される効果
- **大規模データセット**: workers=8で3-5倍の前処理速度向上
- **小規模データセット**: キャッシュ再利用で再実行がほぼ瞬時に完了
- **メモリ効率**: ProcessPoolで独立プロセス、メモリリークなし
## 使用方法
```bash
uv run python prepare_bilingual_dataset.py \
--ja-dataset /path/to/ja.jsonl \
--en-input-dir /path/to/ljspeech \
--output-dir /path/to/output \
--sample-rate 22050 \
--workers 8
```
## 後方互換性
- 既存の呼び出しコードは引き続き動作（workersのデフォルトは1）
- キャッシュディレクトリ構造は変更なし
Co-Authored-By: Claude Sonnet 4.5 <noreply@anthropic.com>
* fix: gin_channelsバグ修正 + monotonic_alignインポート修正 + 回帰テスト追加
- __main__.py: gin_channels自動設定の条件を "not in dict_args" から
dict_args.get("gin_channels", 0) == 0 に修正（argparse default値対応）
- models.py: super_monotonic_align（PyPI未公開）を
ローカルCythonモジュール monotonic_align に戻す
- test_model_config.py: 上記2修正の回帰防止テスト6件を
src/python/tests/ に追加（CI検出対応、@pytest.mark.unit付き）
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix: CIでtorch未インストール時にtest_models_module_importableをスキップ
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix: Windowsでmonotonic_align未ビルド時にテストをスキップ
Cython拡張がビルドされていない環境(Windows CI等)で
test_models_module_importableが失敗する問題を修正。
importorskip + ImportErrorキャッチでgracefulにスキップ。
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* style: ruff lint/format修正でCI greenに
- isort (I001): import順序・空行修正 (5ファイル)
- F401: 未使用import `os` 削除 (lightning.py)
- UP015: `open('r')` → `open()` 簡略化 (lightning.py)
- ruff format: コード整形 (7ファイル)
- per-file-ignores: E402 (__main__.py, export_onnx.py), PLC0415 (lightning.py)
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* style: prepare_bilingual_dataset.pyのruff lint/format修正
- 未使用import削除 (sys, numpy)
- 関数内importをtop-levelに移動 (hashlib, piper_train.*)
- ProcessPoolExecutorワーカー内のimportはnoqa: PLC0415で除外
- zip()にstrict=True追加
- 未使用ループ変数countを_countにリネーム
- ruff formatでコード整形
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix: PR #218 Copilotレビュー指摘のバグ3件を修正
- export_onnx.py: dummy_inputとinput_namesの条件分岐を一致させる（単一話者/言語モデルでNoneが渡される問題）
- lightning.py: AdamW fused=TrueをCUDA有無で切り替え（CPU環境でTypeError）
- bilingual_id_map.py: ENGLISH_PHONEMESの重複 "'" を削除
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* docs: 学習高速化の実装に合わせてドキュメント更新
- CLAUDE.md: 「学習高速化」セクション追加、学習コマンドから
--num-workers 0 --no-pin-memory 削除、トラブルシューティング更新
- training-guide.md: num-workersデフォルト値修正(2)、Validation制御セクション追加
- multi-gpu-training.md: DDP設定を実装と一致させる
(find_unused_parameters=True、static_graph=--no-wavlm時のみ)
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix: static_graph=True を削除し GAN学習の DDP 設定を修正
VITS GAN では Generator step で Discriminator パラメータが未使用、
Discriminator step では Generator パラメータが未使用となるため、
毎ステップでグラフが変わる GAN 構造には static_graph=True は物理的に不可能。
static_graph=True を削除済みの __main__.py に合わせてテストを修正。
- test_ddp_strategy.py: static_graph=True 前提テストを削除し、
「static_graph が _ddp_kwargs に存在しない」ことを検証するテストに差し替え
- CLAUDE.md: DDP static_graph 行を実態に合わせて更新
(static_graph=True → find_unused_parameters=True + gradient_as_bucket_view=True)
Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
* fix: on_validation_epoch_end を rank 0 のみで実行し NCCL デシンクを防止
全 GPU (rank 0-3) で WandB audio logging を実行すると、WandB の
ネットワーク I/O がバックグラウンドスレッドを占有し、後続の学習ステップの
NCCL ALLREDUCE がタイムアウトする問題を修正。
is_global_zero ガードを追加し rank 0 のみで audio logging を実行することで
他ランクとの NCCL デシンクを防ぐ。
Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
* fix: on_validation_epoch_end に DDP barrier を追加し NCCL タイムアウトを根本修正
【問題】
マルチGPU DDP 学習で on_validation_epoch_end() の WandB audio logging が
NCCL ALLREDUCE タイムアウト（30分）を引き起こし学習がクラッシュしていた。
rank 0 が WandB アップロード中に Lightning が ranks 1-3 を次 training step
へ進め、rank 0 が ALLREDUCE に参加できなくなるのが原因。
【修正】
- on_validation_epoch_end() の early return を廃止し is_global_zero ブロックで囲む
- 関数末尾に torch.distributed.barrier() を追加し全ランクを同期してから次 epoch へ
【運用】
現在の enhanced-fixed 200epoch 学習は --audio-log-epochs 0 で安定性優先。
次回 run から --audio-log-epochs 5 で audio logging を再有効化する。
Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
* feat: --validate-cache オプションとアトミック書き込みで破損キャッシュを防止
- dataset.py: PiperDataset に validate_cache パラメータを追加
- _validate_cache_files() で起動時に .pt ファイルを検証
- 破損・欠損ファイルのエントリを除外してログに記録
- lightning.py: --validate-cache CLI フラグを追加、_load_datasets() に伝播
- norm_audio/__init__.py: _atomic_torch_save() で torch.save をアトミック化
- tempfile + os.replace (POSIX 原子操作) でクラッシュ時の破損を防止
Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
* refactor(export_onnx): EMA常時適用 + stochasticをデフォルト有効化
- --use-ema / --no-ema フラグを廃止し、EMAをチェックポイントに
存在する場合は常時自動適用するよう変更（なければスキップ）
- --stochastic を BooleanOptionalAction + default=True に変更し、
--no-stochastic でのみ無効化できる形に統一
- ログ出力から ema: True/False の表示を削除
- CLAUDE.md のONNX変換コマンド例とオプション表を更新
これにより「何も考えずに実行すれば最良のモデルが出力される」状態になる。
Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
* feat: バイリンガル日本語イントネーション改善 v2
## Phase 1: EN マルチスピーカー対応 (prepare_bilingual_dataset.py)
--en-input-dir ブロックで multi_speaker=False を強制していた箇所を修正。
- multi_speaker=not args.en_single_speaker (フラグで制御)
- max_speakers=args.max_en_speakers (話者数上限を適用)
LibriTTS-R を --en-input-dir に指定すれば最大20話者として処理可能。
バッチ内 EN 比率: ~4.8% (1話者/21) → ~50% (20話者/40) に改善。
## Phase 2: TextEncoder 言語 conditioning (Fix A) + EN prosody マスク (Fix B) (vits/models.py)
### Fix A: TextEncoder に gin_channels / cond_layer を追加
- TextEncoder.__init__ に gin_channels=0 パラメータ追加
- gin_channels != 0 のとき cond_layer = Conv1d(gin_channels, hidden_channels, 1) を作成
- forward(x, x_lengths, g=None) — encoder 出力後に x += cond_layer(g) で言語conditioning注入
- SynthesizerTrn.forward/infer で g を enc_p 呼び出し前に計算し enc_p(x, x_lengths, g=g) に変更
これにより TextEncoder がピッチの枠組みを言語に応じて調整し、JA アクセントの崩壊を防ぐ。
### Fix B: EN prosody を Duration Predictor で無視
- _prepare_prosody_input(x, x_mask, prosody_features, lid=None) に lid パラメータ追加
- EN (lid=1) のバッチ要素の prosody_features をゼロにマスク
- EN の prosody_features は全て a1=0 のダミー値のため、JA Duration Predictor の学習汚染を防ぐ
## Phase 2b: export_onnx.py の lid 伝播
infer_forward() の _prepare_prosody_input() 呼び出しに lid=lid を追加。
## その他 (事前変更分)
- __main__.py: --val-every-n-epochs / --limit-val-batches 追加、gin_channels デフォルト 768→512
- test_model_config.py: gin_channels=512 に合わせてテスト更新、CLI引数テスト追加
Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
* fix(prepare_bilingual): --ja-already-bilingual フラグで enhanced-fixed 対応
enhanced-fixed のような「すでにバイリンガル処理済み」データセットを
--ja-dataset に指定した場合の 2 つの問題を修正:
1. process_ja_dataset() が JA/EN 両エントリを処理しようとし、
EN 固有 phoneme (ID 65-96) が JA id_map で見つからず警告が出ていた
2. _add_inter_phoneme_padding() を二重適用するとダブルパディングになる
--ja-already-bilingual フラグを追加:
- language_id==0 (JA) エントリのみ抽出
- phoneme_ids / prosody_features はそのまま使用 (リマップ・パディング不要)
- audio_norm_path / audio_spec_path を直接読み取り (キャッシュ生成スキップ)
- _process_ja_from_bilingual_dataset() ヘルパー関数として分離
データセット生成結果 (dataset-bilingual-ja-en-v2):
- JA: 20話者, 60,148発話 (speaker_id 0-19)
- EN: 20話者, 3,177発話 (speaker_id 20-39, LibriTTS-R 上位20話者)
- 合計: 40話者, 63,325発話
- SpeakerBalancedSampler でバッチ EN 比率 50% を達成
Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
* feat: dataset-bilingual-ja-en-v3 (848話者/174h) + 言語グループ均等サンプリング + エネルギーVAD高速化
- JA 60,148発話 (20話者) + EN 55,647発話 (LibriTTS-R 828話者) = 115,795発話 / 174h
- JA:EN ≈ 49:51 (時間ベースでほぼ均等)
- --min-en-utterances-per-speaker 30 で極小話者を除外 (1,133→828話者)
- SpeakerBalancedBatchSampler に language_group_balance パラメータ追加
- v3 では EN 828話者 vs JA 20話者のため必須 (なしでは JA がバッチの 2.4% のみ)
- バッチを JA グループ 50% / EN グループ 50% に固定
- Silero ONNX VAD を numpy vectorized エネルギーVAD に置き換え
- 単体: ~390ms/file → ~8ms/file (49x)、並列: 1.5→37.5 files/s (25x)
- LibriTTS-R は先頭無音ほぼゼロのため Silero VAD 不要と実証
- cache_norm_audio_fast() + _cache_audio_batch_worker_fast() (batch=50) を追加
- --max_epochs 350 (phonemeフィルタ後 en_min=16 による epoch 短縮を補填)
- --language-balanced-sampling で JA 品質を保護
Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
* docs: v3学習完了・つくよみちゃんv3ファインチューニング開始 (2026-02-27)
- fix(preprocess): piper_phonemize インポートを try/except でラップ
bilingual/Japanese モードで piper_phonemize 未インストール環境でも動作するよう修正
- feat: dataset-tsukuyomi-finetune-v3 作成 (100発話/1話者/97シンボル)
- feat: つくよみちゃん v3ベースモデルファインチューニング開始
strict=False で emb_g をスキップし全重み転移 (500 epoch / lr=2e-5)
- docs(CLAUDE.md): v3 350epoch完了・つくよみちゃんファインチューニング状態を反映
Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
* feat: v3 ONNX完了・つくよみちゃんv3完了・転移学習API改善
- export_onnx: シングル話者マルチリンガルで sid=0 を正しく渡すよう修正
(num_speakers=1 かつ num_languages>1 の場合に sid を追加)
- __main__: --resume_from_single_speaker_checkpoint の cond 層削除バグ修正
(dec.cond/dp.cond/enc.cond_layer は gin_channels=512 で形状一致のため除外不要)
- __main__: --resume-from-multispeaker-checkpoint フラグ追加
(Multi→Single 転移専用: strict=False ロード + emb_g 平均補正 + emb_lang[1] 初期化)
- docs: CLAUDE.md を最新状態に更新
(v3 ONNX 76MB 完了/つくよみちゃん 500ep 完了/emb_lang[1]修正/推論コマンド更新)
Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
* docs: v4データセット作成完了をCLAUDE.mdに反映
- ステータスをv4データセット作成完了・学習待ちに更新
- v4統計: 135,060発話 / 330話者 / ~170h / EN per-speaker 17.8分
- v4 vs v3 vs v2 vs enhanced-fixed 4バージョン比較表追加
- v4学習コマンド追加
- TODOにv4学習・ONNX変換・ファインチューニング項目追加
- LibriTTS-Rソースデータ情報追加
- prepare_libritts_parallel.pyをツール一覧に追加
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix(ci): resolve ruff lint and format errors
- E741: rename ambiguous variable `l` to `last` in energy_vad_numpy
- PLC0415: add noqa for lazy soxr import in cache_norm_audio_fast
- I001: add blank line to fix import block sorting in preprocess.py
- Apply ruff format to 7 files for consistent formatting
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix(ci): apply ruff format to prepare_bilingual_dataset.py
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix(ci): graceful skip for tests requiring training dependencies
- test_ddp_strategy.py: move pytorch_lightning import inside test
functions with pytest.importorskip (was top-level, causing
collection error on CI without PyTorch)
- test_model_config.py: add try/except with pytest.skip in
_parse_main_args for missing pytorch_lightning or monotonic_align
- Remove unused imports (patch, main) flagged by ruff
Tests now auto-skip in environments without the full training stack
instead of crashing at collection time.
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix(ci): guard test_ddp_strategy against missing monotonic_align.core
Wrap piper_train.__main__ import in try/except to gracefully skip
on Windows where the Cython monotonic_align extension is not built.
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* docs: PR #218 CI修正の記録を追加
- 次のステップにCI修正完了を追記
- 実装済み機能にCI修正セクション追加
- 関連PR/IssueテーブルにPR #218追加
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* feat: auto-enable language-balanced sampling when speaker ratio >= 3:1
When --language-balanced-sampling is not explicitly specified, automatically
enable it if the speaker count ratio between languages is >= 3:1. This
prevents the common pitfall where JA gets only ~6% of batch samples in
bilingual datasets (e.g., v4: 310 EN vs 20 JA speakers).
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* docs: v4学習完了+つくよみちゃんv4ファインチューニング完了の記録を追加
- v4 bilingual: 150 epoch / ~46時間 / 269,700 steps完了
- つくよみちゃん v4: 500 epoch / チェックポイント変換方式で追加学習
- 学習コマンドを実際のパラメータに更新 (150ep, checkpoint-epochs 5)
- モデル一覧にv4 ONNX + tsukuyomi-v4.onnx追加
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* feat: add --freeze-dp to freeze Duration Predictor during fine-tuning
ファインチューニング時にDuration Predictorのcatastrophic forgettingを防止。
optimizer stateリセットによるDP劣化（dur_sum 190→64）を凍結で回避し、
decoder（声質）のみ学習可能にする。
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* docs: freeze-dp再FT結果の記録+ドキュメント整合性修正
- つくよみちゃんv4 freeze-dp再FT完了の結果を記録（音声長1.11s→1.76s改善）
- モデル一覧にtsukuyomi-v4-freeze-dp.onnxを追加
- TODO番号の重複修正（18番が2つ→18,19に修正）
- 学習高速化セクションのテスト数を19→24に修正
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* feat: auto-enable --freeze-dp for multispeaker→single-speaker transfer
--resume-from-multispeaker-checkpoint 使用時に --freeze-dp を自動有効化。
マルチ→シングル話者転移では常にDP凍結が必要なため、明示指定を不要にした。
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix: preserve emb_lang[1] (EN) in multispeaker→single transfer
emb_lang[1] を emb_lang[0] (JA) でコピー上書きしていたため、
凍結された DP が EN conditioning を認識できず英語 duration が崩壊していた。
元の EN embedding + emb_g_mean 補正を保持する方式に変更。
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* docs: つくよみちゃん v4 emb-lang-fix 再FT完了の記録
- TODO項目18追加: emb-lang-fix 再FT (500ep, --resume-from-multispeaker-checkpoint)
- 比較表にemb-lang-fixモデル追加 (JA 1.23s / EN 0.70s / 混合 0.71s)
- 2段階方式ワークフロー確立: 学習中EN保持→後処理JA→ENコピー
- 学習済みモデル一覧に tsukuyomi-v4-emb-lang-fix.onnx 追加
- HuggingFaceアップロード対象にemb-lang-fixモデル追加
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* feat: add multilingual phonemizer support for 6 languages (JA/EN/ZH/ES/FR/PT) (#219)
* feat: add multilingual phonemizer support (ZH/KO/ES/PT/FR)
Generalize BilingualPhonemizer (JA+EN) to MultilingualPhonemizer
supporting N languages. Add 5 new GPL-free language phonemizers:
- Chinese (pypinyin, MIT) with tone markers and compound finals
- Korean (g2pk2, Apache-2.0) with Hangul decomposition and IPA
- Spanish (rule-based, no deps) with seseo and allophonic rules
- Portuguese-BR (rule-based, no deps) with nasal vowels
- French (rule-based, no deps) with nasal vowels and liaison
Architecture changes:
- BilingualPhonemizer now subclasses MultilingualPhonemizer
- UnicodeLanguageDetector for JA/ZH/KO/Latin disambiguation
- N-language balanced sampling in SpeakerBalancedBatchSampler
- Prosody zeroing generalized via prosody_language_ids set
- Registry auto-creates combo phonemizers (e.g. "ja-en-zh-ko")
- preprocess.py and infer_onnx.py support N-language codes
96 new tests, all passing. Full backward compatibility with ja-en.
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix: address all G2P review findings across 6 languages + architecture
Chinese: fix üan→yɛn mapping, add T3+T3 tone sandhi, digit pass-through
Korean: catch AttributeError (mecab missing), cache G2p instance, add sentinel
Spanish: fix stress marker for qu/gu words via _segment_graphemes(), fix sc+e/i,
gü allophony, digraph-aware syllabification, remove duplicate ñ handler
Portuguese: add t/d palatalization, unstressed vowel reduction, coda-l→w,
fix nasal duplication, stress tracking for ou/qu/gu, nh nasalization, ens rule
French: add intervocalic s→z, -er verb ending, context-aware x handling,
fix final consonant silencing, produce ɥ semi-vowel, aille/eille/ouille/ille,
fix stion handling
Architecture: strip question markers in multilingual context, fix fullwidth
Latin classification, deduplicate infer_onnx language detection via
UnicodeLanguageDetector, extract shared post_process_ids into Phonemizer
base class, reduce preprocess.py duplication
21 files changed, +1814/-664 lines, 432 tests passing
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix: deep review round 2 — G2P accuracy and architecture improvements
Token infrastructure:
- Add rr (0xE01D), y_vowel (0xE01E) to FIXED_PUA_MAPPING for deterministic IDs
- Apply NFC normalization in multilingual_id_map to prevent combining-diacritics mismatches
Architecture:
- Set language_id in preprocess via UnicodeLanguageDetector (was always None/0)
- Canonicalize language order in registry (en-ja == ja-en)
- Fall back to default language for neutral-only text (digits, URLs)
- Make prosody_language_ids a configurable constructor parameter
- DRY: replace duplicate _detect_dominant_language with cached _DominantLanguageDetector
Chinese: ɑɻ→ɚ, y→y_vowel collision fix, 一/不 tone sandhi, erhua (儿化音)
Korean: broaden g2p exception handling for resilience
Spanish: hiatus for accented weak vowels, xc+e/i double-/s/ fix,
spirantization conditions (stop only word-initial/post-nasal), function word stress
French: restrict -er to polysyllabic, apostrophe normalization, open ɔ,
gu+i/euille/eil patterns, e→ɛ/ə heuristic, yn/ym→ɛ̃, y→y_vowel, add ɔ/ɲ/ʁ/œ
Portuguese: coda-r→ʁ (non-intervocalic), nasal coda suppression,
tʃ/dʒ single tokens, add ʎ/ʁ to id_map
English: cache G2p() at module level (27,000x speedup)
292 tests pass (215 multilingual + 77 existing).
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* docs: add multilingual dataset plan and preparation script
- Add docs/multilingual-dataset-plan.md: comprehensive 6-language dataset
plan (JA/EN/ZH/ES/FR/PT) with dataset selection, licensing analysis,
disk budget, speaker/language ID allocation, and download commands.
Korean excluded due to CC-BY-NC-SA license incompatibility.
- Add prepare_multilingual_dataset.py: script to merge existing JA+EN v4
dataset with AISHELL-3 (ZH) and CML-TTS (ES/FR/PT) corpora.
Bilingual phoneme IDs (0-96) are 100% compatible with multilingual space.
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix: preprocessing optimizations and test suite fixes for multilingual pipeline
- Add preprocessing optimizations: VAD skip for pre-cleaned corpora,
AISHELL-3 pinyin shortcut (~29x faster), batched phonemization workers,
soxr MQ resampling, optional GPU batch spectrogram
- Fix ES/FR/PT phonemizers missing map_sequence() PUA encoding for
multi-char tokens (rr, tʃ, ɑ̃, etc.)
- Update tests for PUA-encoded output (ES rr→\ue01d, FR nasal vowels)
- Remove unimplemented JA marker tests (& % * | { @, extract_prosody_fields)
- Fix pytest.ini: ignore FutureWarning (PyTorch 2.10 weight_norm deprecation)
- Fix ONNX export tests: dynamo=False + skip on PyTorch incompatibility
- Fix sampler shuffle test: add set_epoch() for epoch-based seed
- Fix stress test: reduce input size + skip on pyopenjtalk crash
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix: deep review round 3 — critical G2P bugs across 6 languages
ZH: fix 一 (yi) tone sandhi dead code — _normalize_pinyin("yi")→"i"
but sandhi checked "yi"; now matches normalized form "i"
KO: ㅚ updated from monophthong [ø] to modern diphthong [we]
ES: ü diaeresis no longer treated as stress accent (bilingüe fix)
ES: b/g after lateral l now produce stop [b]/[ɡ] (matching d behavior)
FR: -er exception list for hiver/enfer/amer/cancer etc
FR: i before word-final silent e stays /i/ (vie, amie), not /j/
FR: double rr produces single /ʁ/ (terre, guerre)
PT: sc digraph before e/i → single /s/ (piscina fix)
PT: coda-l vocalization works before multi-char affricates tʃ/dʒ
Arch: _RE_LATIN excludes × (U+00D7) and ÷ (U+00F7)
Arch: _last_eos thread-safety documented
All 509 tests pass, 24 skipped.
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix: deep review round 3 — edge case bugs in ZH/KO/ES phonemizers
- ZH: fix pypinyin index misalignment with mixed Chinese+Latin/digit text
(pypinyin groups non-Chinese chars into single entries; iterate by text
char index instead of py_result index)
- KO: add NFC normalization for NFD-decomposed Hangul jamo input
- ES: add xc digraph to _segment_graphemes() for stress marker alignment
- Add regression tests for all 3 fixes (6 new test cases)
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* perf: preprocessing pipeline optimizations — energy VAD, numpy arrays, ES dedup
1. preprocess.py: Add --energy-vad (default: enabled) to use cache_norm_audio_fast()
instead of Silero ONNX VAD. ~50x faster audio caching (~390ms → ~8ms per file).
Use --no-energy-vad to fall back to Silero VAD.
2. dataset.py: Convert prosody_features and phoneme_ids from Python lists to numpy
arrays (int16) at load time. Memory reduction: ~2.8GB → ~270MB for 135K utterances.
- prosody_features: list[dict|None] → np.ndarray (shape: N×3)
- phoneme_ids: list[int] → np.ndarray (dtype: int16)
- torch.from_numpy() for zero-copy tensor conversion in __getitem__
3. spanish.py: Eliminate redundant _segment_graphemes() calls (5→1 per word) and
_find_syllable_boundaries() calls (3→1 per word) by precomputing in _g2p_word()
and passing results via keyword arguments.
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix: generalize hardcoded ja-en references for N-language support
- lightning.py: Build WandB language_map dynamically from config's
language_id_map instead of hardcoded {0: "ja", 1: "en"}
- __main__.py: Update --resume-from-multispeaker-checkpoint help text
to be language-agnostic (no longer references specific JA/EN slots)
- __main__.py: Generalize emb_lang preservation comments to describe
N-language behavior instead of JA/EN specific behavior
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix: add missing punctuation to ES/FR/PT phoneme ID maps
¡ ¿ (ES), — – … « » (FR/PT) were output by phonemizers but missing
from ID maps, causing silent drops during phoneme→ID conversion.
Adds 7 new symbols (IDs 153-166), total 166→173. Existing IDs unchanged.
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix: SpeakerBalancedBatchSampler __len__ use total usable samples instead of min
The old __len__ used min(speaker_utterances) per language, causing
severe underestimation when some speakers have few utterances (e.g.,
PT 8 speakers × 37 utt → __len__=36). The actual __iter__ continues
as long as enough speakers remain available, yielding ~15K batches.
New calculation sums all usable samples per language, matching __iter__
behavior (error < 0.05%).
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* docs: update CLAUDE.md for multilingual 6-language support
- Update branch name to feat/multilingual-phonemizer
- Add multilingual dataset specs (508K utterances, 571 speakers, 173 symbols, 6 languages)
- Add 6-language training command and hyperparameters
- Document new phonemizer files (ZH/KO/ES/PT/FR)
- Add SpeakerBalancedBatchSampler __len__ fix documentation
- Update TODO with multilingual milestones
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix: DDP batch count alignment and short audio padding
- SpeakerBalancedBatchSampler: collect all batches first, then truncate
to world_size multiple so all DDP ranks get the same batch count
(fixes NCCL ALLREDUCE timeout at epoch boundary)
- slice_segments: zero-pad when audio is shorter than segment_size
instead of crashing with tensor size mismatch
- rand_slice_segments: clamp ids_str_max to min=1 to prevent negative
index when audio < segment_size
- random_split: use explicit Generator(seed) for deterministic
train/val split across DDP ranks
- WandB audio logging: fix NameError on 'config' variable
Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
* fix: auto-promote to multilingual phonemizer for intersperse padding
When using --language ja (or other single language) with a multilingual
model, the JapanesePhonemizer's no-op post_process_ids skipped the
intersperse padding that the model was trained with. This caused the
model to receive 22 phoneme IDs instead of 75, producing garbled and
compressed Japanese audio.
Now text_to_phoneme_ids_and_prosody() detects multilingual models via
language_id_map and auto-promotes to MultilingualPhonemizer, which
correctly adds intersperse padding. JA-only models are unaffected since
they have no language_id_map.
* test: add intersperse padding regression tests (19 tests)
Prevent regression of the JA pronunciation bug where
JapanesePhonemizer's no-op post_process_ids skipped intersperse
padding for multilingual models.
test_multilingual_inference.py (11 tests):
- Auto-promotion adds padding for JA in multilingual context
- No promotion without language_id_map (JA-only models)
- No promotion with single-language map
- EN always has padding regardless of context
- Combo codes (ja-en) not double-promoted
- phoneme_ids/prosody_features alignment for JA, EN, JA-only
- All IDs within valid range for JA, EN, JA-only
test_intersperse_padding.py (8 tests):
- Intersperse pattern verified for all 6 languages (JA/EN/ZH/ES/FR/PT)
- JA-only mode correctly has NO intersperse padding
- Padded/unpadded length ratio ~2x
* fix: skip padding after pause tokens and restrict auto-promote to JA only
Two inference bugs fixed:
1. Pause token padding mismatch (88% of JA entries affected):
post_process_ids() inserted pad after pause tokens (ID 0), but
training data (_add_inter_phoneme_padding) skipped padding after
existing pads. Each pause shifted all subsequent phoneme IDs.
2. Latin language misrouting (ES/FR/PT 100% affected):
Auto-promotion to MultilingualPhonemizer caused UnicodeLanguageDetector
to route all Latin-script text to English phonemizer. Now only JA is
auto-promoted (other languages already get correct padding from base
class post_process_ids).
Added 6 regression tests: triple-0 detection, consecutive-zero limit,
ES/FR/PT correct phonemizer routing, ES-vs-EN phoneme divergence.
* fix: explicit checkpoint directory and add ghapi dependency
* fix: move freeze_dp auto-enable before model creation
freeze_dp was set after VitsModel() construction, so
save_hyperparameters() captured freeze_dp=False. This caused
configure_optimizers() to skip DP freezing entirely during
multispeaker→single-speaker transfer.
Move the auto-enable logic before model creation so freeze_dp=True
is included in dict_args and properly saved in hparams.
Also add gin_channels condition for num_languages>1 consistency.
* docs: update CLAUDE.md for 6lang training completion and tsukuyomi fine-tuning
* docs: update CLAUDE.md for 6lang-v2 fine-tuning, freeze_dp fix, emb_lang post-processing
---------
Co-authored-by: Claude Opus 4.6 <noreply@anthropic.com>
* fix: rebase後のvalidate_cache引数修正 + --limit-train-batches CLI追加
- PiperDataset.__init__にvalidate_cacheパラメータを追加（リベースで欠落）
- --limit-train-batches CLIオプション追加（テスト用にバッチ数を制限）
- 4GPU 100ステップのテスト学習で動作確認済み
* fix: Copilot PR #218 レビュー指摘対応 (10件)
- export_onnx: dummy_input/input_names条件を統一し入力数不一致を防止
- export_onnx: enc_pにg(conditioning)を渡しcond_layerをONNXに反映
- __main__: torch.compileをLightningModule全体→サブモジュール(model_g/d)に限定
- lightning: Utterance型をintで統一 (LongTensorではなく)
- lightning: config.json読み込みをループ外に移動しI/O削減
- registry: _detect_default_latin()のフォールバックをlanguages内に限定
- multilingual: default_latin_language未サポート時のバリデーション追加
- bilingual_id_map: ENGLISH_PHONEMESの"?"重複を削除
- infer_onnx: _cache型アノテーションをtuple[tuple[str,int],...]に修正
- multi-gpu-training.md: 実装にないstatic_graph記述を削除
* fix: CI failures — ruff lint, test graceful skip, __getitem__ thread safety
- prepare_multilingual_dataset.py: fix I001 import sorting, B007 unused loop var
- preprocess.py: add noqa F821 for SileroVoiceActivityDetector type annotation
- dataset.py: remove __getitem__ pop(idx) mutation for thread safety (num_workers>0)
- test_dataset_getitem.py: add pytest.importorskip("torch"), use FileNotFoundError
- test_multilingual_inference.py: skip EN tests when NLTK tagger data unavailable
* style: apply ruff format to all tracked source files
Run `ruff format` (v0.12.5) across all src/python/ files to match
CI's `ruff format --check` requirement.
* feat: replace test model with CSS10 6-lang fine-tuned model
Replace ja_JP-test-medium.onnx with a model fine-tuned from the
6-language base model using CSS10 Japanese dataset (6,841 utterances).
The new model supports 173 symbols (multilingual) instead of 65
(JA-only), matching the multilingual training pipeline.
* refactor: rename test models to multilingual-test-medium
- Rename ja_JP-test-medium.onnx → multilingual-test-medium.onnx
(CSS10 fine-tuned from 6-lang base, 173 symbols)
- Remove test_voice.onnx (old English-only espeak model)
- Update all 55 files referencing old model names
* fix: clean up stale dual-model references after consolidation
- deploy-huggingface.yml: merge duplicate JA/EN copy blocks into single
multilingual model block
- deploy-webassembly-demo.yml: remove duplicate CRITICAL_MODELS entry
- huggingface-space: consolidate two model entries into one multilingual
- simple-multilingual.html: use single model for all languages instead
of conditional en_US-test-medium fallback
- multilingual.html: update EN button to use multilingual-test-medium
- prepare-english-model.sh: simplify to verify multilingual model exists
- Remove stale en_US-test-medium references from .gitignore, README, TESTING
* fix: remove old model files from huggingface-space and wasm directories
Remove 10 stale model files (ja_JP-test-medium, en_US-test-medium,
test_voice) from huggingface-space/models/ and src/wasm/openjtalk-web/models/.
Replace with multilingual-test-medium.onnx in both directories.
Add .gitignore to huggingface-space to prevent future stale model commits.
Fix en_US-test.onnx references in test_webui.py.
* fix: update stale model references and hardcoded language fallback
- docs/cli-enhancements.md: ja_JP-test.onnx → multilingual-test-medium.onnx
- lightning.py: replace hardcoded {0:"ja",1:"en"} fallback with dynamic
lang map derived from num_languages hparam (supports 6-lang models)
* fix: add multilingual model support to C++ and Python runtimes
- C++ piper: add MultilingualPhonemes type using OpenJTalk phonemization
with intersperse padding, add lid (language ID) tensor support
- Python runtime: add MULTILINGUAL to PhonemeType enum, handle in
phonemize/phonemes_to_ids/synthesize_ids_to_raw with lid support
- ruff format: fix 3 files (app.py, download_models.py, lightning.py)
* fix: add eSpeak fallback for multilingual models when OpenJTalk unavailable
C++ and Python runtimes now fall back to eSpeak with "en" voice when
OpenJTalk is not available for multilingual models. This fixes CI tests
that run in environments without OpenJTalk installed.
Also fixes ruff format for voice.py.
* fix: initialize eSpeak for multilingual models and add prosody_features
- main.cpp: initialize eSpeak when phoneme type is MultilingualPhonemes
(needed for eSpeak fallback when OpenJTalk is unavailable)
- voice.py: provide zero-filled prosody_features tensor when the ONNX
model requires it (multilingual model trained with --prosody-dim 16)
* fix: correct lid tensor rank from 2D to 1D for ONNX model
The multilingual model expects lid as rank-1 tensor (shape [1]),
not rank-2 (shape [1,1]). Remove np.expand_dims wrapper.
* fix: add lid support to Docker inference script for multilingual models
* feat: C++ multilingual G2P — GPL-free 6-language native phonemization (#247)
* feat: add C++ multilingual inference support (Phase 1 — lid tensor + config)
Add language ID (lid) tensor support to C++ inference pipeline, enabling
multilingual ONNX models to run without crashing.
Changes:
- piper.hpp: Add LanguageId type, MultilingualPhonemes enum, languageId
field in SynthesisConfig, numLanguages/languageIdMap in ModelConfig,
hasLanguageInput in ModelSession
- piper.cpp: Parse num_languages/language_id_map from config.json,
detect "lid" ONNX input, construct lid tensor in synthesize() with
correct ordering (sid -> lid -> prosody_features), handle "multilingual"
and "bilingual" phoneme types, add PUA entries for rr/y_vowel
- main.cpp: Add --language/-l CLI option with numeric ID and language
code resolution, JSON input language_id/language support, eSpeak
config for multilingual models, languageId save/restore in main loop
- docs: Add C++ multilingual G2P implementation spec
Backward compatible: monolingual models are unaffected (all new code
is behind conditional guards on numLanguages/hasLanguageInput).
* docs: update C++ multilingual G2P spec — Phase 1 complete
Mark Phase 1 as Done with commit hash, actual line numbers, and
usage examples. Update gap table, phase table, add implementation
details for all 18 change locations. Update Section 4 (ES/FR/PT)
with missing rules from review. Mark ARCH-3 as resolved.
* feat: add UnicodeLanguageDetector and multilingual phonemization (Phase 2)
Add automatic language detection and per-segment phonemization routing
for multilingual ONNX models.
New files:
- language_detector.hpp/cpp: UnicodeLanguageDetector with 6 Unicode
range checks (Kana, CJK, Hangul, FullwidthLatin, JaPunct, Latin),
text segmentation state machine, CJK disambiguation via kana context,
and dominant language detection for lid tensor
Changes:
- piper.cpp: Add MultilingualPhonemes branch in textToAudio() that
segments text by language, routes JA to OpenJTalk and others to
eSpeak with correct voice mappings (en-us, cmn, ko, es-la, fr,
pt-br), strips BOS/EOS from JA segments, tracks dynamic EOS,
sets lid via dominant language detection. Update useProsody and
sentenceBoundary conditions. Add streaming fallback.
- CMakeLists.txt: Add language_detector.cpp to piper and test_piper
Backward compatible: monolingual models are unaffected.
* docs: update spec — Phase 2 complete, gap table and appendix refreshed
- Mark Phase 2 as Done with commit hash and file details
- Expand gap table to show all 10 capabilities with status icons
- Add Section 3.1 listing all implemented Phase 2 features
- Update Section 3.5 with actual implementation details (file paths, line counts)
- Mark ARCH-2 (BOS/EOS double-apply) as resolved in Phase 2
- Update REG-1 scope (Phase 3+ only, no impact on Phase 2)
- Note Phase 2 architecture: language_detector in src/cpp/ (not phonemizer/ subdir)
* feat: add native C++ G2P for Spanish, French, and Portuguese (Phase 3)
Port rule-based phonemizers from Python to C++, replacing eSpeak
fallback for ES/FR/PT with Python-accurate G2P.
New files (6):
- spanish_phonemize.hpp/cpp (782 lines): seseo, yeismo, betacismo,
allophonic b/d/g, syllabification, stress assignment
- french_phonemize.hpp/cpp (1084 lines): nasal vowels (PUA 0xE056-58),
-er/-ille exceptions, silent finals, context-dependent e/o
- portuguese_phonemize.hpp/cpp (893 lines): nasal absorption,
t/d palatalization (PUA 0xE054-55), coda-l vocalization, BR rules
Changes:
- piper.cpp: Route ES/FR/PT to native phonemizers (EN/ZH/KO on eSpeak)
- CMakeLists.txt: Add 3 new source files to piper and test_piper
* feat: add native C++ G2P for English, Chinese, and Korean (Phase 4)
English: CMU dictionary-based G2P (123K words, Apache-2.0)
- ARPAbet→IPA conversion with context rules (AA+R, ER1/0, AH0)
- Function word destressing (89 words)
- OOV fallback to eSpeak
- Runtime dictionary loading from cmudict_data.json
Chinese: pypinyin-based G2P (42K chars + 47K phrases, MIT)
- Pinyin→IPA tables (21 initials, 45 finals)
- Tone sandhi (T3+T3, yi, bu — 4 rules)
- Erhua handling, pinyin normalization (y/w/v)
- Runtime dictionary loading from pinyin_single/phrases.json
Korean: Hangul decomposition G2P (no external data)
- Pure arithmetic decomposition (19×21×28 jamo)
- IPA tables (68 entries) with correct neutralization
- Basic liaison rule (연음화)
- PUA: tense 0xE04B-4F, unreleased 0xE050-52
Integration:
- piper.hpp: Add dictionary fields to Voice struct
- piper.cpp: Route EN/ZH/KO to native phonemizers in multilingual
dispatch, load dictionaries from model directory
- CMakeLists.txt: Add 3 new source files
- eSpeak fallback when dictionaries are not available
Data files (in src/cpp/, loaded at runtime from model directory):
- cmudict_data.json (3.7MB, 123K English words)
- pinyin_single.json (705KB, 42K Chinese characters)
- pinyin_phrases.json (1.9MB, 47K Chinese phrases)
* docs: update spec — all 4 phases complete
Mark Phase 3 and Phase 4 as Done with commit hashes and file details.
Update gap table: all 12 capabilities now have checkmarks.
Update file structure to reflect actual implementation (src/cpp/ flat).
Mark ARCH-1, EN-1, REG-1 as resolved or not applicable.
Add Phase 4 commit info, data file sizes, and line counts.
* fix: address critical review findings for C++ multilingual G2P
- Unify PUA codepoint mappings: add 57 fixed entries to token_mapper.py
covering ZH (43), KO (8), ES/PT (2), FR (3) to match C++ hardcoded values
- Fix Chinese phrase dict parser for nested array format [["yí"],["gè"]]
- Fix Korean liaison IPA remapping with residualFinal for complex finals
- Add LanguageID bounds validation in piper.cpp, main.cpp (CLI/JSON/ONNX)
- Strip BOS/EOS from eSpeak fallback segments in multilingual pipeline
- Warn when multilingual model missing language_id_map
- Prevent dominant language auto-detection from overwriting explicit langId
- Add NFD→NFC combining accent collapse for ES/FR/PT phonemizers
- Fix Portuguese intervocalic x to recognize accented vowels
- Add tʃ/dʒ to Portuguese phoneme inventory, remove unused ø from Korean
- Add warnings for unknown phoneme_type and model without lid input
* fix: add non-JA prosody extraction and EN OOV eSpeak fallback
- Add computeNonJaProsody() for 5 languages (ZH/EN/ES/FR/PT)
- ZH: tone(1-5) from PUA markers → a1, syllable position → a2
- EN/ES/PT: stress markers (ˈ→2, ˌ→1) → a2, word phoneme count → a3
- FR: last vowel in word → a2=2 (final-syllable stress)
- EN OOV fallback: when CMU dict returns empty, fall back to eSpeak
- Replace hardcoded {0,0,0} prosody for non-JA with actual values
- docs: add Section 11 with detailed investigation of M1/M4/M7/M11
* docs: update spec to reflect all completed fixes and investigation results
- Update header with latest commit ref (0f9429e)
- Add EN OOV fallback and non-JA prosody rows to Section 1.1 gap table
- Add Review R1/R2 phases to Section 1.2 phase table
- Add M11 to Section 7.1 summary table, update M4/M7 status
- Add R1/R2 rows to Section 7.3 phase status table
- Rewrite Section 7.4 as clean status matrix (done vs pending)
- Fix Section 8.2 PUA mapping count (31 → 89 entries)
- Update Appendix A priority phases with completion status
- Mark Sections 11.2/11.3/11.4 as resolved with commit refs
- Update Section 11.4 prosody table (all non-JA now show fixed)
- Update Section 11.5 priority matrix with implementation status
* refactor: remove piper-phonemize header dependency from public API
- piper.hpp: replace 3 piper-phonemize #includes with self-contained
type definitions (Phoneme from phoneme_parser.hpp, PhonemeId/PhonemeIdMap
as local typedefs) — binary-compatible with piper-phonemize for linking
- piper.cpp: move piper-phonemize includes here (implementation-only,
not exposed in public header)
- Remove tashkeel (Arabic diacritization) dependency entirely:
- PiperConfig: remove useTashkeel, tashkeelModelPath, tashkeelState
- piper.cpp: remove tashkeel init and runtime code
- main.cpp: remove --tashkeel_model CLI option and auto-enable logic
piper.hpp is now free of piper-phonemize headers. The runtime still
links to piper-phonemize for phonemize_eSpeak() and phonemes_to_ids().
* refactor: replace piper-phonemize/phoneme_ids.hpp with self-contained implementation
- Create src/cpp/phoneme_ids.hpp with self-contained phonemes_to_ids()
function, PhonemeIdConfig struct, and PhonemeId/PhonemeIdMap typedefs
- piper.hpp: include phoneme_ids.hpp instead of phoneme_parser.hpp,
remove duplicate PhonemeId/PhonemeIdMap typedefs
- piper.cpp: replace piper-phonemize/phoneme_ids.hpp with local header
Remaining piper-phonemize dependency: only phonemize.hpp for
phonemize_eSpeak() and phonemize_codepoints() runtime functions.
* feat: remove eSpeak-ng and piper-phonemize runtime dependencies
Complete removal of GPL-licensed eSpeak-ng and piper-phonemize from the
C++ inference pipeline. piper-plus now uses only self-contained, Apache-2.0
compatible G2P for all 6 supported languages (JA/EN/ZH/ES/FR/PT).
piper.hpp:
- Remove eSpeakConfig struct, eSpeakDataPath, useESpeak
- Remove eSpeakPhonemes and TextPhonemes from PhonemeType enum
- Default phoneme type changed to MultilingualPhonemes
piper.cpp:
- Remove #include <espeak-ng/speak_lib.h> and <piper-phonemize/phonemize.hpp>
- Remove espeak_Initialize()/espeak_Terminate() calls
- Remove findEspeakDataPath() (~110 lines)
- Remove eSpeakPhonemes and TextPhonemes dispatch branches
- Replace eSpeak fallbacks with warnings (EN OOV, unknown language)
- Clean up streaming mode to remove legacy code paths
main.cpp:
- Remove --espeak_data CLI option and help text
- Remove espeak-ng.dll/piper_phonemize.dll preloading
- Remove eSpeak path resolution logic
english_phonemize.cpp:
- Add tryMorphologicalFallback() for OOV words (replaces eSpeak fallback)
- Supports -ing, -ed, -s/-es/-ies, -er, -ly/-ily, -est suffix stripping
- Handles consonant doubling (running→run) and 'e' restoration (making→make)
CMakeLists.txt:
- Remove piper_phonemize ExternalProject (no more download/build of eSpeak)
- Remove link_libraries for piper_phonemize and espeak-ng
- Remove include_directories for piper_phonemize
- Remove install commands for espeak-ng data and libtashkeel
- Significant build time reduction
Remaining external C++ dependencies: ONNX Runtime, OpenJTalk, fmt, spdlog
* fix: remove last eSpeak fallback reference from OpenJTalk error path
* test: add 102 tests for C++ multilingual G2P changes
- test_phoneme_ids.py (10 tests): BOS/EOS insertion, inter-phoneme
padding, missing phoneme tracking, multi-ID phonemes, edge cases
- test_morphological_fallback.py (18 tests): EN OOV suffix stripping
for -ing/-ed/-s/-es/-ies/-er/-ly/-est with consonant dedup and
vowel restoration
- test_non_ja_prosody.py (33 tests): prosody extraction for ZH (tone),
EN/ES/PT (stress markers), FR (final-syllable stress), alignment
verification for all 5 languages
- test_pua_mapping_consistency.py (43 tests): validates all 87 entries
in FIXED_PUA_MAPPING with exact codepoints for JA/ZH/KO/ES/PT/FR
* fix: update Docker and test CMake for eSpeak/piper-phonemize removal
- docker/cpp-dev/Dockerfile: remove eSpeak-ng and piper-phonemize build
steps, add ONNX Runtime 1.14.1 direct install
- docker/cpp-dev/test.sh: remove eSpeak-ng library and CLI checks
- src/cpp/tests/CMakeLists.txt: remove piper_phonemize and espeak-ng
from link_libraries and add_dependencies
Verified: C++ build succeeds in Docker without eSpeak/piper-phonemize
(47/47 targets linked, warnings only, no errors)
* fix: add ONNX Runtime ExternalProject for Linux/macOS and clean test.cpp
- CMakeLists.txt: add onnxruntime_external ExternalProject for non-Windows
platforms (downloads pre-built ONNX Runtime 1.14.1, supports x64/aarch64)
- CMakeLists.txt: add ONNX Runtime shared lib install rule for Linux/macOS
- src/cpp/test.cpp: remove all eSpeak references (eSpeakDataPath, espeak-ng
data path detection), simplify to 2-arg CLI (model + output)
Verified: cpp-inference Docker builds and runs inference for all 6 languages
(JA/EN/ZH/ES/FR/PT) without eSpeak-ng or piper-phonemize.
* style: apply ruff format to token_mapper.py
* fix: CI build errors — macOS ONNX Runtime arch name + missing cstdint
- CMakeLists.txt: use 'arm64' (not 'aarch64') for macOS ONNX Runtime
download URL (onnxruntime-osx-arm64-1.14.1.tgz)
- language_detector.cpp: add #include <cstdint> for uint32_t on Ubuntu
* fix: CI build errors — test sources, eSpeak enum refs, macOS arch, cstdint
- tests/CMakeLists.txt: update include/lib paths from pi/ to ort/ (ONNX
Runtime), add missing phonemizer sources to streaming test targets
- test_streaming_raw_phonemes.cpp: replace eSpeakPhonemes with
MultilingualPhonemes (removed enum value)
- test_streaming.cpp: remove useESpeak and TextPhonemes references
- CMakeLists.txt: fix macOS ONNX Runtime arch (aarch64→arm64)
- language_detector.cpp: add #include <cstdint> for uint32_t
* fix: CI failures — Windows ONNX Runtime paths, dict file copy, eSpeak refs
- tests/CMakeLists.txt: add ORT_INCLUDE_DIR/ORT_LIB_DIR variables that
resolve to ONNXRUNTIME_INCLUDE_DIR (Windows) or ort/ prefix (Linux/macOS);
fix self-referencing default values
- test-multilingual-tts.yml: add step to copy cmudict/pinyin dict files
alongside model before running multilingual inference tests
- docker-test.yml: add step to copy dict files to test/models/ before
C++ inference tests
- test_streaming.cpp: remove TextPhonemes/useESpeak references
- test_streaming_raw_phonemes.cpp: replace eSpeakPhonemes with
MultilingualPhonemes
* fix: remove PARENT_SCOPE from find_onnxruntime_windows (called via include())
* fix: remaining CI failures — multilingual TTS, macOS dylib, JA TTS
- test-multilingual-tts.yml: replace eSpeak-based model downloads with
direct 6-language tests using bundled multilingual-test-medium.onnx
- test-japanese-tts.yml: add DYLD_LIBRARY_PATH for macOS (was Linux-only)
- build-piper.yml: explicitly copy ONNX Runtime dylibs/so to dist for
macOS and Linux distributions
- CMakeLists.txt: add BUILD_RPATH for macOS to find ONNX Runtime during
build-time testing, add @executable_path to INSTALL_RPATH
* fix: broaden Dictionary Auto-Download grep patterns for OpenJTalk error messages
* fix: copy G2P dict files to Docker config fallback test directory
* fix: remove eSpeak-ng checks from ARM64 build verification test
* fix: 全スタックレビュー指摘40件の修正 + 回帰テスト21件追加
10エージェント並列レビューで検出した40件の問題を修正し、
再発防止のための回帰テスト21件を追加。
## Critical/High 修正 (14件)
- piper.cpp: Windows非ASCIIパス破損、PUA音素表示、RTF計算逆転
- Python Runtime: PhonemeType.BILINGUAL追加、lid固定解除、MultilingualPhonemizer対応
- Training: _validate_cache_files実装、language_id assert修正、speaker_id型不一致修正
- ONNX: single-speaker multilingual JSONL sid欠落修正
- Security: model_manager シェルインジェクション対策強化
- C++ UTF-8: 全G2P公開APIに入力バリデーション追加
- pyproject.toml: torch>=2.1.0、onnxruntime>=1.17に修正
## Medium 修正 (16件)
- C++ G2P: portuguese stressIdx調整、korean NFC正規化、spanish xc音素数、
chinese句読点マップ補完、french確認(問題なし)
- Training: validation metrics汚染防止、DataLoader shuffle追加、
_build_trainer()ヘルパー抽出
- Phonemizer: chinese.py ImportError化、post_process_ids委譲、
portuguese no-op関数削除
- Runtime: 0.0 falsy修正、Docker espeak残存チェック削除
## Low 修正 (10件)
- utf8_utils.hpp共通化、piper.hpp using json削除・numSpeakers初期化、
norm_audio weights_only、export_onnx unsqueeze除去 + 全squeeze箇所整合
## 回帰テスト追加 (21件)
- C++: PUA codepoint判定、ModelConfig初期化、RTF計算式、UTF-8バリデーション
- Python: collate language_id、speaker_id型、sid default、PhonemeType enum、
lid propagation、noise_scale 0.0、pypinyin ImportError、
portuguese stressIdx、korean NFC、spanish xc、chinese句読点、
post_process_ids委譲、validation metrics隔離、ONNX 3D出力、
multilingual phonemizer import、multispeaker transfer
* fix: ruff CI failures — I001 import sort and PLR0911 return count
- __main__.py: remove blank line between `import torch` and
`from pytorch_lightning` (I001 import block un-sorted)
- pyproject.toml: add PLR0911 (too many return statements) to ignore
list; voice.py phonemize() has 7 returns due to multi-language
fallback chain, consistent with existing PLR0912/PLR0915 ignores
* fix: PLR0911 — reduce phonemize() return statements from 7 to 6
Merge the two phonemize_japanese() return paths (with/without custom
dict) into a single conditional expression instead of suppressing
the lint rule. Revert PLR0911 from pyproject.toml ignore list.
* fix: prevent utf8::invalid_utf8 crash for phoneme IDs 128-255
Characters with IDs 128-255 cannot be represented as valid single-byte
UTF-8 (those are continuation bytes, not valid standalone characters).
isSingleCodepoint() calls utf8::distance() (checked variant) which throws
utf8::invalid_utf8 when given such an invalid byte string.
Change the guard from id < 256 to id < 128 so only ASCII codepoints (which
are identical in UTF-8) take this path. IPA phonemes like ə (U+0259) and
ʊ (U+028A) are multi-byte in UTF-8 and are correctly handled via the
phonemeIdToStringMap lookup path instead.
* fix: ruff format + C++ OrtGetApiBase linker error
- ruff format: portuguese.py, dataset.py, lightning.py, voice.py
- test_multilingual_g2p.cpp: remove piper.hpp (pulls in onnxruntime_cxx_api.h
which requires OrtGetApiBase at link time). Replace with phoneme_parser.hpp
for piper::Phoneme + inline minimal ModelConfig / isSingleCodepoint /
getCodepoint stubs so the test links without onnxruntime.
* fix: properly UTF-8 encode char32_t phoneme keys in timing reverse map
In extractTimingsFromDurations(), the reverse map (PhonemeId -> string) was
built by assigning a char32_t key directly to std::string via
std::string::operator=(char), which silently truncates to the lowest byte.
For IPA codepoints whose lower byte falls in 0x80–0xBF (e.g. ʊ = U+028A
→ 0x8A), this stored a bare UTF-8 continuation byte as a standalone string.
The subsequent isSingleCodepoint() call passes that string to utf8::distance()
(checked variant) which throws utf8::invalid_utf8.
Fix: use utf8::append(static_cast<uint32_t>(phonemeChar), ...) to correctly
encode any Unicode codepoint as a well-formed UTF-8 string before inserting
into the map. This mirrors the pattern already used at line 1386 of piper.cpp.
* feat: WebUI・HuggingFace・GitHub Pages の6言語マルチリンガルUI対応 (#251)
* feat: add 6-language support to WebUI and HuggingFace demo
- docker/webui/app.py: extend language radio to ja/en/zh/es/fr/pt,
add has_lid check and language_id_map → lid injection to ONNX inputs,
…
ayutaz
added a commit
that referenced
this pull request
Mar 18, 2026
- Fix all_passed never set to False when validation marginal (#1) - Remove unused cast_output_map, use unique name generator to avoid name collisions in ONNX graph (#2, #3) - Use temporary file + atomic replace for in-place FP16 conversion to prevent data corruption on interruption (#4) - Specify CPUExecutionProvider explicitly in test sessions (#5) - Add lid input support to validate_model dummy inputs
ayutaz
added a commit
that referenced
this pull request
Mar 18, 2026
* feat: ONNXエクスポートFP16デフォルト化 + FP16変換ツール + 既存モデル変換 - export_onnxでFP16変換をデフォルト適用（--no-fp16で無効化可能） - スタンドアロンFP16変換ツール piper_train.tools.convert_fp16 を追加 - 既存ONNXモデル6ファイルをFP16変換し合計約128MB削減 * docs: FP16デフォルト化に伴うドキュメント更新 CHANGELOG, CLAUDE.md, README, README_training_japanese に --no-fp16 フラグとFP16デフォルト出力の説明を追加 * fix: address Copilot review comments on FP16 conversion - Fix all_passed never set to False when validation marginal (#1) - Remove unused cast_output_map, use unique name generator to avoid name collisions in ONNX graph (#2, #3) - Use temporary file + atomic replace for in-place FP16 conversion to prevent data corruption on interruption (#4) - Specify CPUExecutionProvider explicitly in test sessions (#5) - Add lid input support to validate_model dummy inputs * fix: CI lint and test collection errors - Fix I001 import sorting in convert_fp16.py and test file - Add strict=True to zip() call (B905) - Add check=False to subprocess.run() calls (PLW1510) - Guard `import onnx` with pytest.importorskip to prevent collection error in CI where onnx is not installed * fix: add onnx to dependencies for FP16 conversion tool * style: fix ruff format on export_onnx.py * feat: replace CSS10 test model with FP16 version (75MB -> 38MB)
ayutaz
added a commit
that referenced
this pull request
Apr 2, 2026
1. 削除済み dictionary-loader.js への参照を修正 - test-dictionary-cache.js 削除 (テスト対象が存在しない) - test-current-build.js から参照を除去 2. 本番コードの console.log 2件を削除 - simple_unified_api.js: 初期化ログは不要 (#initPromise で状態管理済み) 3. 非JA/EN char-level fallback がスコープ外であることを設計ドキュメントに明記 - wasm-dict-optimization.md: 課題 #2 は後続ブランチで対応予定と注記
ayutaz
added a commit
that referenced
this pull request
Apr 2, 2026
#1 Go モジュールパスを piper-plus-g2p/phonemize → piper-plus/src/go/phonemize に修正 #2 Python publish にタグ vs pyproject.toml バージョン整合チェック追加 #3 Go ゴールデンテスト追加 (phoneme_test_cases.json 共有フィクスチャ) #4 JS ゴールデンテストを g2p-wasm-ci.yml に追加 #5 Python テストマトリクスを 3.11/3.12/3.13 に拡充 #6 Rust Cargo.toml に keywords/categories/documentation/readme 追加 #7 Rust MSRV 1.88 テスト追加 #8 Rust feature flag 組み合わせテスト追加 (no-default, english, japanese) #9 Go publish ワークフローに golangci-lint 追加 #10 Python 個別 extras (ja/en/zh) インストールテスト追加
ayutaz
added a commit
that referenced
this pull request
Apr 3, 2026
* docs: G2P 独立パッケージ化の調査レポートと要求定義を追加
eSpeak-ng 非依存の多言語 G2P を独立パッケージとして切り出す構想の
調査と要求定義をまとめた。
- g2p-standalone-package.md: 需要分析、競合状況、アーキテクチャ現状分析、
依存ライセンス分析、推奨ロードマップ
- g2p-package-requirements.md: 4プラットフォーム (Python/Rust/C#/JS-WASM) の
機能要求・非機能要求、共通要求、統合・マイグレーション要求、リリース戦略
* docs: G2P 独立パッケージ化の技術調査レポートを追加
10エージェントによる並行技術調査の結果をまとめた。
- PUA差分: HEAD では全プラットフォーム 87 エントリで一致確認
- Python: phonemize は piper_train への依存ゼロ、完全独立可能
- Rust: PhonemeIdMap/PiperError の再定義 + phoneme_converter 2分割
- C#: ONNX依存なし、TypeForward で互換維持、22ファイル移動
- JS/WASM: onnxruntime-web 依存なし、OpenJTalk DI化が主要作業
- テストフィクスチャ: 6言語x3文 + 混在テストの JSON スキーマ設計
- CI/CD: 4ワークフロー設計 (uv/cargo/dotnet/node)、既存CIと共存
* docs: C# G2P を対象外に変更 (DotNetG2P が既に独立パッケージとして存在)
DotNetG2P (NuGet) が既にスタンドアロン G2P ライブラリとして
公開済みのため、PiperPlus.Phonemize の新規作成は不要。
- Phase 2 (C# NuGet) を対象外に変更
- 旧 Phase 3 (JS/WASM) を Phase 2 に繰り上げ
- 合計工数を 7-10 週 → 5-7 週に更新
- 要求定義・調査レポート・技術調査の C# セクションに対象外注記を追加
* docs: G2P 要件定義を全面再構成 (技術調査・レビュー結果を統合)
4エージェントチームで要件定義を精査・統合・重複排除した。
主な変更:
- Python: FR-P 14→5件、NFR-P 6→4件に統合
- Rust: FR-R 10→6件、NFR-R 7→5件に統合
- JS/WASM: FR-W 7→5件、NFR-W 7→4件に統合 (Phase 2)
- 共通: FR-G 10→7件、NFR-G 5→4件、FR-I 6→5件に統合
- C# は DotNetG2P が独立パッケージのため対象外
- 技術調査の結果を全要求に反映 (PUA一致、依存分析、CI設計等)
- Python コマンドを uv ベースに統一
- セクション13に旧→新 ID トレーサビリティマップを追加
* docs: G2P 要件定義 v2 — IPA-first + エンコード分離で全面再設計
10人レビュー (CTO/TTS エンジニア/G2P 専門家/日本語・英語・中韓・
ロマンス言語専門家/QA/PM/Rust 専門家) の合意に基づき再設計。
設計方針の変更:
- IPA-first: phonemize() は PUA 変換なしの IPA トークン列を返す
- エンコード分離: PiperEncoder が PUA/ID変換/BOS-EOS を担当
- Phonemizer ABC は phonemize() と phonemize_with_prosody() の 2 メソッドのみ
Phase 再構成:
- Phase 0: Python のみ JA+EN (1週間MVP)
- Phase 1: 残り5言語 + Multilingual + カスタム辞書
- Phase 2: Rust (PyPI月1000DL後)
- Phase 3: JS/WASM (需要に応じて)
レビュー指摘の反映:
- 各言語の既知制限を明文化 (ZH再帰サンドヒ/FRリエゾン/KOフォールバック等)
- カスタム辞書の入力バリデーション追加
- Rust default features 軽量化 (naist-jdic opt-in)
- MAJOR同期廃止、PUA compat バージョンで管理
- 要求数 45→32 に削減
* docs: G2P 独立パッケージのマイルストーン計画を追加
Phase 0 (MVP, 1週) → Phase 1 (全言語, 1-2週) → Phase 2 (Rust, 需要検証後) →
Phase 3 (JS/WASM, 需要に応じて) の段階的ロードマップ。
各 Phase にバージョン (v0.0.1/v0.1.0/v0.2.0/v1.0.0) ごとの具体的タスク・
完了条件・対応要求 ID を定義。需要検証基準 (月間DL数) と
PUA compat バージョニング戦略を含む。
* docs: 全38チケット作成 + マイルストーン相互紐づけ
Phase 0 (9), Phase 1 (11), Phase 2 (10), Phase 3 (8) の個別チケットを
docs/tickets/ に作成。各チケットに目的・実装詳細・エージェントチーム構成・
テスト計画・懸念事項・再設計考察・後続連絡事項を記載。
マイルストーン文書の全テーブルにチケットリンク列を追加し双方向参照を実現。
* feat: piper-g2p Python パッケージ Phase 0 MVP 実装 (P0-002〜P0-009)
JA + EN の IPA-first G2P パッケージを新規作成。
BOS/EOS/PUA エンコードを分離した IPA トークン列を返す設計。
- P0-002: パッケージ構造 (pyproject.toml, hatchling)
- P0-003: Phonemizer ABC + ProsodyInfo + Registry
- P0-004: JapanesePhonemizer (BOS/EOS なし、N 変異 4 種、疑問マーカー 4 種)
- P0-005: EnglishPhonemizer (g2p-en ベース、機能語ストレス除去)
- P0-006: PiperEncoder (PUA 87 エントリ、BOS/EOS/padding 挿入)
- P0-007: piper_train 互換性検証テスト
- P0-008: テストスイート 45 テスト
- P0-009: GitHub Actions CI ワークフロー (3 OS x 2 Python)
* feat: piper-g2p Phase 1 全言語展開 (P1-001〜P1-011)
7言語対応 + MultilingualPhonemizer + カスタム辞書を追加。v0.1.0。
- P1-001: ChinesePhonemizer (pypinyin ベース、声調マーカー)
- P1-002: KoreanPhonemizer (g2pk2 ベース)
- P1-003: SpanishPhonemizer (ルールベース、seseo/yeismo)
- P1-004: FrenchPhonemizer (ルールベース、鼻母音)
- P1-005: PortuguesePhonemizer (ルールベース)
- P1-006: MultilingualPhonemizer + UnicodeLanguageDetector
- 複合言語コード ("ja-en-zh") で自動生成
- CJK 曖昧性解消 (かな有無で JA/ZH 判定)
- キャノニカルキーでキャッシュ
- P1-007: CustomDictionary (JSON v1.0/v2.0)
- P1-008: pyproject.toml extras (zh, ko, es, fr, pt, all)
- P1-010: テスト 87 テスト (4 skipped: g2pk2 未インストール)
- P1-011: v0.1.0 バージョン更新
* refactor: 10人レビュー指摘事項の全面対応 (15エージェント並列実装)
## アーキテクチャ改善
- R-01: Registry をクラス化 (PhonemizerRegistry) + テーブル駆動 auto_register + entry_points プラグイン対応
- R-02: Phonemizer ABC に入力サニタイズ (_sanitize_input) + phonemize() デフォルト実装 + ProsodyInfo frozen=True
- R-03: PUA マッピングを pua.json 正典ファイルに外出し (Python/Rust/JS 共通)
- R-04: encode_with_prosody 返り値を dict → ProsodyInfo に統一
## 言語品質改善
- R-05: JA N ルールを O(n) 化 + 正規表現 4→2 統合
- R-06: EN _get_g2p() 例外を ImportError のみに絞込
- R-07: ZH 3連続三声サンドヒー対応
- R-08: FR 基本リエゾン/エリジョン対応 (50+ liaison words)
- R-09: ES dict ルックアップ化 + ES/PT 既知制限ドキュメント
## セキュリティ
- R-10: CustomDict にファイルサイズ上限 (10MB) + パストラバーサル警告 + JSON エラーハンドリング
## テスト (170 テスト, +83)
- R-11: エッジケーステスト (空文字列, 絵文字, 超長テキスト, 制御文字)
- R-12: スナップショットテスト (6言語固定期待値) + session-scoped fixture
## ドキュメント・CI
- R-13: README 全面改善 (競合比較表, 差別化メッセージ)
- R-14: CONTRIBUTING.md (新言語追加 5 ステップ) + CHANGELOG.md
- R-15: CI に Trusted Publisher 準備 + 依存バージョン上限ピン + entry_points 設定
* feat: piper-g2p Rust crate Phase 2 実装 (P2-001〜P2-007)
piper-core から G2P ロジックを独立クレートとして分離。
- P2-001: piper-g2p crate 構造作成 (workspace 統合)
- P2-002: G2pError (7 variants) + PhonemeIdMap type alias
- P2-003: Phonemizer trait (IPA-first, encode 分離)
- P2-004: 7 言語 + multilingual + token_map + custom_dict + encode を移動
- P2-007: piper-core re-export (後方互換, feature flag 連動)
テスト: piper-g2p 319 passed, piper-core 785 passed
* refactor: Phase 2 レビュー指摘事項の全面対応 (15エージェント並列実装)
10人専門家レビュー (CTO/Rust/Python/Security/DevOps/API/DX/Perf/PM/QA) で
発見された Critical 6件 + Major 14件 + Minor 12件を15エージェントで並列修正。
主な修正:
- 入力検証統一: base.py phonemize() で _sanitize_input() 自動呼出
- エラー型変換: impl From<G2pError> for PiperError (全7バリアント)
- CI改善: Rust check ジョブ + Python 3.12 + crate publish WF
- テスト拡充: encoder prosody 13件 + 多言語混在 10件 = +23テスト
- セキュリティ: custom_dict logging化, Rust 10MB制限, スレッドセーフ化
- パフォーマンス: id_maps lru_cache, multilingual ord()最適化
- ドキュメント: Rust doc comments, CHANGELOG 構造化, pyproject.toml URL修正
テスト結果: Python 188 passed / Rust 321+785 passed / 0 failures
* feat: @piper-plus/g2p JS/WASM パッケージ Phase 3 実装 (P3-001〜P3-011)
SimpleUnifiedPhonemizer から G2P 機能を分離し、@piper-plus/g2p として
独立利用可能な npm パッケージを新規作成。onnxruntime-web 依存ゼロ。
実装内容:
- G2P 統合クラス: create/phonemize/phonemizeWithProsody/encode/dispose
- 6言語 G2P: JA (OpenJTalk WASM DI), EN (辞書+ルール), ZH/ES/FR/PT
- DictLoader: IndexedDB キャッシュ + SHA-256 検証 + 進捗コールバック
- Encoder: BOS/PAD/EOS 挿入 + PUA マッピング (87エントリ)
- UnicodeLanguageDetector: 言語自動検出 + segmentText()
- CustomDictionary: JSON v1.0/v2.0 対応
- TypeScript 型定義 (750行)
- CI ワークフロー (3 OS x Node 18/20/22 + サイズ検証 + npm publish)
- 既存 piper-plus パッケージとの後方互換維持
テスト結果: JS/WASM 174 passed / Python 188 passed / Rust 1,321 passed
* refactor: 最終レビュー指摘事項の全面対応 (15エージェント並列実装)
10人専門家最終レビューで発見された Critical 2件 + Major 7件 + Minor 6件を
15エージェントで並列修正。
主な修正:
- Python 全8サブクラスに language_code property 追加 (Rust/JS と統一)
- PyPI OIDC Trusted Publisher 移行 (PYPI_TOKEN 依存排除)
- Rust multilingual.rs 実装確認 (849行、36テスト — 既に完備)
- registry.py: 言語スキップ時の INFO ログ追加
- JS types/index.d.ts: DictLoader.destroy() + @throws + applyToText()
- JS encode.js: PUA マッピング事前インデックス化で二重検索排除
- Rust CI: Cargo.toml/tag バージョン検証追加
- Python multilingual.py: has_kana() キャッシュで重複走査排除
- テストフィクスチャ拡充: PUA 5→15件、detect 5→10件、test_cases 13→20件
- クロスプラットフォーム一貫性テスト 24件 + language_code テスト 7件追加
- WASM CI npm キャッシュ追加
- lib.rs doctest ignore→no_run (コンパイル検証有効化)
- README 改善: Python 複合コード、JS DictLoader.destroy()
テスト結果: Python 218 passed / JS 192 passed / Rust 1,321 passed / 0 failures
* fix: Copilot PR レビュー 15件の指摘対応
- pyproject.toml: license を PEP 621 準拠テーブル形式に修正
- encoder.py: 未知トークンの warning ログ追加（サイレントドロップ排除）
- japanese.py: phonemize() で _sanitize_input() を呼出
- pua.py: importlib.resources 使用 + encoding="utf-8"
- registry.py: ImportError → ModuleNotFoundError に限定、内部バグは WARNING
- テスト7ファイル: 未使用 import pytest 削除 (F401)
- test_edge_cases.py: 未使用 available_languages 削除
- test_registry.py: 未使用 ProsodyInfo 削除
- README.md: 出力例をスナップショットテストと整合
* chore: 完了済みチケットドキュメント削除 + 設計ドキュメント更新
Phase 0-3 全実装完了に伴い、作業指示書としてのチケットファイル39件を削除。
実装はコードとコミット履歴に記録済み。
削除: docs/tickets/ (39ファイル)
- phase-0/P0-001〜009, phase-1/P1-001〜011
- phase-2/P2-001〜010, phase-3/P3-001〜008
更新: 設計ドキュメントに完了ステータス追記 (ADR として保持)
- docs/design/g2p-standalone-package.md
- docs/design/g2p-package-requirements.md
* chore: 完了済み G2P 設計ドキュメント4件を削除
* docs: multilingual-testing.md で7言語G2Pと6言語モデルの違いを明確化
* feat(sv): piper-g2p 全3プラットフォームにスウェーデン語 G2P 追加
Go/C#/piper-core に既存の SV 実装を piper-g2p 独立パッケージに移植。
PUA マッピング 87→96 エントリに拡張（SV 長母音 9 エントリ追加）。
Python (piper-g2p PyPI):
- swedish.py: SwedishPhonemizer (ルールベース、外部依存なし)
- 長母音/短母音、軟k/g、レトロフレックス、ストレス検出
- pua.json に SV 9 エントリ追加
- テスト 88 件追加 (306 passed)
Rust (piper-g2p crates.io):
- swedish.rs: Phonemizer trait 実装
- feature flag swedish を default + all-languages に追加
- token_map.rs に SV PUA 9 エントリ追加
- テスト 30 件追加 (285 passed)
JS/WASM (@piper-plus/g2p npm):
- sv/index.js: SwedishG2P クラス
- detect.js に SV 検出 (å/ä/ö)
- pua-map.js に SV 9 エントリ追加
- subpath export ./sv 追加
- テスト 55 件追加 (247 passed)
* feat(g2p): 15エージェントレビュー全指摘事項の対応
P0: Rust CI追加、3PFのEncoder strictモード、PUA compat versionチェック
P1: クロスPF整合性CI、デフォルトIDマップ、segment_text API、README改善、JA整合性テスト強化
P2: ベンチマークスイート、piper-plus npm→@piper-plus/g2p統合
P3: Rust FFI層、Third-partyライセンス文書
* fix(ci): Cross-Platform CI のテスト失敗を修正
- test_all_languages_covered: SV追加で言語数 7→8 に更新
- NLTK averaged_perceptron_tagger_eng ダウンロードステップ追加
* fix: CI 全失敗を修正 (ruff lint, cargo fmt/clippy, WASM test glob, NLTK data)
- ruff: SIM102/E501/SIM108/B904 全31件修正
- cargo fmt: 全ファイルフォーマット適用
- clippy: derive Default, redundant guard 修正
- WASM CI: node --test glob パターン修正
- Python CI: NLTK averaged_perceptron_tagger_eng DL ステップ追加
* style: ruff format 適用 (25ファイル)
* chore(ci): dev ブランチの規約に合わせて CI ワークフローを統一
- actions/checkout v4→v6, upload-artifact v4→v7
- Python テストマトリクス 3.11/3.12/3.13→3.13 のみ (9→3 ジョブ)
- Node.js テストマトリクス 18/20/22→20 のみ (9→3 ジョブ)
- Rust ubuntu-latest→ubuntu-24.04
* fix(ci): WASM glob展開 + Korean skip判定を修正
- WASM CI: シングルクォートglobがmacOS/Windowsで展開されないため明示的ファイルリストに変更
- Python CI: g2pk2のmecabバックエンド不在をskip判定で検出するよう改善
* fix(ci): Windows での UTF-8 フィクスチャ読み込みエラーを修正
test_cross_platform.py の open() に encoding="utf-8" を追加。
Windows のデフォルトエンコーディング (cp1252) で日本語を含む
JSON フィクスチャが読めない問題を解消。
* fix: mypy 型エラー修正 (encoder.py prosody_features リスト型)
* feat(ko): JS/WASM 韓国語 G2P 追加 + 全プラットフォーム 8言語対応完了
- src/wasm/g2p/src/ko/index.js: KoreanG2P クラス新規作成
(Hangul分解、IPA変換、連音法則、PUA対応、65テスト)
- Python id_maps.py: 韓国語・スウェーデン語 phoneme ID map 追加
- 全3プラットフォーム (Python/Rust/JS) のドキュメント・CI を8言語に更新
- テストフィクスチャに韓国語4件追加、検出テストにko/sv 14件追加
* test(ko/sv): 全プラットフォームのテストカバレッジ大幅拡充
Python:
- test_korean.py: 6→66テスト (API/エッジケース/音韻規則/Prosody/PUA検証)
- test_cross_platform.py: TestSVPhonemeFixtures 追加 (SV フィクスチャ検証)
- test_e2e.py: ko/sv E2E エンコーディングパイプラインテスト追加
- test_custom_dict.py: ko/sv カスタム辞書統合テスト追加
Rust:
- ffi.rs: FFI テスト7件追加 (ko/sv create/phonemize/available_languages)
- test_ko_sv_integration.rs: 統合テスト22件新規
(エンコーディング、PUA検証、カスタム辞書、マルチリンガル)
JS/WASM:
- test-korean.js: 65→91テスト (母音7件/複合終声10件/NFD 3件/エラー6件)
- test-swedish.js: 55→67テスト (languageCode/token形式/エラー処理)
- test-g2p.js: ko/sv factory + detectLanguage テスト7件追加
- test-encode.js: ko/sv エンコーディングテスト14件追加
- test-custom-dict.js: ko/sv カスタム辞書テスト9件追加
CI:
- g2p-cross-platform-ci.yml: JS ko/sv テスト実行 + PUA クロスプラットフォーム検証
* fix(ci): G2P WASM/Python CI 失敗修正
- g2p-wasm-ci.yml: 存在しない test/test-e2e.js をテストリストから除去
- __init__.py: PiperEncoder を __all__ に追加 (F401 unused import)
- test_korean.py: import後の空行を1行に修正 (I001 isort)
* fix(lint): ruff UP038 + format 修正
- test_korean.py: isinstance(x, (int, float)) → isinstance(x, int | float)
- test_e2e.py: ruff format 適用 (リスト要素の改行)
* style(rust): cargo fmt 適用 (ffi.rs, test_ko_sv_integration.rs)
* fix(g2p): mypy 型エラー9件修正
- korean.py: g2pk2 の Any 戻り値を str() でラップ
- english.py: phonemize_with_prosody 戻り型を ProsodyInfo | None に統一
- custom_dict.py: dict 型アノテーション・int() キャスト・str() キャスト追加
* docs: G2P 統一マイルストーン + 全30チケット作成
piper-plus 本体の重複 phonemizer を standalone piper-g2p に統一する
移行計画を策定。5マイルストーン・30チケットで構成。
- M0: piper-g2p API ギャップ修正 (4チケット)
- M1: Python 移行 — piper_train → piper_g2p (8チケット)
- M2: Rust 移行 — piper-core → piper-g2p crate (8チケット)
- M3: JS/WASM 移行 — SimpleUnifiedPhonemizer → @piper-plus/g2p (6チケット)
- M4: 検証・クリーンアップ (4チケット)
完了時に42ファイル (~8,800行) の重複コード削除を見込む。
* feat(g2p): M0 API ギャップ修正 + M1-6 dead code 削除
M0-1: _get_question_type() が非疑問文で "$" を返すように修正
M0-2: JapanesePhonemizer に custom_dict パラメータ追加
M0-3: 互換テスト 8件追加 (ZH/ES/FR/PT/SV/multilingual ID map/JA prosody)
M0-4: Rust PiperEncoder に動的 EOS トークン対応
- encode_with_eos() / encode_with_prosody_and_eos() 追加
- 既存メソッドは新メソッドに委譲 (コード重複なし)
M1-6: 未使用の inference_utils.py 削除 (190行、存在しないモジュール参照)
* feat(g2p): M1-1 依存追加 + M1-2 drop-in import 置換 + チケット状態更新
M1-1: piper-g2p を piper_train の依存に追加
- pyproject.toml: dependencies に piper-g2p, train extras に piper-g2p[all]
- root pyproject.toml: uv workspace に src/python/g2p 追加
M1-2: 4ファイルの import を piper_train.phonemize → piper_g2p に置換
- infer_onnx.py: UnicodeLanguageDetector, get_phonemizer
- vits/lightning.py: get_phonemizer
- update_model_config.py: FIXED_PUA_MAPPING, TOKEN2CHAR
チケット状態: M0 全4件 + M1-6 を完了に更新
* refactor(g2p): M1-3 ID マップ API 統一 + M1-5 tools/ 移行
M1-3: 言語別 ID マップ関数を piper_g2p.encode.id_maps.get_phoneme_id_map() に統一
- preprocess.py: get_japanese_id_map/get_bilingual_id_map/get_multilingual_id_map 置換
- tools/prepare_bilingual_dataset.py, add_prosody_features.py, prepare_multilingual_dataset.py
M1-5: tools/ の phonemize import を piper_g2p に移行
- BilingualPhonemizer → MultilingualPhonemizer(["ja", "en"])
- phonemize_japanese_with_prosody() → JapanesePhonemizer().phonemize_with_prosody()
- phonemize_from_pinyin_syllables → piper_g2p.chinese から import
- PUA マッピング追加 (piper_g2p は clean トークンを返すため)
* refactor(g2p): M1-4 preprocess.py 音素化パイプラインを piper_g2p に移行
全ての piper_train.phonemize import を piper_g2p に置換:
- JA モノリンガル: JapanesePhonemizer + BOS 手動追加 + PUA マッピング
- マルチリンガル: MultilingualPhonemizer + PiperEncoder で BOS/EOS/padding
- バイリンガル: BilingualPhonemizer → MultilingualPhonemizer(["ja", "en"])
- CustomDictionary → piper_g2p.custom_dict
- post_process_ids() → PiperEncoder.encode_with_prosody()
piper_train.phonemize の残存 import: 0件
* refactor(g2p): M1-4 残存 import 修正 + M1-7 旧 phonemize ディレクトリ削除
infer_onnx.py: _refine_latin_segments_for_swedish の dead code を削除
(piper_g2p の UnicodeLanguageDetector では到達しないコードパス)
piper_train/phonemize/ ディレクトリ全削除 (24ファイル):
- 8言語 phonemizer (japanese, english, chinese, korean, spanish, portuguese, french, swedish)
- 9 ID マップ (jp, zh, ko, es, pt, fr, sv, bilingual, multilingual)
- 基盤 (base, registry, token_mapper, custom_dict, bilingual, multilingual)
- accent_processor (未実装モジュール)
全ての phonemize 機能は piper_g2p パッケージに移行済み。
* feat(g2p): M1-8 テスト・CI 移行 + M2-1/M2-2/M2-3 Rust adapter 導入
M1-8: 20+テストファイルの import を piper_g2p に移行
- python-tests.yml: piper-g2p[all] をインストールに追加
- test_compat.py: piper_train 比較テスト → standalone 正当性テストに再構成
- 14テストファイルの piper_train.phonemize import を piper_g2p に置換
- infer_onnx.py: PiperEncoder 経由の phoneme_ids 生成に統一
- 400テスト PASS (新規失敗ゼロ)
M2-1: piper-core Cargo.toml で piper-g2p features=["all-languages"] に変更
M2-2: G2pAdapter 作成 (piper_g2p::Phonemizer → piper_core::Phonemizer ブリッジ)
- get_phoneme_id_map: 全言語 None (config.json 使用)
- post_process_ids: JA は no-op、他言語は default_post_process_ids
M2-3: voice.rs ファクトリを piper-g2p コンストラクタ + G2pAdapter に書き換え
- 8言語すべて piper-g2p 経由に移行、PassthroughPhonemizer フォールバック維持
- cargo check PASS
* refactor(g2p): M2-4 phoneme_converter.rs 削除、piper_g2p::encode に統合
piper-core/phonemize/phoneme_converter.rs の tokens_to_ids() と
prosody_to_features() は piper_g2p::encode に同一実装が存在するため削除。
build_synthesis_request() は voice.rs でインラインに構築済みのため不使用。
* refactor(g2p): M2-5 MultilingualPhonemizer を piper-g2p に統合
piper-core/phonemize/multilingual.rs (~1000行) を削除し、
piper_g2p::multilingual を re-export に切り替え。
- adapter.rs: default_post_process_ids の import を
super::multilingual → piper_g2p::multilingual に変更
- voice.rs: create_language_phonemizer を
create_language_g2p_phonemizer (→ Box<dyn piper_g2p::Phonemizer>) に変更し
MultilingualPhonemizer を G2pAdapter でラップ
- mod.rs: pub mod multilingual → pub use piper_g2p::multilingual に変更
* refactor(g2p): M2-6 custom_dict.rs 削除、piper_g2p::custom_dict に統合
piper-core/phonemize/custom_dict.rs は piper_g2p::custom_dict と
ほぼ同一実装 (差異は 10MB ファイルサイズ上限のみ)。
- mod.rs: pub mod custom_dict → pub use piper_g2p::custom_dict に変更
- japanese.rs: super::custom_dict → piper_g2p::custom_dict に import 変更
- CLI/テストの piper_plus::phonemize::custom_dict パスは re-export で維持
* chore(rust): M2-7 旧 phonemize ファイル削除 (swedish.rs, token_map.rs)
piper-g2p に同等機能があるため削除。mod.rs の re-export は M2-5 で対応済み。
* test(rust): M2-8 テスト・CI 対応 (phoneme_converter, voice_api)
piper_g2p::encode を直接使用するようテストを更新。
エラー型を G2pError に対応。
* feat(wasm): M3-1~M3-5 PiperPlus を @piper-plus/g2p に統一
M3-1: G2P.create() で PiperPlus 初期化を切り替え
M3-2: _textToPhonemeIds() を G2P.encode() に統一 (prosodyFlat→nested変換)
M3-3: _extractProsodyFromLabels()/_phonemesToIds() を削除
M3-5: SimpleUnifiedPhonemizer 等の旧実装 5ファイルを削除
phonemizer-compat.js shim を追加 (後方互換)
SimpleUnifiedPhonemizer を型定義から削除
* test(wasm): M3-4 テスト更新 (11ファイル → @piper-plus/g2p モック対応)
G2P モックを SimpleUnifiedPhonemizer から @piper-plus/g2p の G2P API に移行。
* ci: M3-6 CI 対応 + M3 完了マーク
ci.yml/npm-publish.yml に npm install ステップ追加。
tickets/README.md の M3-1〜M3-6 を完了に更新。
* test: M4-1/M4-2 クロスプラットフォームゴールデンテスト + 音声回帰テスト
M4-1: tests/fixtures/g2p/phoneme_test_cases.json を使った Rust/JS ゴールデンテスト追加
- src/rust/piper-core/tests/test_g2p_golden.rs (6言語 + JA optional)
- src/wasm/openjtalk-web/test/js/test-g2p-golden.js (5言語、JA skip)
- src/wasm/g2p/src/ja/index.js: extractPhonemesFromLabels を re-export
- src/wasm/openjtalk-web/src/api.js: @piper-plus/g2p/ja からインポートに修正
M4-2: tests/fixtures/g2p/audio-regression-baseline.json + JS 回帰テスト追加
- post-migration ベースライン (ES/FR/PT/SV/KO 5言語)
- src/wasm/openjtalk-web/test/js/test-audio-regression.js
また test-piper-plus-init-success.js の残存 SimpleUnifiedPhonemizer 参照を削除。
* docs: M4-3/M4-4 CLAUDE.md + tickets/README.md 更新
M4-3: CLAUDE.md を G2P 移行完了後の状態に更新
- 多言語 Phonemizer セクションの実装パスを piper_g2p パッケージに変更
- Python/Rust/JS ファイルパステーブルの旧パスを削除・新パス追記
- SimpleUnifiedPhonemizer → @piper-plus/g2p に更新
M4-4: tickets/README.md で全30チケット (M0〜M4) の完了を記録
削除実績: 36 ファイル、~13,700 行 (目標 42 ファイル / ~8,700 行)
残存参照: なし (test_config_fallback.py の docstring コメントのみ)
* fix(lint): ruff F401/I001 修正 (未使用 import 削除 + import sort 整理)
- src/python/g2p/tests/test_compat.py: 未使用 pytest import 削除 (F401)
- src/python/piper_train/preprocess.py: import ブロック順序修正 (I001)
- src/python/piper_train/tools/add_prosody_features.py: import 順序修正 (I001)
- src/python/piper_train/tools/prepare_bilingual_dataset.py: import 順序修正 (I001)
- src/python/prepare_css10_japanese.py: piper_g2p import 順序修正 (I001)
* fix(ci): HF Space ワークフローの piper_train/phonemize 参照を piper_g2p に更新
piper_train/phonemize/ は M1-7 で削除済みのため下記を修正:
- test-hf-space.yml: phonemize/*.py コピーを削除、pip install piper-g2p に変更
import 検証対象を piper_g2p.* モジュールに更新
- deploy-huggingface.yml: 個別 phonemize ファイルコピー (~22ファイル) を
cp -r piper_g2p に置き換え
paths トリガーを src/python/g2p/** に更新
* fix: ruff format & cargo fmt CI フォーマット違反を修正
ruff format: test_compat.py, infer_onnx.py, preprocess.py
cargo fmt: piper-g2p/src/encode.rs (メソッドチェーン改行スタイル)
* fix: CI 根本原因 5件を修正
- pyproject.toml: mypy==1.7.1 → mypy>=1.13 (piper-g2p との競合解消)
- japanese.py: 非疑問文に $ が付加されるバグを修正
- test_g2p_golden.rs: ChinesePhonemizer::new() に辞書パスを追加、
JapanesePhonemizer::new(None) → new()、型注釈追加
- docker/python-inference: piper_train.phonemize → piper_g2p インポート更新、
Dockerfile に piper_g2p インストール追加
- ci.yml python-tests: piper_g2p をインストールするステップを追加
- cargo fmt --all: Rust コード全体のフォーマット適用
* fix: inference.py インポート順を ruff I001 に合わせて修正
* fix: CI失敗の根本原因5件を一括修正
- encode.rs: nested if let → and_then() でcollapsible_if clippy警告を解消
- test_g2p_golden.rs: expected_contains でPUAエンコード済みトークンに対応
(token_to_pua()でfixture文字列名→PUA形式に変換してから比較)
- piper-g2p/pyproject.toml: pytest>=8.0→>=7.4, pytest-cov>=5.0→>=4.1
(ルートのpytest==7.4.3との競合を解消)
- docker/python-train/Dockerfile: piper-g2p を piper_train より先にインストール
(PyPI未公開のローカルパッケージを明示的に先行インストール)
- docker/python-inference/inference.py: 削除済みpost_process_ids()呼び出しを除去
* fix: test_zh_golden PUA対応 + preprocess.py StrEnum修正
- test_g2p_golden.rs: test_zh_golden の tone marker チェックを PUA 形式に変換
(tone1〜tone5 → \u{E046}〜\u{E04A} に変換してから比較)
- preprocess.py: UP042 対応 — (str, Enum) → StrEnum (Python 3.11+)
* refactor: Python G2P パッケージ名を piper-g2p → piper-plus-g2p に変更
PyPI への公開名を piper-plus エコシステムに合わせて統一する。
インポート名 (piper_g2p) は変更なし。
pip install "piper-plus-g2p[ja]" # 日本語のみ
pip install "piper-plus-g2p[all]" # 全8言語
変更ファイル:
- src/python/g2p/pyproject.toml: name = "piper-plus-g2p"
- pyproject.toml: workspace sources キーを piper-plus-g2p に更新
- src/python/pyproject.toml: dependencies の参照を更新
- .github/workflows/test-hf-space.yml: ステップ名のコメントを更新
* refactor: Python モジュール名を piper_g2p → piper_plus_g2p に変更
PyPI 配布名 (piper-plus-g2p) と Python インポート名を統一する。
Rust クレート名 (piper-g2p / use piper_g2p::) は変更なし。
変更範囲:
- src/python/g2p/piper_g2p/ → piper_plus_g2p/ (git mv)
- Python ソース全体: from piper_g2p → from piper_plus_g2p
- pyproject.toml: packages / entry-points を更新
- CI workflows: ruff/mypy/pytest パス、import 検証を更新
- CLAUDE.md / docs: ドキュメント参照を更新
使用方法:
pip install "piper-plus-g2p[ja]"
from piper_plus_g2p import get_phonemizer
* refactor: Rust クレート名を piper-g2p → piper-plus-g2p に変更
Python (piper_plus_g2p) と命名を統一する。
Go / C++ は G2P クレートへの参照がないため変更なし。
変更内容:
- src/rust/piper-g2p/ → piper-plus-g2p/ (git mv)
- Cargo.toml (workspace / piper-plus-g2p / piper-core):
name, members, dependencies, feature flags を更新
- Rust ソース全体: use piper_g2p:: → use piper_plus_g2p::
- FFI 関数名: piper_g2p_create/phonemize/free → piper_plus_g2p_*
- CI workflows: -p piper-g2p, src/rust/piper-g2p/** パスを更新
使用方法 (Rust):
piper-plus-g2p = { version = "0.1" }
use piper_plus_g2p::get_phonemizer;
* refactor(go): phonemize を独立モジュール piper-plus-g2p/phonemize に分離
- src/go/phonemize/go.mod 新規作成 (github.com/ayutaz/piper-plus-g2p/phonemize)
- src/go/go.work 新規作成 (Go workspaces)
- src/go/go.mod: replace + require 追加
- piperplus/synthesize.go, voice.go: import パス更新
- CI: phonemize モジュールのテスト対象に追加
- CLAUDE.md / docs: Go モジュール情報を更新
使用方法:
go get github.com/ayutaz/piper-plus-g2p/phonemize
import "github.com/ayutaz/piper-plus-g2p/phonemize"
* docs: G2P スタンドアロン利用ドキュメント整備 (Python/Rust/Go)
- Python README: piper-g2p → piper-plus-g2p に統一、スタンドアロン記載追加
- Rust README: コード例の use piper_g2p → piper_plus_g2p、8言語+SV追加
- Go phonemize: README.md 新規作成、doc.go を8言語+openjtalk説明に更新
- Go README: スタンドアロン go get コマンド追記
* fix: CI lint/fmt エラー修正 (Python E501 + Rust rustfmt)
- Python: test_compat.py, test_encode.py の docstring を88文字以内に短縮
- Rust: voice.rs, test_ko_sv_integration.rs に cargo fmt 適用
* ci: Go G2P パッケージの publish ワークフロー追加
go-g2p-v* タグ push 時に:
1. 3 OS でテスト実行
2. src/go/phonemize/vX.Y.Z モジュールタグを作成・push
3. pkg.go.dev にインデックス登録をリクエスト
* ci: G2P CI/CD 改善 (全10項目)
#1 Go モジュールパスを piper-plus-g2p/phonemize → piper-plus/src/go/phonemize に修正
#2 Python publish にタグ vs pyproject.toml バージョン整合チェック追加
#3 Go ゴールデンテスト追加 (phoneme_test_cases.json 共有フィクスチャ)
#4 JS ゴールデンテストを g2p-wasm-ci.yml に追加
#5 Python テストマトリクスを 3.11/3.12/3.13 に拡充
#6 Rust Cargo.toml に keywords/categories/documentation/readme 追加
#7 Rust MSRV 1.88 テスト追加
#8 Rust feature flag 組み合わせテスト追加 (no-default, english, japanese)
#9 Go publish ワークフローに golangci-lint 追加
#10 Python 個別 extras (ja/en/zh) インストールテスト追加
* test: G2P テストカバレッジ大幅拡充 (全プラットフォーム)
A: Rust ゴールデンテストに encode_test_cases + PUA 全96件個別一致チェック追加
B: Go golden_test に encode/PUA チェック追加、raw_phonemes (4→12), inline_phonemes (5→16) 拡充
C: JS ゴールデンテストに expected_contains/encode 検証追加、EN不規則単語・ZH多文字テスト追加
D: Python PUA 全96件境界値テスト + multilingual プロソディ句読点テスト8件追加
E: Rust FFI エッジケーステスト12件追加 (NULL, 無効言語, メモリ安全)
F: Docker/JS コメント旧名 piper_g2p → piper_plus_g2p 修正
共有フィクスチャに pua_map 96エントリ追加 (クロスプラットフォーム検証用)
* fix: CI 失敗修正 (E501, rustfmt, doc-test, PEP 668)
- Python: test_encode.py, test_multilingual.py の行長を88文字以内に修正
- Rust: ffi.rs, test_g2p_golden.rs に cargo fmt 適用
- Rust: lib.rs doc-test を ignore に変更 (english feature gate 問題回避)
- Python CI: test-extras を --system から venv 方式に変更 (PEP 668 対応)
- Rust: lib.rs heading を piper-g2p → piper-plus-g2p に修正
* fix: ruff format 適用 (test_multilingual.py)
* fix: G2P Python CI extras テストに nltk データ DL 追加
EN の g2p-en は nltk averaged_perceptron_tagger_eng が必要
ayutaz
added a commit
that referenced
this pull request
May 5, 2026
PR #390 の Copilot レビュー指摘 (コメント #7 + コメント #2-5 の精神) を反映: - docs/spec/ios-shared-lib.md: Status 行の `PR #381` を GitHub PR へのマークダウンリンクに変更し、実装根拠への 到達性を改善。 - examples/dart/README.md: 「Android AAR packaging is an M5 candidate.」を「未トラッキング、必要なら issue を立ててほしい」 と明記し、読者の次アクションを示す。 旧コミット f864f94 を対象としたコメント #1, #2-5, #6 は b8dc0ce で §8 マイルストーン節を全削除したため該当行が 存在せず Outdated 扱い。
4 tasks
ayutaz
added a commit
that referenced
this pull request
May 5, 2026
* chore(docs): 完了済み iOS shared-lib チケットを削除 (#381) PR #381 の M1-M4 マイルストーン全完了に伴い、以下を削除: - docs/tickets/377-M{1,2,3,4}-*.md - docs/tickets/README.md (索引) 仕様書 docs/spec/ios-shared-lib.md からは削除チケットへのリンクを 除去し、各 M セクションの状態行を `done (PR #381, 2026-05-05)` に更新。 examples/dart/README.md の存在しない M5-20 チケットへの参照を文面に置換。 実装内容はコードと commit 97cac19 に記録済み。 永続仕様 docs/spec/ios-shared-lib.md と利用者ガイドは保持。 過去の同様の整理: 6f2772f (#346) / 7cc7e0e (HTS voice) / 204807a (phoneme timing) * chore(docs): iOS shared-lib 仕様書から §8 マイルストーン節を削除 PR #381 完了に伴い作業計画書としての §8 マイルストーン節 (M1-M4 スコープ・DoD・PR 単位・タイムライン) を削除し、永続的価値のある 設計判断 (§1-7) と仕様更新ルール (§Updating) のみ残す。 - docs/spec/ios-shared-lib.md: §8 全体 (~140 行) と冒頭 Status の 進捗注記を削除、§Updating からマイルストーン進捗反映の項目を削除、 §2.1 注記の `(M1 で対応)` `(M3 で利用者ガイドに明記)` を恒久表現に置換 - docs/guides/ios-integration.md: 仕様書参照テキストから 「milestone history」「plan A milestones」を除去 - examples/swift/README.md: 仕様書参照テキストから「milestone history (M1-M4)」を除去 - Package.swift: 「Mac Catalyst slices are M5 candidates」を 「not yet supported (see §6)」に置換 仕様書サイズ: 387 → 244 行 他箇所に残る M2/M4/M5 言及 (コードコメント、利用者ガイド、サンプル) は それぞれの文脈で意味が通る記述のため保守的に残す。 * chore(docs): Copilot レビュー対応 — PR リンク化と AAR 追跡先明記 PR #390 の Copilot レビュー指摘 (コメント #7 + コメント #2-5 の精神) を反映: - docs/spec/ios-shared-lib.md: Status 行の `PR #381` を GitHub PR へのマークダウンリンクに変更し、実装根拠への 到達性を改善。 - examples/dart/README.md: 「Android AAR packaging is an M5 candidate.」を「未トラッキング、必要なら issue を立ててほしい」 と明記し、読者の次アクションを示す。 旧コミット f864f94 を対象としたコメント #1, #2-5, #6 は b8dc0ce で §8 マイルストーン節を全削除したため該当行が 存在せず Outdated 扱い。
ayutaz
added a commit
that referenced
this pull request
May 7, 2026
… 強化 (#399) * docs(spec): ZH-EN code-switching 全ランタイム展開設計書 (#384 follow-up) PR #397 で Python のみ完了した ZH-EN code-switching 機能を他 5 ランタイム (Rust/Go/C#/JS-WASM/C++) へ展開するための調査結果・課題リスト 27 項目・ 横断課題 8 項目・ロールアウト計画を docs/spec/ に追加。1 ブランチで全 ランタイム同時対応する方針のリスクと対策も明記。 * docs(spec): ZH-EN loanword 設計書に深堀り調査 3 項目追加 (#384 follow-up) 主要な実装ブロッカーを事前に潰すため、C++ iOS/Android リソース戦略 (xxd 埋め込み採用)、C# DotNetG2P 制約下での独立 pinyin→IPA 実装方針 (IChineseG2PEngine 拡張、~120 行移植)、JSON 同期 CI 戦略 (PUA 踏襲の 案A+B ハイブリッド) について章を追加し、各推奨案を確定。 * docs(spec): ZH-EN loanword 設計書に深堀り調査 3 項目追加 v3 (#384 follow-up) JS/WASM 二層 FFI 設計 (JS bundle + Rust 注入の案 B 採用)、Rust crate 重複問題 (piper-plus-g2p と piper-core 両方に実装必要を確認、工数 ~400→~600 行に修正)、 C++ テストフレーム拡充戦略 (gtest TEST_F で 20 ケース直書き、~4-5h) を追加。 特に Rust の 2 箇所実装は重要な実装制約として §4 と §8.5 に明記。 * docs(spec): ZH-EN loanword 設計書 v4 - 仕様詰めの最終 3 項目 (#384 follow-up) 実装直前の最終仕様として、テストデータ統一フォーマット (共有 JSON fixture + 各ランタイム loader、PUA パターン踏襲)、multilingual dispatcher エッジケース 14 ケースの動作確定 (kana 干渉の制約明記)、 エラーハンドリング統一仕様 (メッセージテンプレート + C API status code 拡張) を追加。これで実装フェーズに入れる粒度に到達。 * docs(spec): ZH-EN loanword 設計書 v5 - リリース/互換性/Go embed (#384 follow-up) Go の //go:embed + sync.Once + Validate() パターン、リリース戦略 (全 ランタイム minor bump、配信順序、チェックリスト)、後方互換性 (opt-out flag enable_zh_en_dispatch、Phase 戦略) を追加。深堀り計 12 項目で 実装フェーズに移行可能な粒度に到達。 * docs(spec): ZH-EN loanword 設計書 v6 - パフォーマンス/thread safety/CI (#384 follow-up) パフォーマンス目標 (<100μs/token, <5% phonemize_chinese 増分)、C++ thread safety (shared_ptr<const LoanwordData> + std::call_once 推奨)、 CI ジョブ整合性 (+2 分許容、新規 zh-en-loanword-sync.yml) を追加。 * docs(spec): ZH-EN loanword 設計書 v7 - メモリ/i18n/セキュリティ (#384 follow-up) メモリ管理戦略 (各ランタイムの OnceLock/sync.Once/Lazy/shared_ptr<const> パターンと Arc 共有でゼロコピー)、i18n 拡張性 (data/loanword/ ディレクト リ化を Phase 2 で)、セキュリティガイド (1MB/10K entry/depth 100 のガー ドラインと共通 _safe_load_json) を追加。 * docs(spec): ZH-EN loanword 設計書 v8 - API doc/debug/dataset運用 (#384 follow-up) API ドキュメント統一 (各ランタイムのテンプレート + 共通用語集)、デバッグ・ トレース戦略 (log level ガイド + PIPER_DEBUG_ZH_EN 環境変数)、データセット 拡張運用フロー (PR/Issue テンプレート + validate_loanword_dict.py CI ガード) を追加。 * docs(spec): ZH-EN loanword 設計書 v9 - WASM/cross-compile/coverage (#384 follow-up) WASM サイズ最適化 (feature gate zh-en で opt-in、+8-12 KB 増)、cross- compile 詳細 (CMake file(READ HEX) で xxd 依存なし全 platform 対応)、 テストカバレッジ目標 (新機能 90%+、coverage-unified.yml で統合) を追加。深堀り計 24 項目で実装フェーズに完全移行可能な水準に到達。 * docs(tickets): ZH-EN ランタイム展開のマイルストーン INDEX を追加 設計書 (zh-en-loanword-runtime-rollout.md) からチケット群を派生させる際の進捗ハブ。 7 チケット (Rust/Go/C#/WASM/C++/CI/Docs) の依存関係・ステータス・受け入れ基準を一元管理する。 * docs(tickets): TICKET-01 Rust ZH-EN チケットを追加 (エージェントレビュー反映済) Section 9「一から作り直すとしたら」を 9.0-9.8 に再編。Plan エージェントのレビュー指摘 (思想拡張 / major bump 宣言 / phf 化判断閾値 / failure mode / i18n 拡張パス) を取り込み。 * docs(tickets): TICKET-02 Go ZH-EN チケットを追加 (エージェントレビュー反映済) Plan エージェント所見を反映: log/slog 既存使用への事実訂正、sub-package 化案削除、 go:generate 文化的補足、testdata/ 衝突解決 (CI sync コピー)、互換戦略明文化、 LoanwordSource sealed type pattern 導入。 * docs(tickets): TICKET-03 C# ZH-EN チケットを追加 (エージェントレビュー反映済) Plan エージェント所見を反映: AOT/JsonSerializerContext 0.4.0 前倒し、record→sealed class+init-only、 EmbeddedResource を glob 検索化、TheoryData<>+ClassData 採用、NuGet 離脱 9.6a 新設、 ILogger を non-generic + NullLogger.Instance default + LoggerMessage source generator。 ConvertEmbeddedEnglish の戻り値を ChineseG2PResult に修正 (Section 2 シグネチャバグ)。 * docs(tickets): TICKET-04 JS/WASM ZH-EN チケットを追加 (エージェントレビュー反映済) Plan エージェント所見と事実誤認 3 件を訂正: - engines.node "18+" → ">=24.0.0"、import attribute assert → with - MultilingualG2P 未存在を明記し G2P factory + v1.0.0 createMultilingualG2P へ移行 - Cargo default = [] (opt-in 維持)、zh-en は default に含めない (1MB ガード保護) - 9.5b 優先順位ルール新設、9.2 single-flight WASM init pattern、CDN JSON loader 戦略 (jsdelivr/unpkg) - TS 型 sync test (schemars vs .d.ts)、debug toggle の privacy 配慮 (入力テキスト非露出) * docs(tickets): TICKET-05 C++ ZH-EN チケットを追加 (エージェントレビュー反映済) Plan エージェント所見でクリティカル修正 3 件: - namespace piper_plus → piper、関数名 snake_case → camelCase (既存 src/cpp と整合) - std::call_once 例外挙動を cppref [thread.once.callonce]/2 に基づき正確化 - iOS stripped binary では nm/strings 不可 → 3 層検証 (build print + symbol check + runtime API) 加えて: シンボル衝突対策 3 段階 (namespace + visibility=hidden + inline ns)、 struct alignment + _Static_assert ABI 規約、Sanitizer Phase 1/2/3 段階導入、 C++26 #embed 採用 3 軸条件、splitPinyin/pinyinToIPA 既存関数 export 必須化。 * docs(tickets): TICKET-06 CI/Sync チケットを追加 (エージェントレビュー反映済) Plan エージェントの CI/DevOps 観点 7 所見を反映: - 9.1 auto-sync bot 推奨 → 現行案 (CI gate + --fix) 維持、operational コスト評価 - 9.0 #6 opt-in pre-commit を業界比較 (PUA/Claude/TF/K8s) で根拠強化 - S6 /check-loanword skill 雛形を本 PR で作成 (Out of scope 解除) - 9.0 #8 Branch protection IaC は別 ticket、merge checklist で運用 - 9.3 cancel-in-progress 採用 + 波及範囲明確化、CI 時間 cache miss 悲観値併記 - 9.5 schema migration プロトコル (forward-compat loader、5 ランタイム同時 PR 不要化) * docs(tickets): TICKET-07 Docs/Release チケットを追加 (エージェントレビュー反映済) クリティカル修正: Rust opt-out シグネチャ (.zh_en_dispatch → .enable_zh_en_dispatch、 TICKET-01 §9.2 / 設計書 §8.12 と整合)。 Plan エージェントの Tech Writing 観点 7 所見を反映: - 9.0 #1: glossary に vale lint 強制を追加 - 9.0 #2: fixture pinning (py_runtime_version + regen_requirements) - 9.0 #6: doctest 言語 asymmetry を容認、fixture-driven 検証で stale 防止 - 9.0 #7: changelog-lint workflow を本 PR で新規追加 - 9.1: mkdocs-material を後続 PR に降格 (工数評価) - 9.2 migration guide 冒頭に compatibility matrix を必須化 - 9.3: release-please 採用と決定 (semantic-release との比較理由 + config 例) * docs(tickets): INDEX をチケット作成完了状態に更新 7 チケットの作成とエージェントレビュー反映を完了。ステータスを Draft → Ready に変更、 進捗ダッシュボードでチケット作成 100% 完了を可視化。各チケットの担当チーム編成も実反映。 * docs(tickets): ZH-EN ロードマップ横断レビュー (4 エージェント並列) を反映 ## RED 修正 (マージブロッカー) - **戻り値型整合**: - TICKET-03 §C3: `IReadOnlyList<string>` → `ChineseG2PResult` に統一 (interface と実装の signature ずれ解消、prosody 0 fill) - TICKET-05 §P1-P3: `vector<vector<Phoneme>>` → flat `vector<Phoneme>` に統一 (Rust/Go/C# fixture との byte 比較成立)。namespace `piper_plus` → `piper` も合わせて修正 - **「6 箇所」表記揺れ**: 設計書 §6.3/§8.3/§8.15/§8.21 + TICKET-06 §1 + README + workflow YAML を **7 箇所** (Rust 2 crate 含む) に統一。設計書 §8.3/§8.15 の workflow YAML サンプルに `piper-core` を追加 - **TICKET-06 二段階運用**: Day 13 集中着手 → **Phase 6a (Day 1) workflow skeleton + hash gate を先行 merge** + **Phase 6b (Day 14) fixture/skill 完成** に分割。12 日間 gate 不在によるサイレント drift を解消 - **スケジュール 14 → 16 日**: TICKET-01 (3→4日) / TICKET-04 (1→2日) / TICKET-05 (3→4日 + Mobile 検証日独立) + Day 16 統合バッファ。Python PR #397 (1,578 LOC) との比較で楽観バイアスを解消 - **リスク表 3 項目追加** (README §8): pinyin→IPA 移植精度 / Rust 2 crate サイレント drift / C++ ABI 影響 - **Stacked PR 戦略** (README §8): ~2,300 LOC 単 PR を **5 段階** (PR-A〜PR-E) に分割推奨 ## YELLOW 修正 (整合性) - TICKET-01 §7 懸念 5: opt-in/opt-out を **コンパイル時 (Cargo feature)** と **ランタイム (dispatch)** の **2 層管理**に明示化。設計書 §8.22 と TICKET-04 §2 W2 と整合 - TICKET-03 フラグ命名: `ZhEnDispatch` → **`EnableZhEnDispatch`** に統一 (5 ランタイム共通命名 `enable_zh_en_dispatch` / `WithZhEnDispatch` / `setZhEnDispatch` / etc. と整合) - TICKET-06 fixture mirror に `piper-plus-g2p` 追加 (Rust 2 crate 対称テスト要件 R5) - TICKET-06 `--fix` を **Python source 一方向コピー** と明記 + `--diff` flag 追加方針記載 - `.gitattributes` に `*.json text eol=lf` 追加 (Windows CRLF 衝突で sha256 gate 破綻を回避) - 全 5 ランタイムテスト表に **`test_loader_accepts_unknown_fields_in_schema_v2`** 追加 (forward-compat loader、設計書 §9.5 schema migration プロトコル整合) ## 思想集約 (D1/D2) - TICKET-07 §9.2 compatibility matrix を **API / SemVer / ABI / Schema 4 軸** に拡張。TICKET-01 §9.4 / TICKET-04 §9.9 / TICKET-05 §9.9 / TICKET-06 §9.5 のコンテンツを単一表に集約 - README §9.X 横断的な盲点 5 項目追加: (1) 音声品質評価軸 (MOS/PESQ) / (2) Loanword data の linguistic governance / (3) AI 並列消化フロー / (4) 多次元 i18n scaling (N×M loanword) / (5) PUA codepoint 枯渇プロトコル - INDEX v3 改訂履歴追加 (RED + YELLOW + 思想集約の総まとめ) ## 変更ファイル - `.gitattributes` - `docs/spec/zh-en-loanword-runtime-rollout.md` - `docs/tickets/zh-en-loanword/{README,TICKET-01〜07}.md` 10 files changed, 250 insertions(+), 104 deletions(-) Closes: クロスカット整合性レビュー (4 エージェント並列、API consistency / Data layer + CI sync / Schedule + Risk / Philosophy) * chore(ci): TICKET-06a — ZH-EN loanword sync gate (Day 1 skeleton) Phase 6a (Day 1) of TICKET-06 — workflow + helper script land first to catch JSON drift the moment TICKET-01〜05 add their copies, instead of waiting until Day 14 with 12 days of unguarded merges. * `.github/workflows/zh-en-loanword-sync.yml` — schema validation + byte-for-byte hash check across all 7 zh_en_loanword.json copies (Python source + Python runtime + Rust ×2 + Go + C# + WASM + C++). Runs in `--allow-missing` mode so Phase 6a can merge before downstream copies exist; Phase 6b (Day 14) drops the flag and adds fixture mirror parity checks. * `scripts/check_loanword_consistency.py` — CLI helper with `--fix` (one-way copy from Python source), `--schema-only`, `--diff`, `--allow-missing`. Source-of-truth note + `.gitattributes` requirement per YELLOW-4 reflection in the ticket review. * `.gitignore` — exempt the new script from `check_*.py` blanket ignore (sibling to `check_pua_consistency.py`). Refs: docs/tickets/zh-en-loanword/TICKET-06-ci-sync.md (S1+S2) * feat(rust): TICKET-01 — ZH-EN code-switching in piper-plus-g2p / piper-core Implements `[zh, en, *]` / `[en, zh]` / `[zh, en, zh]` dispatch (Issue #384): embedded English in Chinese context is phonemized as Mandarin pinyin via the bundled loanword dictionary instead of the standard English path. Two-crate symmetric implementation per design §8.5: * `piper-plus-g2p::chinese` — primary implementation (consumed by WASM) * `piper-core::phonemize::chinese` — mirror with `phonemize_embedded_english_with_prosody` for ProsodyInfo integration (a1=a2=a3=0 fill). R1-R5 deliverables: * R1: `phonemize_embedded_english(text, &LoanwordData) -> Vec<String>` free function in both crates; `ChinesePhonemizer::phonemize_embedded_english` method (Python-equivalent API). * R2: `LoanwordData` struct with `#[serde(default)]` per-section for forward- compatibility. `parse_loanword_json(label, json)` produces Python-compatible error format (`"<label>: '<section>.<key>' must be list[str], got <value>"`). `load_default_loanword_data()` → `&'static LoanwordData` cached via `OnceLock`. * R3: `MultilingualPhonemizer` adds `enable_zh_en_dispatch` (default-on with `chinese` feature, opt-out at runtime — two-layer model from TICKET-01 §7 懸念 5). `[zh, en, *]` segment patterns route the en segment through the loanword path. * R4: `data/zh_en_loanword.json` embedded in both crates via `include_str!`, byte-for-byte identical to Python source (CI gate enforced by TICKET-06a). * R5: 45 tests total - 18 ZH-EN unit tests / crate (acronym GPS, loanword Python, ChatGPT 5-syllable, letter fallback, empty input, lookup priority, case sensitivity, trailing punctuation, two embedded en, digits dropped, schema validation invalid type / section, forward-compat loader for schema_v2 — YELLOW-5) - 6 multilingual dispatch integration tests (default enabled, zh-en-zh / zh-en patterns, dispatch disabled fallthrough, pure zh / pure en regression) - 3 cross-crate consistency tests (`tests/test_zh_en_two_crate.rs`) Forward-compat (YELLOW-5): unknown top-level fields in a future `schema_version: 2` JSON are ignored, no breakage on legacy loaders. Total: ~720 LOC + 45 tests; piper-plus-g2p 325 lib tests pass, piper-plus 629 lib tests pass — no regression. Refs: docs/tickets/zh-en-loanword/TICKET-01-rust.md * feat(go): TICKET-02 — ZH-EN code-switching in src/go/phonemize Implements `[zh, en, *]` / `[en, zh]` / `[zh, en, zh]` dispatch in the Go phonemize package, byte-for-byte consistent with Rust (TICKET-01) and the Python reference (PR #397). G1-G5 deliverables: * G1: `chinese_loanword.go` — `LoanwordData` struct with `embed.FS` JSON, `LoadLoanwordData()` (sync.Once cached), `LoadLoanwordDataFromBytes()` for overrides, `parseLoanwordJSON()` with Python-equivalent error messages ("'<section>.<key>' must be list[str], got <value>"). Sentinel errors (`ErrLoanwordIO/Schema/Parse`) for `errors.Is`. * G2: `(*ChinesePhonemizer).PhonemizeEmbeddedEnglish(text, *LoanwordData)` reuses the existing `zhSplitPinyin / zhPinyinToIPA / zhExtractTone / zhNormalizePinyin / zhApplyToneSandhi / MapSequence` pipeline. * G3: `MultilingualPhonemizer` adds `enableZhEnDispatch` (default-on when both "zh" and "en" registered) + `SetZhEnDispatch(bool)` opt-out. The dispatch routes `en` segments adjacent to `zh` through the loanword path. * G4: `data/zh_en_loanword.json` embedded via `//go:embed`, byte-for-byte identical to Python source (CI gate enforced by TICKET-06a). * G5: 24 tests - 18 unit tests (acronym GPS=11 tokens, loanword Python=6 tokens, ChatGPT=15 tokens, letter fallback ZZ=2×Z, empty input, lookup priority loanword>acronym>fallback, case sensitivity, trailing punctuation, two embedded en, digits dropped, MP3 acronym path, schema validation invalid type / section, forward-compat loader for schema_v2 — YELLOW-5, embed consistency) - 6 multilingual dispatch tests (default enabled, disabled when no en, [zh,en,zh] pattern, dispatch off fallthrough, pure zh / pure en regression) Forward-compat (YELLOW-5): `encoding/json` default ignores unknown top- level fields, so a future schema_version: 2 with new fields works without loader changes. The contract is pinned by `TestLoaderAcceptsUnknownFieldsInSchemaV2`. All 88 existing phonemize tests still pass — no regression. Refs: docs/tickets/zh-en-loanword/TICKET-02-go.md * feat(csharp): TICKET-03 — ZH-EN code-switching in PiperPlus.Core Implements `[zh, en, *]` / `[en, zh]` / `[zh, en, zh]` dispatch in the C# Core library, byte-for-byte consistent with Rust (TICKET-01) and Go (TICKET-02), without depending on the `DotNetG2P.Chinese` NuGet package (design §8.2 X7 — Core remains independent of any specific Chinese G2P backend for the embedded-English path). C1-C4 deliverables: * C1: New `Phonemize/PinyinToIpa.cs` — independent C# port of Python's `_pinyin_to_ipa`, with `InitialToIpa` / `FinalToIpa` static dictionaries (Mandarin phonology: b=[p], p=[pʰ], etc.), `NormalizePinyin`, `SplitPinyin`, `Convert`, `ApplyToneSandhi`. No NuGet dependency. New `Phonemize/ChineseEmbeddedEnglish.cs` — applies tokenization, lookup priority (Loanwords > Acronyms > LetterFallback), then `PhonemizeFromPinyinSyllables` → `OpenJTalkToPiperMapping.MapSequence` for PUA mapping. Returns `ChineseG2PResult` with prosody filled with zeros (design §8.5 懸念 4). New `Phonemize/Data/{LoanwordData.cs, LoanwordDataLoader.cs}`: record + Lazy<T> (ExecutionAndPublication) loader using `JsonDocument` for forward-compat parsing with Python-equivalent error messages ("'<section>.<key>' must be list[str], got <value>"). Sentinel `LoanwordSchemaException`. * C2: csproj `<EmbeddedResource>` for `Phonemize/Data/zh_en_loanword.json` with explicit `LogicalName`. JSON is byte-identical to Python source (CI gate enforced by TICKET-06a). * C3: `IChineseG2PEngine.ConvertEmbeddedEnglish(string, LoanwordData?)` with default impl that routes to `ChineseEmbeddedEnglish.Convert`, keeping all existing engine impls (incl. test stubs) source-compatible. `ChinesePhonemizer.PhonemizeEmbeddedEnglish(string)` exposed for multilingual dispatch. `MultilingualPhonemizer.EnableZhEnDispatch` property (default-on when both `"zh"` (a `ChinesePhonemizer`) and `"en"` are registered) routes embedded en segments through the loanword path. * C4: 21 xUnit tests added (ChineseEmbeddedEnglishTests): - Loader: default embedded loads, Lazy<T> identity, schema invalid type / section, forward-compat schema_v2 (YELLOW-5), embedded JSON contains canonical keys. - PhonemizeEmbeddedEnglish: GPS=11, Python=6, ChatGPT=15, ZZ=2×Z, empty input, lookup priority loanword>acronym>fallback, trailing punctuation, two embedded en, digits dropped, MP3 acronym path, case sensitivity Python vs PYTHON. - PinyinToIpa: b/p aspiration distinction, ang final, full syllable pai4 round-trip. All 1190 PiperPlus.Core.Tests pass — no regression. Forward-compat (YELLOW-5): `JsonDocument`-based loader skips unknown top-level fields by inspection, so a future schema_version: 2 with new fields (e.g. tone_overrides) loads cleanly. Pinned by `Loader_AcceptsUnknownFieldsInSchemaV2`. Refs: docs/tickets/zh-en-loanword/TICKET-03-csharp.md * feat(wasm): TICKET-04 — ZH-EN code-switching FFI + JS wrapper Exposes the ZH-EN dispatch toggle (TICKET-01 R3 in piper-plus-g2p) through the WASM phonemizer and the JS-side ChineseG2P wrapper, completing Issue #384 for the JS/WASM runtime. The actual loanword phonemization runs entirely in Rust (zero JS-side logic) so byte-for-byte parity with the Rust runtime is automatic. W2-W5 deliverables: * W2: piper-plus-wasm gains `setZhEnDispatch(enabled: bool)` and `isZhEnDispatchEnabled() -> bool` wasm-bindgen exports, forwarded to `MultilingualPhonemizer::enable_zh_en_dispatch / .is_zh_en_dispatch_enabled`. No new feature flags — ZH-EN dispatch follows the existing `chinese` compile-time gate from TICKET-01. * W3: `src/wasm/g2p/src/zh/index.js` — `ChineseG2P.setZhEnDispatch(enabled)` and `.isZhEnDispatchEnabled()` forward to the underlying WASM phonemizer when present, no-op when running in fallback (character- level passthrough) mode. Truthy/falsy values are coerced to bool. * W4: TypeScript declarations — added `LoanwordData` interface (mirrors Python schema) and the new `setZhEnDispatch / isZhEnDispatchEnabled` methods on `ChineseG2P`. Constructor `wasmPhonemizer` option also typed. * W5: 9 new tests in `test/test-chinese-zh-en.js`: - setZhEnDispatch wrapper: 5 tests (no-WASM no-op, forwarding, truthy/falsy coercion, version-mismatch graceful no-op, default state from stub) - bundled JSON shape: 4 tests (TypeScript schema, canonical Issue #384 keys, GPS=4 syllables, schema_v2 forward-compat — YELLOW-5) The bundled `data/zh_en_loanword.json` is byte-for-byte identical to the Python source (CI gate). Override (`setChineseLoanwordData`) is delayed to v1.0.0 per TICKET-04 §9.2 — current PR uses the Rust-side bundle exclusively. All 31 existing Chinese G2P tests still pass; total 40 PASS — no regression. Refs: docs/tickets/zh-en-loanword/TICKET-04-wasm.md * feat(cpp): TICKET-05 — ZH-EN code-switching core in src/cpp/ Implements the Mandarin pinyin path for English-in-Chinese tokens (Issue #384) in C++, byte-for-byte consistent with Rust (TICKET-01), Go (TICKET-02), C# (TICKET-03), and JS/WASM (TICKET-04). P1, P2, P5 (partial), P6 deliverables in this commit: * P1 — `chinese_loanword.{hpp,cpp}` (new, ~300 LOC) - `LoanwordData` struct + `LoanwordSchemaError` exception class. - `parseLoanwordJson(label, json)` produces Python-equivalent error messages ("'<section>.<key>' must be list[str], got <value>"). Forward-compat (YELLOW-5): unknown top-level fields are silently ignored, so a future schema_version: 2 with new fields parses cleanly. - `getDefaultLoanwordData()` returns a `std::shared_ptr<const>` cached by `std::call_once`. Embedded mode (`PIPER_PLUS_EMBEDDED_LOANWORD`) loads from a CMake-generated header for iOS/Android; desktop mode loads from `<exe-dir>/data/zh_en_loanword.json`. - `loadLoanwordDataFromPath(path)` for overrides + tests. * P2 — `chinese_phonemize.cpp` extension (+~85 LOC) - `phonemizeEmbeddedEnglish(text, std::vector<Phoneme>& out, data)` flat output (matches Rust `Vec<String>` / Go `[]string` / C# `IReadOnlyList<string>`). Reuses the existing `splitPinyin` / `pinyinToIPA` / `extractTone` / `normalizePinyin` / `applyToneSandhi` helpers in the anonymous namespace, so PUA mapping (U+E020..E04A) is consistent with the canonical Chinese path. - Lookup priority: case-sensitive loanwords -> uppercase acronyms -> per-letter fallback (digits silently dropped). * P5 (partial) — `data/zh_en_loanword.json` (new) - Byte-for-byte identical to Python source (CI gate now green for all 7 mirrors). Desktop install path resolution via `piper_plus_get_exe_dir()`. Mobile xxd-free embedding stub (`PIPER_PLUS_EMBEDDED_LOANWORD`) ready for the iOS/Android follow-up that wires `embed_json_as_header()`. * P6 — `tests/test_zh_en_loanword.cpp` (new, ~190 LOC, gtest) - Loader: ParseLoanwordJson_ValidV1, MissingVersion_Throws, NonListValue_Throws, NonDictSection_Throws, Loader_AcceptsUnknownFieldsInSchemaV2 (YELLOW-5). - PhonemizeEmbeddedEnglish: Acronym_GPS=11 phonemes, Loanword_Python_CaseSensitive=6 phonemes != PYTHON, ChatGPT_FiveSyllables=15, Empty_ReturnsEmpty, TrailingPunctuation, LookupPriority_LoanwordBeatsAcronym, AcronymWithDigits_MP3, DigitsDropped (Z2Z9 == ZZ), TwoEmbeddedEn (ChatGPT 和 Python = ChatGPT.size + Python.size). - ConcurrentAccess: 8 threads × 200 iterations of `phonemizeEmbeddedEnglish("GPS", ...)` validating the `shared_ptr<const>` immutable contract. - Wired into `tests/CMakeLists.txt` with the right minimal dependency set (chinese_loanword.cpp + chinese_phonemize.cpp + phoneme_parser.cpp + library_path.c). Out of scope for this commit, deferred to a follow-up: * P3 (piper.cpp `[zh,en,*]` dispatch wiring) * P4 (C API export `piper_plus_phonemizeEmbeddedEnglish`) * P5 full CMake `embed_json_as_header()` for xcframework / aar (the build flag and runtime hook are in place; the actual generator is the Mobile follow-up's contract) This ships the cross-runtime parity contract first; the pipeline integration follows once the audio-pipeline owners review the flat / nested boundary in piper.cpp. CI gate: `python scripts/check_loanword_consistency.py` now reports "All 7 copies in sync" (no `--allow-missing` warnings). Refs: docs/tickets/zh-en-loanword/TICKET-05-cpp.md * chore(ci): TICKET-06b — fixture matrix, full sync gate, /check-loanword skill Phase 6b (Day 14) of TICKET-06: with TICKET-01〜05 having landed all 6 runtime mirrors, switch the CI gate from `--allow-missing` (Phase 6a) to the full byte-for-byte gate (7 copies + 6 fixture mirrors) and ship the cross-runtime fixture matrix that pins the canonical Issue #384 examples. Deliverables: * `tests/fixtures/g2p/zh_en_loanword_matrix.json` (new) - schema_version: 1, 18 cases: - 4 acronym/loanword/letter-fallback shape assertions - 5 punctuation / digit / case-sensitivity edge cases - 3 Issue #384 examples (请打开 GPS / 我喜欢用 Python 写代码 / 让我用 ChatGPT 写代码) for the per-runtime full-sentence smoke - 1 forward-compat schema_v2 input that all 5 runtimes' loaders must accept (YELLOW-5) - Per-case structure documents which assertions are absolute (`expected_token_count`) vs relative (`expected_token_count_equiv`, `expected_token_count_equiv_sum`) so each runtime can verify against its own pinyin→IPA pipeline without forcing a single Python-derived ground truth that would freeze the contract too early. * `scripts/check_loanword_consistency.py` `--fix` run - Distributed the matrix to 6 mirror locations: - src/go/phonemize/testdata/ - src/csharp/PiperPlus.Core.Tests/Phonemize/TestData/ - src/cpp/tests/fixtures/ - src/wasm/g2p/test/fixtures/ - src/rust/piper-plus-g2p/tests/fixtures/ - src/rust/piper-core/tests/fixtures/ - All 6 mirrors are now SHA256-identical to the canonical tests/fixtures/g2p/zh_en_loanword_matrix.json. * `.github/workflows/zh-en-loanword-sync.yml` - Dropped `--allow-missing` from the hash-check step. - Renamed step / refreshed comment to "Phase 6b — full gate, 7 copies + 6 fixture mirrors". Any drift now blocks the PR. * `.claude/skills/check-loanword/SKILL.md` (new) - Mirror of the `check-pua` skill template, scoped to the ZH-EN contract: 7-copy SHA256, schema validation, 6 fixture mirror sync, forward-compat loader pinning across all 5 runtimes. - Documents the source-of-truth one-way `--fix` semantics from YELLOW-4: editing a mirror directly is a footgun, edit the Python source. - Troubleshooting table for the common failures (CRLF on Windows, missing path during phase transitions, schema list[str] violations). CI verification: `python scripts/check_loanword_consistency.py` (no flags) now reports "OK All 7 copies + 6 fixture mirrors in sync". Refs: docs/tickets/zh-en-loanword/TICKET-06-ci-sync.md (Phase 6b) * docs(release): TICKET-07 — ZH-EN runtime expansion done across 7 runtimes Documents the completion of Issue #384 ZH-EN code-switching rollout. With TICKET-01〜06 landed, the feature is now byte-for-byte consistent across Python (PR #397), Rust (2 crates), Go, C#, JS/WASM, and C++. Updates: * `CLAUDE.md` — Chinese G2P feature paragraph upgraded from "Python ランタイム側にも同等実装" to call out: - 全 7 ランタイム同期 with the runtime list explicit - CI gate name + the `/check-loanword` skill - Forward-compat loader contract (YELLOW-5 pinning across all 5 runtimes) - Pointer to docs/tickets/zh-en-loanword/ * `CHANGELOG.md` `[Unreleased]` — New "ZH-EN code-switching を全 7 ランタイムに展開" section with the cross-runtime release notes: - Canonical JSON path + mirror count (7 copy + 6 fixture) - Runtime-specific opt-out API names (enable_zh_en_dispatch / SetZhEnDispatch / EnableZhEnDispatch / setZhEnDispatch) - Forward-compat loader pin - Two-layer (compile + runtime) gate model - Test totals per runtime (111 ZH-EN tests, 0 regression) - Issue #384 worked examples * `docs/tickets/zh-en-loanword/README.md` (INDEX) — Phase 0-7 dashboard flipped to 100% ✅ Done with the test-count summary per phase. New status note: "2026-05-07 Phase 7 完了, 7 commit (PR-A〜PR-E)". Outstanding work clarified: TICKET-05 P3/P4 (piper.cpp dispatch + C API export) deferred to a follow-up since they involve the audio pipeline owners' review. The CI gate "ZH-EN Loanword Sync Gate / json-sync" reports green for the 7-copy + 6-fixture-mirror byte-for-byte contract. Refs: docs/tickets/zh-en-loanword/TICKET-07-docs.md * feat(cpp): TICKET-05 P3 — piper.cpp [zh,en,*] dispatch wiring Wires the Issue #384 ZH-EN code-switching path into the synthesis pipeline. When a multilingual segment is `en` and adjacent to a `zh` segment (`[zh,en,*]` / `[en,zh]` / `[zh,en,zh]`), we route through `piper::phonemizeEmbeddedEnglish` (loanword path, Mandarin pinyin output) instead of the standard CMU-dictionary English G2P. Changes: * `#include "chinese_loanword.hpp"` added at the top of piper.cpp. * The multilingual segment loop is converted from range-based to index-based (`for (size_t segIdx = 0; ...)`) so the dispatch logic can examine `langSegments[segIdx - 1]` / `langSegments[segIdx + 1]` for adjacency. * `hasZhSegment` is pre-computed once per outer segment so the inner dispatch check stays O(1). * In the `langSeg.lang == "en"` branch: - If the segment is adjacent to a zh segment, call `piper::phonemizeEmbeddedEnglish(text, embedded_flat, *data)`. - The flat `vector<Phoneme>` is wrapped into the existing `vector<vector<Phoneme>>` (`langPhonemes`) via `emplace_back` so the downstream audio pipeline ABI stays unchanged (design §8.5). - On `getDefaultLoanwordData()` failure, log via `spdlog::debug` with the underlying error message and fall through to the CMU path (graceful degradation). - When dispatched, the standard English path is skipped via an `if (zhEnDispatched)` guard. Behavior on existing inputs (pure zh / pure en / ja-en / etc.) is unchanged: the dispatch only fires when both prev_is_zh / next_is_zh adjacency is satisfied. Refs: docs/tickets/zh-en-loanword/TICKET-05-cpp.md (P3) * feat(cpp): TICKET-05 P4 — C API export piper_plus_phonemize_embedded_english Exposes the ZH-EN loanword phonemization path through the stable C ABI in `piper_plus.h`, so FFI consumers (Dart / Godot / Unity / Swift) can compute the loanword IPA tokens without owning a full PiperPlusEngine. API surface (4 functions, opaque handle): * `PiperPlusLoanwordHandle *piper_plus_loanword_load_default(void)` — bundled JSON, single-flight init via `getDefaultLoanwordData()`. * `PiperPlusLoanwordHandle *piper_plus_loanword_load_from_path(const char*)` — load from a custom JSON file path; bypasses the default cache. * `void piper_plus_loanword_free(PiperPlusLoanwordHandle*)` — safe to pass NULL. * `PiperPlusStatus piper_plus_phonemize_embedded_english( handle, text, *out_result)` — writes a borrowed UTF-8 IPA string + token count into a `PiperPlusPhonemeResult`. Per-handle output buffer (`last_phonemes`) is overwritten on subsequent calls. Implementation notes (`piper_plus_c_api.cpp`): * `PiperPlusLoanwordHandle` holds a `shared_ptr<const LoanwordData>` + a `std::string` for the most recent UTF-8 phoneme output + a stable `"zh"` language string. * The flat `std::vector<Phoneme>` (UTF-32 codepoints) returned by `piper::phonemizeEmbeddedEnglish` is encoded to a UTF-8 space-separated string inline (no external utf8 lib needed); PUA codepoints in U+E020..E04A become 3-byte UTF-8 sequences. * All entry points wrap the body in try/catch, populating thread-local `g_last_error` via `set_error()` consistent with the rest of the C API. * Standard error codes: PIPER_PLUS_OK on success, PIPER_PLUS_ERR for invalid arguments / parse / IO failures. Refs: docs/tickets/zh-en-loanword/TICKET-05-cpp.md (P4) * feat(cpp): TICKET-05 P5 — CMake embed_json_as_header (iOS/Android xxd-free) Wires the iOS xcframework / Android .aar embedding contract for `zh_en_loanword.json`. Apple-embedded targets (iOS / tvOS / watchOS / visionOS) and Android targets now bundle the JSON as a compile-time unsigned-char array — no `xxd` / `bin2c` host tool, no runtime file dependency, libpiper_plus.a / .aar are self-contained. Changes (`cmake/PiperCommon.cmake`): * New `piper_embed_json_as_header(INPUT_JSON OUTPUT_HEADER VAR_NAME)` function uses `file(READ ... HEX)` + a regex transform to emit a C-array header at configure time. Generated header declares: static const unsigned char <var>[] = { 0x..., 0x..., ... }; static const std::size_t <var>_len = sizeof(<var>); No host tools required; works identically on Linux / macOS / Windows configure hosts. * In `piper_common` setup: - When `PIPER_APPLE_EMBEDDED OR ANDROID`: invoke the function on `src/cpp/data/zh_en_loanword.json`, append the generated `${CMAKE_CURRENT_BINARY_DIR}/zh_en_loanword_data.h` to `PIPER_COMMON_SOURCES`, set `PIPER_PLUS_EMBEDDED_LOANWORD` compile definition (activates the embedded branch in `chinese_loanword.cpp`), and add `${CMAKE_CURRENT_BINARY_DIR}` to the include path so `#include "zh_en_loanword_data.h"` resolves. - Otherwise (desktop): install the JSON to `share/piper/dicts/zh_en_loanword.json` so `piper_plus_get_exe_dir()` + `chinese_loanword.cpp`'s `<exe-dir>/data/zh_en_loanword.json` resolution path picks it up. Validation: `cmake ..` reconfigure on the existing Windows build dir completes without errors. The `PIPER_APPLE_EMBEDDED OR ANDROID` branch is exercised by CI (`release-shared-lib.yml`) on the iOS / Android cross-compile jobs. This closes TICKET-05 P5; the static `getDefaultLoanwordData()` path in `chinese_loanword.cpp` already had the `#ifdef PIPER_PLUS_EMBEDDED_LOANWORD` branch ready to consume the generated header (the runtime hook landed in commit c8bce8f). Refs: docs/tickets/zh-en-loanword/TICKET-05-cpp.md (P5) * fix(zh-en): レビュー指摘 Critical 8 / High 13 の修正対応 5 エージェント並列レビューで判明した Issue #384 ZH-EN code-switching ロールアウトの後追い課題を一括修正。詳細は各タスクコメント参照。 ## Critical (推論結果に影響するバグ含む) - **R-C1**: Rust dispatch path で per-token prosody が None で push され ていたバグを修正。Python は `(a1=tone, a2=1, a3=1)` を返す。両 crate の `phonemize_embedded_english_with_prosody` を実装し、multilingual dispatch から呼ぶ形に変更。tone 情報が ONNX prosody tensor に正しく 流れるようになる。同 fix を C# `ChineseEmbeddedEnglish.Convert` にも 適用 (zero-fill -> per-token tone)。 - **CI-C2**: `scripts/check_loanword_consistency.py::validate_schema` が `version` 必須にしていたが Python source は validate しない。整合化 し `schema_v2 future data` を block しないように。 - **CI-C3**: Python `tests/test_zh_en_loanword.py` に `test_loader_accepts_schema_v2_future_fields` を追加。Rust/Go/C#/WASM/ C++ のフォワードコンパチ test と等価動作を Python 側でも pin。 - **Cpp-C1**: CMake `piper_embed_json_as_header()` を新 driver script `cmake/EmbedJson.cmake` に切り出し、HEX レベルで CR (0x0d) を strip。 Windows checkout の CRLF 147 byte が iOS/Android アーティファクトに 混入する問題を解消。 - **R-C2**: piper-core 側 `phonemize::chinese` のレビューノートで 「production 経路ではなく test_zh_en_two_crate.rs のみが消費」を明示。 drift 防止のために cross-crate parity test を prosody 検証込みに強化。 - **R-C3**: piper-core から `enable_zh_en_dispatch` を制御する API が 欠落していたため、`Phonemizer` trait に default no-op の `set_zh_en_dispatch` / `is_zh_en_dispatch_enabled` を追加。 `MultilingualPhonemizer` でオーバーライド、`G2pAdapter` で forward、 `PiperVoice` に setter/getter 公開。 - **R-C4**: Rust loader の `version` 必須を撤廃 (Python と整合)。 `schema_version` を alias 受理し、不在時は 1 にフォールバック。 「Python-byte-equal error message」主張は shape-compatible に トーンダウン。 ## High - **Cpp-H1**: `piper.cpp` ZH-EN dispatch でロード失敗時に CMU フォール バックしていたのを Python と整合化。empty 出力 + spdlog::warn。 - **Cpp-H2**: C++ ランタイム opt-out API を追加 (`Voice::enableZhEnDispatch`、 C API `piper_plus_set_zh_en_dispatch` / `piper_plus_is_zh_en_dispatch_enabled`)。設計書 §8.22 を満たす。 - **Cpp-H3**: CMake embed を `add_custom_command(DEPENDS)` ベースに切替。 入力 JSON の変更を build-time に検出。 - **CI-H1**: workflow `paths:` を `**/zh_en_loanword_matrix.json` に拡張、 6 mirror 直編集 PR を捕捉できるように。 - **CI-H2**: placeholder の `fixture-self-check` job を `helper-self-check` に置換 (`--diff` クリーンツリー検証 + `--fix` 冪等性検証)。 - **CI-H3**: `docs/tickets/zh-en-loanword/README.md` の Phase 5 ステータス 矛盾を解消、レビュー対応経緯を追記。 - **R-H1**: Rust に `[en, zh, en]` パターン test と prosody 整合 test を 追加 (multilingual::tests)。 - **R-H3**: piper-core の chinese.rs ~225 行 dead code に明示コメント、 drift 防止のため cross-crate parity test を prosody 込みに強化。 - **CS-H1**: C# `ChineseEmbeddedEnglishTests` に MultilingualPhonemizer dispatch の 6 ケース + prosody 整合 test を追加。 - **CS-H2**: `LoanwordSchemaException` を CA1032 準拠に (`(string, Exception)` ctor 追加、`JsonException` を wrap)。 - **CS-H3**: `_enableZhEnDispatch` を `volatile` 化。 ## CI gate 向け改善 - **CI-C1 部分対応**: Rust に最小限の fixture loader test を追加 (`tests/fixtures/g2p/zh_en_loanword_matrix.json` の dead asset 化解消)。 全ランタイムでの cross-runtime IPA parity CI は follow-up。 CHANGELOG「全 7 ランタイムで Python と同一 IPA 列」claim を実態に 合わせてトーンダウン。 ## テスト結果 - Rust: piper-plus-g2p 401 + 22 (chinese feature)、piper-core 248 全合格 - Rust cross-crate (test_zh_en_two_crate): 5 全合格 (prosody 整合 + fixture loader 含む) - C#: ChineseEmbeddedEnglishTests 28 / MultilingualDispatch 7 全合格 - Python: 既存 + forward-compat 新規 test 全合格 * test(zh-en): CI で事前担保するためのテスト拡充とフィクスチャ整合 5エージェント並列レビューで判明したテストカバレッジ不足とCIフロー 改善点を全カテゴリ対応。データ変更時に各ランタイムテストが起動しない 問題を ci.yml の zh-en-data フィルタで横断的にカバー。 CI workflow 強化: - ci.yml: zh-en-data フィルタ追加 (Python source / matrix / sync スクリプト / CMake 変更時に Python/Rust/Go/C#/C++/WASM の全 test job を起動) - rust-tests.yml + ci.yml: piper-plus-g2p tests を default 経由で実行 (chinese feature 含む) - dispatch trait test を CI でカバー - python-tests.yml / csharp-ci.yml / go-ci.yml / cpp-tests.yml / g2p-wasm-ci.yml: paths に Python source-of-truth + matrix fixture を追加 - g2p-wasm-ci.yml: test-chinese-zh-en.js を実行 list に追加 (今までCIで全く実行されていなかった) 各ランタイム test 追加: - Rust piper-plus-g2p: Phonemizer trait 経由の dispatch round-trip と、 default no-op で他 phonemizer に副作用が無いことを pin - Rust piper-core: G2pAdapter 経由の dispatch round-trip テストで R-C3 forwarding を将来のリファクタから保護 - Python: dispatch always-on (Python source-of-truth の意図) を pin、 matrix fixture consumer を追加 (TestFixtureMatrixConsumer 6 test) - C#: LoanwordSchemaException CA1032 ctors / JsonException wrap を pin、 EnableZhEnDispatch の volatile modifier を reflection で検証 + cross-thread 可視性テスト (CS-H3) - C++: bundled JSON が CR を含まない (Cpp-C1 回帰防止)、matrix fixture loader (CI-C1 dead asset 解消)、C API の NULL safety 2 test - Go: matrix fixture consumer (CI-C1 mirror) - WASM/JS: matrix fixture loader 5 test (well-formed / schema_v2 / byte-identical sync) を test-chinese-zh-en.js に追加 Matrix fixture 整合性: - USB の expected_token_count を 11→10 に修正 (Python 実装は 10: you1+ai1 ともに zero-initial で 2 phonemes) - check_loanword_consistency.py --fix で 6 mirror すべて同期 ローカル検証: - Rust piper-plus-g2p dispatch tests: 10/10 PASS - Rust piper-core test_zh_en_two_crate: 6/6 PASS (新 G2pAdapter test 含) - Go TestFixtureMatrixLoadable: 7/7 PASS - WASM/JS test-chinese-zh-en.js: 14/14 PASS - Python (zh extras 入り): 9/9 PASS - check_loanword_consistency: 7 copies + 6 fixture mirrors 全同期確認 * fix(zh-en): エージェントレビュー指摘の Critical/High/Medium 対応 PR #399 に対する 6 並列レビューエージェントの指摘から、本 PR スコープ で対応可能な Critical/High/Medium 系を実装。大規模 refactor (Tier 1-2 セキュリティガード、cross-runtime IPA parity CI、piper-core duplicate、 WASM JS 実配線、`last_eos` Mutex 設計) は CHANGELOG に followup 明記。 ## CI - **C-CI1 (Critical)**: `zh-en-data` filter を `**/zh_en_loanword.json` glob に拡大。各ランタイム mirror が変更されたとき per-runtime test も trigger されるようになった (以前は sync gate のみが拾い、per-runtime test は 走らなかった) ## Architecture (forward-compat 統一) - **C-1**: C++/Go の loader が `version` 必須で Rust/C#/Python と挙動分裂 していた問題を解消。Python/Rust/C#と同じ lenient policy (version 不在 → schema_version fallback → default 1) に統一。Go/C++ に forward-compat pinning test 追加 (schema_version-only / version 不在)。 ## Python - **H1**: Runtime `_phonemize_chinese_raw` の dead `_build_word_info(text)` 呼び出しを削除。関数定義は training-side parity のため残し docstring で 「現状未使用」を明示 - **M1**: `_load_loanword_data` (g2p / runtime 両側) で top-level が dict でない場合 `AttributeError` ではなく `ValueError` を投げるよう統一。 `scripts/check_loanword_consistency.py:validate_schema` と挙動を揃える。 pinning test 追加 - **M3**: `phonemize_embedded_english` の `map_sequence` 二重呼び出しを 削除 (`_phonemize_embedded_english_raw` が既に map_sequence 適用済み) ## Go - **G-H1/G-H2**: `enableZhEnDispatch` を `atomic.Bool` 化、`SetZhEnDispatch` / `IsZhEnDispatchEnabled` / dispatch path を `Load`/`Store` で読み書き。 「concurrent-safe」docstring を実装で裏付け - **G-M1**: `LoadLoanwordData()` の error を `sync.Once` + `slog.Warn` で ログ化 (C++ 側 `warnedNoLoanword` と挙動揃え) - **G-M2**: `TestFixtureMatrixLoadable` を `t.Logf` 計測 → per-case `t.Errorf` strict 化。fixture 7/7 case が一致しない場合即 fail ## C++ - **C-H2**: `piper_plus_set_zh_en_dispatch` の `@threading` doc 追加 (Voice 並列で呼ぶな + plain bool である理由を記述)。 `piper_plus_is_zh_en_dispatch_enabled` の `-1` sentinel に boolean coercion 警告 doc 追加 - **C-M2**: `FixtureMatrixLoadable` を `getDefaultLoanwordData()` 経由 + per-case `EXPECT_EQ` strict 化 (以前は subset `makeTestData()` + total>0 のみ) ## C# - **CS-H1**: `MultilingualPhonemizer.PhonemizeCore` の dispatch path で `is ChinesePhonemizer cp` の `cp` を実際に使い `cp.Engine.ConvertEmbeddedEnglish` 経由に変更 (以前は static `ChineseEmbeddedEnglish.Convert` 直叩きで `IChineseG2PEngine` 抽象を bypass)。`CountingZhEngine` で routing を pin する test 追加 - **CS-H2**: `ChinesePhonemizer.PhonemizeEmbeddedEnglish(text)` (prosody ドロップする legacy API) に warning doc 追加。新 API `PhonemizeEmbeddedEnglishWithProsody(text)` を公開 - **N1**: XML doc のctorパラメータ言及 ("EnableZhEnDispatch ctor parameter") を property setter の正しい記述に修正 ## WASM - **M-W1**: `package.json` の `scripts.test` リストを CI (`g2p-wasm-ci.yml`) と同期 (`test-chinese-zh-en.js` / `test-exports.js` / `test-g2p-integration.js` 追加)。ローカル `npm test` でも全テストが走る - **M-W2**: `LoanwordData.version` を optional + `schema_version?` を追加。 forward-compat contract に合わせる - **M-W3**: `setZhEnDispatch`/`isZhEnDispatchEnabled` の JSDoc で 「default-on は WASM (Rust) 側、JS only では `null` が返る」と明示 ## Rust - **R-M3**: `chinese.rs:load_default_loanword_data` の `expect()` runtime panic を回避。bundled JSON parse 失敗時は `eprintln!` で警告ログ + `LoanwordData::default()` に fallback。piper-plus-g2p / piper-core 両側に同修正 - **R-N1**: doc comment の "piper-g2p" を "piper-plus-g2p" に統一 ## Local verification - Python: 50 / 50 passed (top-level type check 含む) - Go: phonemize package full test suite OK (atomic.Bool / fixture matrix / forward-compat 含む) - C#: ChineseEmbeddedEnglishTests 34 / 34 passed (CountingZhEngine 含む) - Rust: piper-plus-g2p 141 / 141 passed (--features chinese) - WASM: 972 / 973 passed (1 skip は既存) - Sync gate: 全 7 mirror + 6 fixture が SHA256 一致 * docs(zh-en): Copilot レビュー指摘 3 件対応 - IChineseG2PEngine.ConvertEmbeddedEnglish の戻り値 docstring を実装と整合 ("filled with zeros" → "a1=tone, a2=1, a3=1")。プロソディが 0 と 誤読されると ONNX 側で tone 情報が欠落するためレビュー優先度高。 - scripts/check_loanword_consistency.py の _process(label) 未使用引数を削除 (呼び出し元 1 箇所も追従)。複数処理モードがあると誤読されないようノイズ削減。 - LoanwordData.setZhEnDispatch の TypeScript JSDoc に Boolean() coerce 動作を明記。 test-chinese-zh-en.js が non-boolean (1/0/'yes'/'') を pin している事実と .d.ts シグネチャ (boolean only) の乖離を documentation 側で解消。 forward-compat 関連 2 件 (C++/Go の version 必須緩和) は前 commit (20d19e2) で対応済みのため新規修正なし。 * fix(ci): CI 失敗 3 カテゴリ修正 — link / ruff / rustfmt - C++: streaming 系テスト 3 つ (test_streaming, test_streaming_simple, test_streaming_raw_phonemes) のソースリストに chinese_loanword.cpp を追加。 piper.cpp が getDefaultLoanwordData / getDefaultLoanwordError を呼ぶように なったため、これらのテストが LNK2019/undefined reference でコケていた。 - ruff: test_zh_en_loanword.py の L806/L824 が E501 (line too long) で違反。 matrix case 名を target_name 変数に切り出して 88 文字以内に収めた。 - rustfmt: piper-plus-g2p/multilingual.rs ほか cargo fmt 未適用箇所を整形。 * fix(ci): test_zh_en_loanword の data 配置と ruff format - C++: test_zh_en_loanword.cpp:352 で getDefaultLoanwordData() が nullptr だった原因は、init_default() が <exe-dir>/data/zh_en_loanword.json を 探すのに対して、テストバイナリの隣に data/ がなかったこと。CMake POST_BUILD で zh_en_loanword.json を $<TARGET_FILE_DIR:test_zh_en_loanword>/data/ に コピーするようにしてプロダクション (desktop installer) と同じレイアウトで テストできるようにした。 - ruff format: chinese.py 2 ファイル (g2p / runtime) で 88 文字以内に収まる f-string が改行されていた箇所を 1 行化 (ruff format の判定に合わせる)。
ayutaz
added a commit
that referenced
this pull request
May 13, 2026
* chore(github): CODEOWNERS を追加 (ランタイム別 path で reviewer 自動アサイン) 現状は単独 maintainer (@ayutaz) のため全 path のデフォルトを @ayutaz に 設定するが、ランタイム / contract / CI / docs / packaging の論理区分を 予め分けておくことで、将来 co-maintainer を追加する際に line 単位で 拡張できる構造にする。 quality-assurance.md §10 改善 Top 10 #2 に対応。 * chore(github): CODEOWNERS の冗長な /.github/CODEOWNERS エントリを削除 レビュー指摘 (Copilot, PR #452 line 63) に対応。/.github/ パターンで 既にカバーされているため CODEOWNERS 専用行は冗長。重複エントリは 将来編集時に片方だけ更新する事故の温床になるため削除する。 CODEOWNERS 自身に異なる owner を指定したい場合は将来追加すればよい (現状は単独 maintainer のため不要)。
6 tasks
ayutaz
added a commit
that referenced
this pull request
May 16, 2026
…t 解消) cmake/ExternalDeps.cmake の URL pin (post7) と src/python_run/requirements.txt の制約 (>=0.4.1.post8) の drift を解消。Python/C++ で同じ OpenJTalk 辞書 / behavior を共有する設計意図 (file header コメント参照) を踏まえ、 PyPI 最新 (post8) に揃える方向で bump。 変更: - URL: pyopenjtalk_plus-0.4.1.post7.tar.gz → pyopenjtalk_plus-0.4.1.post8.tar.gz - SHA256: 555fdf86... → f4dfbfbe... (2 箇所、 同一 tarball 参照) 検証: scripts/check_openjtalk_version_sync.py で WARN (range constraint violation) が消え、 OK ステータス。 PR #496 の review 対応 (Copilot 指摘 #2, #5) で本 drift が露呈、 本 commit で解消。
ayutaz
added a commit
that referenced
this pull request
May 16, 2026
…sh gate (#496) * feat(workflow): /watch-pr skill, /reply-review --stale-check, 言語parity hook PR 後の手動 CI polling、Copilot の stale review 検出、WebUI/CLI/FastAPI テストの 3-way 言語リスト drift を fail-fast 化するワークフロー自動化 3 点: - `.claude/skills/watch-pr/SKILL.md`: PR の CI checks を `gh pr checks` で 1 回ポーリングし失敗 job を分類 (format drift / test fail / flake / contract drift)。`/loop /watch-pr <PR>` で継続監視。 - `.claude/skills/reply-review/SKILL.md`: `--stale-check` 追加。コメントの originalCommit と HEAD を `git log -- <path>` で比較し、コメント以降に 該当ファイルが更新済なら stale 候補として flag (memory `feedback_copilot_stale_review` の二重対応防止)。 - `scripts/check_language_parity.py` + pre-commit hook: WebUI SAMPLE_TEXTS / CLI --language choices / FastAPI test assertion の 3 個を AST で抽出して set 比較。PR #2f4efaf9 で起きた WebUI 7 言語 vs CLI 6 言語 drift の再発防止。 * feat(skills): A 級ワークフロー強化 (Copilot ノイズ skip + version-drift agent) A 級施策 2 件を反映。A5 (未統合 contract script の gate 化) は再調査の結果、 候補 3 スクリプトはすべて既に gate 化済みだったため不要 (Agent 5 調査が 古かった)。 - `.claude/skills/reply-review/SKILL.md`: `--skip-copilot-style` オプション 追加。Copilot bot (`copilot-pull-request-reviewer` または `*[bot]`) の 定型ノイズ (Consider using / Optional: / nit: / style: prefer 等) を regex で検出し、対応対象から除外。誤検出防止のため human レビュアーの コメントは除外しない。 - `.claude/skills/sync-docs/SKILL.md`: Agent 7 (Version Drift 監査) 追加。 `docs/spec/release-versions.toml` を canonical truth として、CLAUDE.md ランタイム別パッケージ表 / docs/spec/*.toml 内 version comment / CHANGELOG.md `[Unreleased]` 残留 / README Feature Matrix の 4 観点を cross-check。memory `feedback_data_asset_distribution` を補強。 * feat(workflow): B 級ワークフロー自動化 3 件 (backlog skill + CHANGELOG gate + pre-push) - `.claude/skills/check-review-backlog/SKILL.md`: 全 open PR の未解決 review thread を gh api graphql で集計、N 日 (デフォルト 7) 以上未対応の thread を backlog として表示する read-only skill。`/loop` で週次監視可能。 - `scripts/check_changelog_unreleased.py` + pre-commit hook `changelog-unreleased-cleanup`: `[Unreleased]` 内の release-style sub-heading (`### [X.Y.Z]`) が release-versions.toml::expected_prefix と major.minor 一致した場合に検出。release 後の section 移動漏れを fail-fast。 conservative 設計で prose cross-reference は flag しない。 - `.pre-commit-config.yaml` pre-push stage: opt-in (`pre-commit install --hook-type pre-push` で有効化) で full-repo の contract gate 4 個 (loanword / PUA / language parity / changelog unreleased) を ~20-30s 並列実行。`SKIP=...` で commit gate を bypass しても push 前に drift 検出可能。CLAUDE.md に install 手順を追記。 A5 (未統合 contract script の gate 化) は再調査の結果すべて gate 化済み だったため不要。 * feat(workflow): Phase 2 pre-commit hooks (15 エージェント調査の高 ROI 項目) 15 エージェント並列調査で浮上した recurring drift パターンを commit 時点で fail-fast 化する 4 hook を新規追加。各々 conservative 設計 (既存コードは allowlist or 検出ロジック緩和で通過、新規発生のみ block): - secret-path-reference: ホスト固有 secret env パスが executable code (sources / workflows / configs) に漏洩していないか検出。CLAUDE.md と docs/ 等のドキュメントは exempt、guard-bash.sh と prepare_*.py の docstring example は ALLOWLIST で legacy 許容 - openjtalk-version-sync: cmake/ExternalDeps.cmake の pyopenjtalk-plus tarball URL pin (現 0.4.1.post7) と全 pyproject.toml の version constraint の同期を tomllib で検証、 == / ~= の明示的 mismatch のみ error (bare name は warn-only) - pytest-skip-reason: tests/ 配下の skip / skipif で AST 経由 reason 存在検証、f-string / 式 / kwarg すべて accept (既存 reason 付きは通過) - gofmt: Go 第 7 ランタイムの format drift を commit 時点で検出 (scripts/run_gofmt_check.sh で exit code を整形) rustfmt は既存 Rust source に pre-existing format drift があり別 PR が 必要なため deferral (config コメントで明示)。15 エージェントが指摘した 他の中インパクト項目 (WASM RTF baseline 初期化、JA phoneme rules contract gate、auto-label workflow 等) も別 PR で個別検討予定。 * feat(skills): /release-prep — 7 manifest version 一覧 + CHANGELOG 移行支援 リリース作業の forensic check と CHANGELOG [Unreleased] 昇格を 1 skill に 集約。docs/spec/release-versions.toml を canonical source として 6 phase: 1. 9 manifest (VERSION / Cargo.toml / 2 csproj / 2 package.json / Package.swift / gradle.properties) の現 version 一覧 2. expected_prefix との照合 (warn → fail flip 判定材料) 3. CHANGELOG.md [Unreleased] → [X.Y.Z] 移行 markdown 生成 (承認後 Edit) 4. PyPI / crates.io / NuGet / npm / Maven Central の最新公開 version 取得 5. ローカル vs 公開 vs canonical の 3-way 差分表 (verdict 付き) 6. verdict 別の推奨 next action 15 エージェント調査 (Agent 5: Release ritual gap) で「manifest version 分散の多重化チェック欠落」を Critical と判定したのを踏まえ実装。 /sync-docs Agent 7 (version drift 監査) と相補的: drift 検出 + 解消支援。 変更は markdown diff として提示、Edit 適用は明示確認後 (memory feedback_merge_caution.md 準拠)。 * feat(skills): /create-pr 新規 + watch-pr / reply-review の auto-invocation 化 LLM が「PR を作って」「review に返信」「CI 監視」の文脈で skill を 自動発動できるよう disable-model-invocation を false 化、description に トリガキーワード (push 直後 / merge 前確認 / review thread resolve 等) を 追加。 /create-pr は PR 本文の標準フォーマットを強制: - 機能カテゴリ別の表 (PR レビュー支援 / リリース整合性 / Commit drift gate / Push 前確認 等) - 時系列フェーズ表現 (Phase 1/S 級 等) 禁止 — 後から読んで意味が薄い - マイルストーン非付与 (memory feedback_pr_no_milestones) - auto-merge 禁止 (memory feedback_merge_caution) - 既存 PR は body 書き換え (memory feedback_pr_body_over_comments) - guard hook が誤検出する文字列は body-file 経由で渡す release-prep / check-review-backlog は明示呼び出し維持 (誤起動リスク / 周期実行向け)。 * fix(workflow): Copilot レビュー指摘 5 件に対応 (PR #496) - run_gofmt_check.sh: set -euo pipefail を set -uo pipefail に変更し rc=$? で gofmt の exit code を明示捕捉、parse error (exit 2) を command substitution で silent abort せず propagate するよう変更 - check_openjtalk_version_sync.py: packaging.SpecifierSet で全制約形式 (== ~= >= <= > < !=) を判定、requirements*.txt も scan 対象に追加。 既存 drift (requirements.txt の pyopenjtalk-plus>=0.4.1.post8 vs cmake 0.4.1.post7) を range violation として WARN 報告で露呈。 明示 pin 違反のみ error、range 違反は warn (意図的 bound を尊重) - .pre-commit-config.yaml: secret-path-reference の files filter で CMakeLists.txt / Dockerfile / Makefile を (^|/) prefix で path 任意 位置の basename match に対応。openjtalk-version-sync の files filter に .*requirements.*\.txt を追加し dynamic deps 経路もカバー * fix(cmake): pyopenjtalk-plus を 0.4.1.post7 → 0.4.1.post8 に bump (drift 解消) cmake/ExternalDeps.cmake の URL pin (post7) と src/python_run/requirements.txt の制約 (>=0.4.1.post8) の drift を解消。Python/C++ で同じ OpenJTalk 辞書 / behavior を共有する設計意図 (file header コメント参照) を踏まえ、 PyPI 最新 (post8) に揃える方向で bump。 変更: - URL: pyopenjtalk_plus-0.4.1.post7.tar.gz → pyopenjtalk_plus-0.4.1.post8.tar.gz - SHA256: 555fdf86... → f4dfbfbe... (2 箇所、 同一 tarball 参照) 検証: scripts/check_openjtalk_version_sync.py で WARN (range constraint violation) が消え、 OK ステータス。 PR #496 の review 対応 (Copilot 指摘 #2, #5) で本 drift が露呈、 本 commit で解消。 * feat(skills): PR 作成直後の review チェック auto-chain (3 skill 連携) PR #496 で「PR 作成後にレビュー確認 skill を発動しなかった結果、 5 件の 未対応 Copilot review に気づくのが遅れた」事例を踏まえ、 /create-pr 完了 時に review + CI 確認を自動連鎖させる chain を組み込む。 変更内容: - /check-review-backlog: 引数に `--pr <N>` 単発モード追加。 既存の全 PR backlog 監視 (週次運用) と並列で、 PR 作成直後の単一 PR review 即時 確認を可能化。 disable-model-invocation: false 化、 description に 「PR 作成直後の review チェック」文脈を明記 - /create-pr: フェーズ 6 を「自動 follow-up 提案」から「auto chain 自動 実行」に強化。 Step 6.1 (Skill check-review-backlog --pr <N>) → 5秒 待ち → Step 6.2 (Skill watch-pr <N>) → Step 6.3 (集約報告) の 3 段。 feature → feature PR や dry-run は chain skip - /watch-pr: description に「PR 作成後の auto chain (/create-pr の フェーズ 6.2 から発動)」を明記、 LLM auto-invocation の文脈強化 これで「PR 作って」要求 → /create-pr 発動 → push + PR 作成 → 自動で review チェック + CI 監視 が 1 ユーザ要求で完結する。
ayutaz
added a commit
that referenced
this pull request
May 18, 2026
`docs/proposals/ci-expansion-2026-05.md` §3.7 Tier S #2 由来、 Top 10 外の docs / i18n / CHANGELOG 拡張。 既存 `check_readme_h2_parity.py` (H2 個数 のみ ±20%) を補強し、 H2/H3/H4 tree structure の comparison と H2 section 内 H3 count drift を比較する informational tier gate を追加。 実装内容: - `scripts/check_readme_heading_tree.py`: canonical (README.md JP) vs 7 言語翻訳 README の H2/H3/H4 tree を抽出、 H2 count + H2 section の H3 count 比較 + (optional) order pattern 比較 - `.github/workflows/readme-heading-tree-parity.yml`: PR の README*.md 変更時に走る informational workflow (PR を block しない) - pytest 9 ケース、 全 pass default `--h3-tolerance 5` で既存翻訳側 drift (DE/ES/FR/KO/PT/ZH の 6 言語が共通の H3 細分化 pattern を持つ) を bootstrap baseline として吸収。 EN は canonical と完全一致、 他 6 言語は section #2/#6/#9 で +5/+5/+3 H3 を持つが tolerance 内。 新規 drift 拡大が起きた時に警告される。
27 tasks
ayutaz
added a commit
that referenced
this pull request
May 19, 2026
…511) * docs: CI/CD 拡張プラン (Top 10) を個別実装チケット 10 本 + 5 phase overview に分解 30 エージェント並列調査の Top 10 を「実装者が一人で着手できる粒度」まで分解した個別チケットを docs/tickets/ に追加。 各チケットは 9 節構成 (目的 / 詳細 / チーム配置 / Unit&E2E テスト / 懸念 / Reinvention / Handoff / 関連ファイル / 参照) で、 親調査 / 親マイルストーン doc と bidirectional に相互リンクする。 * ci: cancelled / skipped baseline alarm gateway Hub-and-spoke gateway that converts cancelled / skipped / failure of monitored spoke workflows into an explicit fail, closing the fail-open gap that allowed PR #419 to merge with a collapsed baseline. stdlib-only Python script + 6 fixture scenarios + workflow with workflow_run + pull_request triggers. * docs(tickets): mark M1.1 status as in-progress (PR draft) * ci: first-PR fast lane for new contributors Contract gates (PUA / loanword / ORT / migration parity / ruff version sync) are downgraded to `neutral` (= warning, but pass for branch protection) when a PR comes from an author whose `author_association` is FIRST_TIME_CONTRIBUTOR / FIRST_TIMER / NONE, unless a maintainer has attached `run-full-gate`. Core lint and the cancelled-baseline gateway stay required. The cancelled-baseline gateway is taught to treat `neutral` as success so the two pieces compose: contributors get an onboarding lane, but a cancelled or skipped run still fails. Includes weekly `first_pr_health.py` snapshot for the 4-week follow-up review. * ci: migration guide cross-ref lint [Unreleased] > ### Breaking entries must reference docs/migration/v*.md with a resolvable anchor. New keep-a-changelog parser (`check_migration_xref.py`, stdlib only) + workflow gated by `breaking` label or CHANGELOG diff; existing `migration-changelog-parity` is kept (responsibility separation). * ci: audio MOS proxy informational tier (PESQ / STOI / UTMOS / WER) Adds the diff/render/Bencher-JSON layer of the audio MOS proxy gate as an informational tier (continue-on-error: true). The workflow bootstraps with zero-filled stubs so the first PR is green; PESQ / STOI / UTMOS / Whisper WER calls are scaffolded but invoked only by CI (heavy deps are deferred). 30-sample golden corpus manifest committed; reference WAVs stay on HF Hub. * ci: cross-runtime audio byte parity informational tier * ci: public ABI snapshot diff (C / Swift / Kotlin) bootstrap baseline * ci: model card / license attribution auto-generation * ci: typosquatting weekly scan (PyPI / npm / crates / NuGet / Maven) stdlib Levenshtein + homograph (ASCII / leet / Cyrillic) scan with a JSON-fixture mode for unit testing. The weekly workflow polls all five registries inline, classifies via the script, and opens (or updates) one sticky GitHub issue per cycle if any suspect is found. canonical / allowlist filters keep `piper-plus` itself and known false positives (`piper-phonemize` etc.) out of the report. * ci: informational fuzz for forward-compat + timing monotonicity * ci: inject model-card / license attribution hook into HF Space & shared-lib release - deploy-huggingface.yml: Prepare Space files 直後に `generate_model_card.py validate` + `generate --model multilingual-test-medium` で MODEL_CARD.md と LICENSE_ATTRIBUTIONS.md を hf-space-deploy/ に同梱 - release-shared-lib.yml: release job の sparse-checkout に `scripts/generate_model_card.py` + `data-sources.yml` を追加し、 Generate checksums 前に validate+generate を実行。 Create GitHub Release の files に MODEL_CARD.md / LICENSE_ATTRIBUTIONS.md を追加 - HF Space は CSS10 JA 6lang model だけ載るため `used_only_in=tsukuyomi-*` の dataset は filter で除外。 shared-lib release は任意モデルと使われるため filter なし (全 dataset 同梱) - docs/tickets/M3-2-license-auto-injection.md と docs/tickets/README.md の ステータスを「validate + generate + workflow hook 注入完了」に更新 - CHANGELOG.md Post-v1.12.0 chore に 1 行追加 * ci: fix Migration Guide Lint YAML scalar bug + extend lychee exclude for PR #511 tickets 両 fail とも PR #511 内既存問題で 5 連続 fail していたものを本コミットで修復: - migration-guide-lint.yml line 77: plain scalar の `run: echo "...### Breaking..."` は YAML parser が space + `#` をインラインコメントと解釈し、 引用符が unclosed のまま shell へ渡されて EOF エラーで終了していた。 block scalar (`|`) に変えて値全体を渡すよう修正。 - .lychee.toml: PR #511 で追加した docs/tickets/ と tests/scripts/fixtures/migration_xref/ で発生する 13 broken link を 分類して exclude / exclude_path に追加: - `.claude/memory` 系 5 件 — ユーザー固有 path で repo に実体なし (auto memory システム設計に従う logical reference) - Swift SymbolGraph 旧 URL (M3-1) — swiftlang/swift repo 構造変更で 404 - USENIX 2020 paper URL (M3-3) — USENIX サイト path 変更で 404 - migration_xref fixture 5 件 — 意図的 broken link を含む negative-case test data (`scripts/check_migration_xref.py` の検知対象) - .editorconfig: `.lychee.toml` は upstream lychee project と同じ 2-space indent で書かれているため、 global `[*.{rs,toml}]` の 4-space ルールを file 単位 opt-out (`docs/spec/*.toml` と同じ pattern)。 * docs: 実装完了した個別 ticket .md 10 個を削除し参照を整理 PR #511 で M1.1〜M4.2 の 10 ticket は全て実装完了 (`scripts/`, `workflows/`, `tests/scripts/` に成果物が落ちている)。 個別 ticket は 実装ログとしての役目を終えたため削除し、 phase overview / README は 「実装完了 (PR #511)」 マーク付きの簡素な表へ縮小。 dead link になる箇所を同時修正: - 親 milestone doc の 10 ticket リンクを「実装ステータス: 実装完了 (PR #511)」 に置換 - 各 workflow / script docstring / pre-commit / spec / migration README のコメント内 ticket 参照を proposals link + PR #511 補記に置換 - `.lychee.toml` の `.claude/memory` / Swift SymbolGraph / USENIX 2020 exclude (削除した ticket .md 起因) を撤去 M-Stretch-overview.md は親 milestone doc から参照されており未着手の検討候補 として保持。 * chore: lychee/commitlint regression を修正 - M1/M4-overview.md の .claude/memory 参照を plain text 化 (削除した ticket 起因の lychee broken link 撤去後に顕在化) - .commitlintrc.json に footer-max-line-length=0 を追加 (body と同精神、 日本語 body 行で footer 判定された場合に 100 文字 limit を回避) * ci: OpenSSF Scorecard を週次 + dev push で実行 (proposals §3.6 Week 1) `docs/proposals/ci-expansion-2026-05.md` §3.6 Week 1 由来、 Top 10 外の supply-chain hardening 追加項目。 `ossf/scorecard-action@v2.4.2` で 17 check のスコアを SARIF として code scanning に upload + scorecard.dev への publish を有効化 (informational、 PR を block しない)。 既存 cosign / SBOM / Trivy / dependency-review / action-pin gate と 重複しないため net flat policy 違反なし。 Scorecard は外部公開メタの ベンチマーク的位置付け。 * ci: CHANGELOG keep-a-changelog format validator (proposals §3.7 Tier S #1) `docs/proposals/ci-expansion-2026-05.md` §3.7 Tier S #1 由来、 Top 10 外の docs / i18n / CHANGELOG 拡張。 M1.2 migration-guide-lint (anchor link 強制) と相補的に「CHANGELOG.md 自体の format drift」 を validator script + workflow + pre-commit hook で gate 化。 検査項目 (error tier): - # Changelog H1 が冒頭にある - ## [Unreleased] が最初のリリースより前 - バージョン header は ## [X.Y.Z[-pre]] - YYYY-MM-DD 形式 - リリースは降順 検査項目 (warning tier): - セクション名は keep-a-changelog 7 種 + piper-plus extended のいずれか - 同名セクションが同一リリース内で重複しない `## Older Releases` を terminator、 絵文字付き historic セクションを bootstrap baseline として allowlist 化。 既存 CHANGELOG.md は error 0、 pytest 10 ケース全 pass。 * ci: README heading tree parity (proposals §3.7 Tier S #2, informational) `docs/proposals/ci-expansion-2026-05.md` §3.7 Tier S #2 由来、 Top 10 外の docs / i18n / CHANGELOG 拡張。 既存 `check_readme_h2_parity.py` (H2 個数 のみ ±20%) を補強し、 H2/H3/H4 tree structure の comparison と H2 section 内 H3 count drift を比較する informational tier gate を追加。 実装内容: - `scripts/check_readme_heading_tree.py`: canonical (README.md JP) vs 7 言語翻訳 README の H2/H3/H4 tree を抽出、 H2 count + H2 section の H3 count 比較 + (optional) order pattern 比較 - `.github/workflows/readme-heading-tree-parity.yml`: PR の README*.md 変更時に走る informational workflow (PR を block しない) - pytest 9 ケース、 全 pass default `--h3-tolerance 5` で既存翻訳側 drift (DE/ES/FR/KO/PT/ZH の 6 言語が共通の H3 細分化 pattern を持つ) を bootstrap baseline として吸収。 EN は canonical と完全一致、 他 6 言語は section #2/#6/#9 で +5/+5/+3 H3 を持つが tolerance 内。 新規 drift 拡大が起きた時に警告される。 * ci: CI flake/cancel observability snapshot (proposals §3.9 #1) `docs/proposals/ci-expansion-2026-05.md` §3.9 #1 由来、 Top 10 外の CI observability 拡張。 M1.1 cancelled baseline alarm が PR 単位で silent skip を gate するのに対し、 本 snapshot は過去 7 日の workflow run を trend として集計する data layer。 実装: - scripts/ci_observability_snapshot.py: gh run list -> workflow 単位の total/success/failure/cancelled/skipped count + ratio + flake candidate 抽出 (cancellation_rate > 10% threshold) - .github/workflows/ci-observability-snapshot.yml: 月曜 UTC 08:00 schedule + workflow_dispatch、 90 日 retention の JSON artifact - pytest 6 ケース、 全 pass dashboard UI は yagni で別 PR/後続作業に分離。 本 PR では data layer のみ。 * ci: Rust miri nightly informational (proposals §3.1 #8) `docs/proposals/ci-expansion-2026-05.md` §3.1 Sanitizer 拡張 #8 由来、 Top 10 外。 piper-plus-g2p crate の 27 箇所の unsafe (FFI 系を除く Rust internals) に対する UB / stacked borrow / aliasing 違反を nightly miri で informational 検出する。 実装: - .github/workflows/rust-miri-nightly.yml: 毎週日曜 UTC 03:00 schedule + workflow_dispatch、 timeout 60 min (miri は通常 cargo test の 10-50x 遅い) - cargo +nightly miri test --package piper-plus-g2p --lib -- --skip ffi - continue-on-error: true で PR を block せず、 miri-output.log を 30 日 artifact として保持して maintainer が trend 観測 既存 ASan / UBSan / clang-tidy gate (C++ 側) と重複せず、 Rust 側の memory safety を補完する。 piper-plus-g2p に内在する 27 箇所の unsafe は CString / *const c_char の往復で必要。 * docs: tickets dir 削除 + M-Stretch 詳細実装方針を proposals に集約 Top 10 + §3 軽量 5 件 (PR #511) の実装が完了し docs/tickets/ の役割が 終了したため、 6 ファイルを削除。 M-Stretch S1-S8 の詳細は新規 docs/proposals/ci-expansion-deferred-items.md に集約 (Claude Code 実装 前提で 8 項目の真の障壁を再評価、 536 行)。 milestones.md / docs/README.md の tickets リンク参照を撤去、 deferred-items への誘導を追加。 ダングリング link 0 件。 * docs: PR #511 反映で INDEX / proposals に最新化漏れを追加 - docs/spec/README.md: audio-parity-contract.toml を Core Contracts に追加 - docs/reference/README.md: branch-protection-history.md を Operations に追加 - CLAUDE.md 主要ファイル索引: audio-parity / branch-protection-history を追加 - docs/proposals/ci-expansion-2026-05.md: 序文に実装完了ステータス (Top 10 + 軽量 5 件) と関連ドキュメント節に milestones.md / deferred-items.md リンクを追加 - docs/README.md proposals 節: deferred-items.md エントリ追加、 2026-05.md にも 実装完了 annotation 付与 エージェントチーム 4 並列 (proposals / top-level / docs INDEX / guides) で docs/ 全体を網羅監査した結果のうち、 「実装と doc が齟齬」 する必須項目のみ 反映。 informational tier 公開状態未確定 (Scorecard / model-card output 経路) や機能仕様変更でない追加情報 (SECURITY badge / CONTRIBUTING attribution 説明) は保守的判断で見送り。 * docs(proposals): 役割を終えた 2026-05 / milestones を削除し deferred-items に集約 PR #511 で Top 10 + §3 軽量 5 件が実装完了したため、 親調査 `ci-expansion-2026-05.md` と マイルストーン詳細 `ci-expansion-milestones.md` は役割を終えた。 M-Stretch 8 項目の詳細実装方針は `ci-expansion-deferred-items.md` に集約済みのため、 前者 2 ファイルを削除。 dangling reference 対応: - docs/proposals/ci-expansion-deferred-items.md: 自己参照 5 箇所を inline 化、 関連ドキュメント section に「git log --diff-filter=D」 で履歴参照する旨を明記 - docs/README.md: proposals 節を deferred-items.md 1 行に集約 - docs/migration/README.md: 関連 doc から 2026-05.md 参照を削除 CHANGELOG / workflow YAML 内の `docs/proposals/ci-expansion-2026-05.md` plain text 参照は backtick で囲まれており lychee `include_verbatim = false` で対象外 となるため、 履歴記述として残置。 * docs(proposals): deferred-items も PR から外す (proposals ディレクトリ全削除) PR #511 の scope を Defensive Foundations 実装 (Top 10 + §3 軽量 5 件) に 絞るため、 deferred-items.md (M-Stretch 8 項目の Claude Code 前提再評価) も PR からは外す。 内容は別途検討する。 - docs/proposals/ci-expansion-deferred-items.md: 削除 (538 行) - docs/README.md: Proposals section ごと削除 - docs/proposals/ 自体が空になり自動消滅 ローカルバックアップ: /tmp/ci-expansion-deferred-items-backup-*.md * ci(parity): 4 runtime (Python/Rust/Go/C#) で audio byte parity を実装 PR #511 の Runtime Parity Deep gate が self-comparison (python vs python2) のみで cross-runtime 検出として機能していなかった指摘への対応。 Phase 1 で実装可能な 4 runtime (Python / Rust / Go / C#) の cross-parity を bootstrap 配置。 C++ / WASM CLI は phoneme_ids JSONL 入力経路が未実装 のため Phase 2 (別 PR) へ deferred、 contract toml で supports_dump_wav=false に降格し audio_parity.py の skip ロジックで 報告する。 主な変更: - src/python_run/piper/__main__.py: --json-input flag を追加し phoneme_ids JSONL stdin 経路を実装 (G2P バイパス、 Rust/Go/C# と契約一致) - tests/fixtures/audio-corpus/parity/phoneme_ids.jsonl: ja「あいうえお」相当 の固定 12 ID 列 fixture (BOS + 5 phoneme + PAD intersperse + EOS) - .github/workflows/runtime-parity-deep.yml: dump-{python,rust,go,csharp} 4 matrix job + compare job 構成に刷新、 informational tier 維持 - docs/spec/audio-parity-contract.toml: wasm / cpp を supports_dump_wav=false に降格 (Phase 2 で true に戻す) - scripts/audio_parity.py: collect_skips() を追加し supports_dump_wav=false / --inputs 未指定 runtime を skip 行として報告 - tests/scripts/test_audio_parity.py: skip ロジック検証 5 ケース追加 (合計 15 ケース、 tests/scripts/ 全 140 件 pass) * feat(parity): C++ + WASM CLI に phoneme_ids JSONL 入力経路を実装 (Phase 2) PR #511 cross-runtime audio byte parity gate を 4 runtime (Phase 1) → 6 runtime (Phase 2) に拡張するための実装。 docs/spec/audio-parity-contract.toml への反映と workflow / pytest 更新は別 commit で続ける。 C++ (src/cpp/main.cpp): - processLine の JSON 入力分岐で phoneme_ids field を抽出 (text と排他、 両方あれば phoneme_ids 優先) - 3 つの outputType 分岐 (DIRECTORY / FILE / STDOUT) に phoneme_ids 経路を 最優先 branch として追加し、 既存 piper::synthesize API (piper.cpp:1239) を直接呼ぶ - text の require を「phoneme_ids 不在時のみ」 に緩める WASM (src/wasm/openjtalk-web/bin/piper-cli.js, new): - Node CLI bin script を新規作成 (ESM, ~280 行)。 onnxruntime-node を dynamic import で使い JSONL stdin → phoneme_ids → ONNX session.run → WAV write の最小経路を提供 - 既存 src/index.js (browser API、 fetch/IndexedDB 依存) は変更しない - package.json に bin entry + onnxruntime-node devDependency + files に bin/**/*.js を追加 WASM bin の standalone unit tests (test/js/test-piper-cli-bin.js, new): - argv parser 4 ケース (--help / 必須欠落 / 未知 flag / 値欠落) - JSONL / config preflight 2 ケース (空 stdin / 不在 config) - WAV byte layout 3 ケース (44-byte RIFF header / 4 sample rate / 0-sample) - file shape contract 2 ケース (shebang / dynamic import) - 合計 11 ケース、 node --test で全 pass、 ONNX 推論経路を回避し CLI 層を 独立検証 * ci(parity): Phase 2 仕上げ — workflow 6 runtime + contract + pytest 13 ケース追加 PR #511 cross-runtime audio byte parity gate を Phase 2 完了状態に移行: contract toml で 6 runtime 全 supports_dump_wav=true、 workflow が dump-{cpp,wasm} を含む 6 matrix で稼働、 pytest が 6 runtime topology 全パターン (full / partial / unknown / dump_wav 優先順位 / fail-on-mismatch) を 13 ケースで検証する。 C++ helper (src/cpp/piper.{hpp,cpp}): - 新規 piper::phonemeIdsToWavFile(config, voice, ids, audioFile, result) を declare + impl。 既存の textToWavFile と対称な公開 API で、 内部で 既存の static-scope synthesize() を直接呼ぶ thin wrapper - main.cpp の processLine 3 つの outputType 分岐をこの helper に統一 (writeWavFromBuffer 経由ではなく既存 writeWavHeader 経路に乗せる) - cmake --build build --target piper で local build pass、 既存 fixture (BOS + あいうえお + EOS) を入力した smoke test で 22050 Hz / 16-bit / mono / 6302 byte の WAV を出力すること確認 Workflow (.github/workflows/runtime-parity-deep.yml): - dump-cpp matrix job 追加: cmake build + ./build/piper 実行 - dump-wasm matrix job 追加: npm install --no-save onnxruntime-node + node src/wasm/openjtalk-web/bin/piper-cli.js 実行 - compare job の inputs loop を python/rust/go/csharp/cpp/wasm 6 runtime に 拡張 — sticky comment に C(6,2)=15 pair の tier 判定を出力 Contract toml (docs/spec/audio-parity-contract.toml): - cpp / wasm を supports_dump_wav=true に戻し、 cpp.cli を実 binary 名 "piper" に修正。 Phase 2 完了 note を block コメントに反映 pytest (tests/scripts/test_audio_parity.py): - 既存 5 ケースを Phase 2 contract (全 6 enabled) に整合させて書き換え。 supports_dump_wav=false 検証は _write_ad_hoc_contract helper で擬似 - 新規 8 ケース: - test_load_contract_runtimes_section_has_six_runtimes (canonical) - test_collect_skips_all_runtimes_enabled_full_inputs - test_collect_skips_unknown_runtime_is_kept_verbatim - test_collect_skips_priority_dump_wav_over_missing - test_render_markdown_full_six_runtime_pair_count (15 pair pin) - test_cli_compare_phase2_full_six_runtimes (rc=0, 15 pair, 0 skip) - test_cli_compare_phase2_partial_three_inputs (3 pair + 3 skip) - test_cli_compare_phase2_fail_on_mismatch_across_runtimes - tests/scripts 全 148 件 pass (audio_parity 23 件 / 累積 +13 from Phase 2) - src/wasm/openjtalk-web/test/js/test-piper-cli-bin.js は別 commit で 既に追加済 (11 ケース、 node --test pass) * test(parity): Phase 2 のエッジケース網羅 — C++ gtest 4 + integration 7 + WASM 23 + pytest 9 ケース追加 PR #511 Phase 2 で追加した変更箇所 (C++ phonemeIdsToWavFile / main.cpp processLine の JSONL 経路 / WASM bin / audio_parity.py の skip ロジック / parity fixture) に対しエッジケースを系統的に拡張。 C++ gtest (src/cpp/tests/test_streaming_raw_phonemes.cpp): 4 ケース追加 - PhonemeIdsToWavBasicHeader: RIFF/WAVE/fmt/data magic + サンプルレート/ ビット深度/data chunk size の byte-level 検証 - PhonemeIdsToWavSameLengthOnRepeat: VITS stochastic 性を踏まえ「同一入力 → 同一フレーム数 + 同一 WAV ヘッダー」 の弱不変条件 (cross-runtime gate が tier 2/3 で吸収する設計と整合) - PhonemeIdsToWavShortInputProducesAudio: BOS+1+EOS の最短入力で Strategy A padding 経由の非空出力 - PhonemeIdsToWavDifferentInputsDifferentOutputs: 別 ID 列で別出力 (キャッシュ汚染による silent pass を防止) C++ CLI integration (tests/scripts/test_cpp_cli_phoneme_ids.py, new): 7 ケース — file / stdout (-) / directory 3 経路 + text/phoneme_ids 排他 + per-line output_file 上書き + 両欠落エラー + 複数行 utterance。 build/piper 不在環境では pytestmark.skipif で全件 skip。 WASM bin standalone (test-piper-cli-bin.js): 11 → 34 ケース - argv parser: short alias (-h/-m/-c/-f) / 各 flag value missing / numeric flag - floatToInt16 clamp: ±1.0 / out-of-range / mid-range / empty (5 ケース) - JSONL edge: 空 phoneme_ids / 非配列 / 不正 JSON / blank lines tolerance - 不正 JSON config / fallback (sample_rate / num_speakers / num_languages) - bin source structural contract (BigInt64Array / scales tensor / optional inputs 条件分岐 / per-line output_file / stdout sink / array validation) audio_parity.py pytest (test_audio_parity.py): 23 → 32 ケース - 全 inputs unsupported (0 pair + 全 skip) - 空 [runtimes] section の contract - supports_dump_wav 欠落 → default true - 非 dict runtime spec → garbage tolerance - parity fixture phoneme_ids.jsonl validation (BOS/EOS/PAD layout) - snapshot: 8-bit PCM / stereo (channel average) / 24-bit (sha256 のみ動作) editorconfig-checker exclude: - src/cpp/tests/test_streaming_raw_phonemes.cpp を exclude に追加。 既存 2-space indent (.editorconfig default は 4-space) が 179 件の違反を 発火させたため、 既存 style を維持する保守的選択肢として exclude を 選択 (memory feedback_conservative_changes) 合計: tests/scripts/ 全体 148 → 164 件 pass、 WASM node test 11 → 34 件 pass、 C++ gtest +4 件 pass。 * fix(ci): runtime-parity-deep の dump-go / dump-rust failure を修正 PR #511 Phase 1 commit (9d8c6a0 / 24fb680) で導入した 6 matrix workflow が 2 runtime で fail していた根本原因 2 件を修正: 1. dump-go: 「ONNX Runtime shared library path not specified; set ONNX_RUNTIME_SHARED_LIBRARY_PATH or pass it to Init」 で起動失敗。 既存 go-ci.yml と同じ pattern で ONNX Runtime download + cache + ONNX_RUNTIME_SHARED_LIBRARY_PATH env 設定を追加。 ORT_VERSION は 1.24.4 (go-ci.yml と同じ pin) を env 変数で集約 2. dump-rust: rust-lld 連携で「undefined symbol: __isoc23_strtoull / __isoc23_strtol」 が出ていた。 これは ubuntu-22.04 の glibc 2.35 と 新しい ort-sys binary (glibc 2.38+ symbol を要求) の mismatch。 全 6 matrix を ubuntu-22.04 → ubuntu-24.04 に upgrade (既存 ci.yml の rust-tests / go-ci の ubuntu-24.04 と整合) して解消 informational tier (continue-on-error: true) の挙動は維持。 * fix(ci): runtime-parity-deep の Rust binary 名 + Go JSONL output 修正 PR #511 commit bf14481 後の CI で残った 2 件の job fail を修正: 1. dump-rust: 「No such file or directory: ./src/rust/target/release/piper-plus」 src/rust/piper-cli/Cargo.toml は [[bin]] override なし → package 名 `piper-plus-cli` がそのまま binary 名。 workflow の path を piper-plus → piper-plus-cli に修正 2. dump-go: 推論成功 (loaded ONNX, synthesized line=1) なのに /tmp/parity/go.wav が無いことで ls が fail。 Go CLI の JSONL mode は --output-file を無視し --output-dir/line_NNN.wav の連番ファイルを 書く仕様 (src/go/cmd/piper-plus/main.go:425)。 これは Rust/C# と異なる contract だが上流変更は本 PR の scope 外。 workflow で --output-dir を 使い rename で go.wav に揃える形に修正 * test(parity): close test gaps surfaced by 5-agent review 5 並列 review agent (C++ API / WASM CLI / Python parity script / CI workflow / cross-runtime symmetry) で識別された Tier1+2 の 網羅穴を保守的に塞ぐ。 Tier3 (WAV header structural checks for 4 runtimes, 100MB+ files, markdown escape) は overkill のため defer。 CI infrastructure 修正: - runtime-parity-deep.yml: Go 1.23 -> 1.26 (go-ci.yml 同期), compare job Python 3.13 -> 3.11 (dump-python と ABI parity) Rust CLI (test_cli_smoke.rs): JSONL phoneme_ids E2E が完全欠落 していたため 3 ケース追加 (1 つは ORT 不要、 2 つは #[ignore] + test model exists check で E2E)。 Python CLI (test_json_input_cli.py 新規): --json-input 経路の CLI subprocess 4 ケース (file / stdout / per-line override / multi-line directory)。 audio_parity.py (test_audio_parity.py): 4 ケース追加 (zero inputs + empty contract / duplicate runtime last-wins / corrupt WAV header / all runtimes disabled)。 editorconfig-checker: Cargo.lock の indent (cargo 1.x の生成 フォーマット) は editorconfig 4-space 規約と非互換のため除外 追加 (既存の test_streaming_raw_phonemes.cpp と同パターン)。 * fix(ci): single --inputs flag in compare loop (argparse last-wins bug) PR #511 Phase 2 で compare job が「5 skip / 1 input / 0 pair」を silently 出力していた真因を特定。 dump 6 matrix は全 success だった が、 compare job の bash loop が --inputs を runtime 毎に prepend して いたため argparse の nargs="*" 仕様 (同名 flag 出現毎に上書き) で 最後の --inputs wasm=... のみが残り、 他 5 runtime は inputs に 渡されなかった。 修正: --inputs 1 回 + 全 RUNTIME=PATH を space 区切りで列挙する パターンに変更。 期待結果は C(6,2)=15 pair の tier 判定。 これまでの調査で副次的に判明した事項: - 全 artifact zip は wav 直下構造 (gh API で zip 確認) - compare job upload artifact にも全 6 wav が正しい layout で含まれた - bash loop の WARN echo は実は出力されておらず、 [-f] check は全 pass していた (gh API logs で確認) - 真因は 12 個の --inputs flag が argparse で 1 個に潰れたこと defensive: bash loop に「Collected inputs (N runtimes): ...」echo を追加し、 同種の regression を即座に発見できるよう可観測性向上。
ayutaz
added a commit
that referenced
this pull request
May 19, 2026
… runtime CLI help (#513) * docs(proposals): deferred-items を現状コードベースと突き合わせて整理 PR #511 から意図的に外された (0d690dc) deferred-items.md を本ブランチで初 commit。 HEAD 4f2ff86 の実コードと突き合わせて全体カウント (workflow 93→108 / spec 25→31 / docker 5→6 / check script 62) を更新し、 8 項目それぞれに「現状」 サブセクション を追加して既着手部分の境界を可視化 (#3 action-pin-gate 形式のみ / #4 Python 1 runtime のみ / #5 穴 12→5 / #7 grep のみで実行は別 / #8 coverage のみ)。 #2 SLSA L3 で 親調査の想定 release workflow 名と実態の不一致 (PyPI/NuGet dedicated workflow 不在) を明示。 これにより「何が技術的不可能 / 何が単に未着手か」 の境界が PR #511 マージ 後の HEAD 基準で再確定する。 * docs(proposals): deferred-items の要求定義 (v0.1 draft) を追加 proposal (ci-expansion-deferred-items.md) を実装可能 PR scope に分解するため 8 項目それぞれを FR/NFR/AC/CON/DEP の ID 付き要件として整理。 「Claude Code が実装する部分」 と「user の明示判断が必要な部分」 を要件ごとに分離し、 受け 入れ基準を自動検証可能な形に落とした。 Tier 1 (即着手) / Tier 2 (個別 PR) / Tier 3 (別 milestone) の優先度マトリクスと、 PR #511 informational tier silent-zero pattern 再発防止を NFR-3.2 / NFR-5.2 / NFR-5.3 で構造化。 codespell ignore に in-toto attestation framework の "intoto" を追加 (SLSA L3 provenance file 拡張子 .intoto.jsonl のため正式表記)。 * docs(proposals): deferred-items の要件定義書 (v0.1 draft) を追加 要求定義 v0.1 (FR/NFR/AC の ID 付き列挙) を受けて、 Tier 1 (#3 Rekor + SHA drift / #4 CLI help auto-extract) を I/O 仕様・データ構造・処理シーケンス・ トリガー条件・エラーケース・既存資産との接続まで詳細化。 Tier 2 / Tier 3 は overview レベル (後続要件定義 PR で詳細化)。 sticky comment / Issue auto-create / baseline JSON / CLI help txt の汎用 interface format を §6 で集約、 silent-zero 対策を NFR-6.3 / AC-3.3 / fixture test で 3 重に構造化 し PR #511 phase 2 教訓を実装レベルに織り込む。 既存 31 spec / 62 check script / 108 workflow との具体的 wiring を §2.2 / 各機能 §X.9 で明示。 * docs(tickets): deferred-items を 4 milestone × 23 ticket に分解 PR #511 で defer された 8 項目を実装可能な PR scope に分解。 proposal / 要求定義 / 要件定義書 (3 ドキュメント chain) の下流として、 docs/tickets/ に milestone + ticket 集約を新設。 ## 構造 - docs/tickets/README.md — milestone × ticket 対応表 - docs/tickets/_template.md — 9 セクション ticket テンプレート - docs/tickets/milestones/ — M1〜M4 (Tier 1 / Spec & Docs / Supply Chain / Docs Infra) - docs/tickets/tickets/ — T-001〜T-023 (proposal #1〜#8 を PR 単位に展開) ## マイルストーン - M1 Foundations (Tier 1): T-001 Rekor verify / T-002 SHA drift / T-003 CLI help - M2 Spec & Docs Gates: T-004〜T-008 (5 spec gate) + T-009〜T-011 (doc examples 3 phase) - M3 Supply Chain: T-012〜T-016 (Distroless 5 image) + T-017〜T-021 (SLSA L3 5 registry) - M4 Docs Infra: T-022 mkdocs / T-023 test aggregation ## 各 ticket の内容 (9 セクション) タスク目的とゴール / 実装内容詳細 / agent team / unit & e2e test / 懸念事項とレビュー項目 / 一から作り直すとしたら / 後続への申し送り / 参照 / 変更履歴。 各 milestone にもフェーズごとの「一から作り直すとしたら」 設計思考を 2-3 案記載。 ## 上流 docs への back-link proposal / 要求定義 / 要件定義書 の 3 docs 末尾に「下流ドキュメント」 セクションを追加し、 双方向参照を確立。 ## 検証 - markdownlint-cli2: 0 error (29 file) - codespell: pass (re-usable / patten タイポ 2 件修正) - pre-commit (full set): pass * docs(tickets): T-001/T-002/T-003 Status → レビュー待ち + 実装完了履歴 * feat(ci): T-002 action SHA drift detector T-002 implementation per docs/tickets/tickets/T-002-action-sha-drift.md. - scripts/check_action_sha_drift.py: GitHub API resolve + silent-zero defence - scripts/action_sha_baseline.json: schema_version=1 initial baseline (2 entry) - .github/workflows/action-sha-drift.yml: weekly + PR base, informational tier - tests/scripts/test_check_action_sha_drift.py: 14 tests, all passing - tests/scripts/fixtures/action-sha-drift/*: silent-zero fixtures * feat(ci): T-001 Rekor verify workflow (informational tier) PR #511 introduced cosign-release-artifacts.yml as the *signing* side of release artifact provenance. This PR adds the *verifying* side: weekly, walks the N most recent releases and runs cosign verify-blob against Rekor (T-001 / proposal #3a). certificate-identity-regexp / certificate-oidc-issuer are mirrored byte- for-byte from PR #511 (M1-R3) and a unit test asserts they still appear in cosign-release-artifacts.yml — drift is caught at PR review. - scripts/verify_rekor_releases.py: gh release list -> per-release asset pairing -> cosign verify-blob, silent-zero defence, --fixture mode for offline tests, --report path for sticky/Issue body - .github/workflows/rekor-verify.yml: weekly schedule (Mon 03:00 UTC, 1h before T-002), cosign-installer v3.8.1 / cosign-release v2.4.1 (mirror of PR #511), Issue auto-create on fail (label rekor-verify-failure) - tests/scripts/test_verify_rekor_releases.py: 15 tests (PR #511 mirror assert / skip vs fail / cosign argv shape / silent-zero / golden + legacy fixtures) - tests/scripts/fixtures/rekor-verify/{golden,legacy}_release.json: golden (sig+pem present), legacy (cosign-predating release) Tier: informational. CI green even on verify failure (continue-on-error). 4 consecutive green weekly runs gate blocker promotion (CON-3.1). Ticket: docs/tickets/tickets/T-001-rekor-verify.md * feat(ci): T-003 cli-help-extract phase A (python only) T-003 phase A per docs/tickets/tickets/T-003-cli-help-extract.md. Only python runtime active in matrix; rust/csharp/go/wasm/cpp are scaffolded as TODO and will be added in subsequent PRs to keep wall clock under NFR-1.4 (10 min) and review tractable. - scripts/sanitize_cli_help.py: runtime-aware sanitize entry point - scripts/sanitize_cli_help_rules.toml: 11 rules - docs/reference/cli-help/python.txt: canonical w/ <TIMESTAMP>/<VERSION> - .github/workflows/cli-help-extract.yml: matrix scaffold + sticky - tests/scripts/test_sanitize_cli_help.py: 14 tests - tests/scripts/fixtures/cli-help/{raw,expected}/python.txt - .pre-commit-config.yaml: exclude docs/reference/cli-help/*.txt + tests/scripts/fixtures/cli-help/{raw,expected}/*.txt from editorconfig (argparse continuation indent != multiple of 4) * feat(ci): T-003 expand to 6 runtime matrix (python/go/rust/wasm real + csharp/cpp placeholder) User 要求 (「全部同じブランチ」、 「rust/csharp/go/wasm/cpp も全て同じブランチで対応」) を受けて T-003 を phase A (python のみ) から 6 runtime full に拡張。 - python/go/rust/wasm: ローカル build に成功し実 --help を sanitize して docs/reference/cli-help/<runtime>.txt に canonical 化 - csharp: .NET SDK 10.0.100 不在 (ローカル 9.0.115) のため PLACEHOLDER canonical を commit。 workflow drift-check は # PLACEHOLDER: marker を 含む canonical を SKIPPED として扱い、 別 PR で workflow_dispatch 経由で 本番 canonical を commit する運用とする - cpp: CMake / ONNX Runtime setup 不在のため同様 PLACEHOLDER - workflow: matrix を 6 runtime に拡張、 Rust binary 名 piper-plus-cli を source 文字列に反映、 dtolnay/rust-toolchain@stable は既存 baseline 経由で action-pin-gate を pass - test: 6 runtime parametrize で header + placeholder marker を 25 assert * fix(docs): lychee link errors in tickets/_template.md (inline-code placeholders) lychee は file existence を check するため、 _template.md 内の placeholder link 3 件 (M?-slug.md / proposals/... 相対パス誤り) で fail していた (PR #513 lychee job exit 2)。 これらは「template の例示」 であり実 link として resolve させない 意図のため、 inline code 形式 (backtick wrap) に書き換えて lychee の include_verbatim=false 設定で skip 対象とする。 - line 4 (Milestone placeholder) - line 177-178 (proposals/... example linkの 2 件、 ticket 配下用 path だが template は 1 階層浅いため lychee が confused) 3 link errors を inline code 化で skip、 lychee がそのまま green になる想定。 * fix(ci): address Copilot review on PR #513 (10 logic + silent-failure issues) T-001 (Rekor verify): - find_assets_for_release: pair artifact with .cosign.bundle (PR #511 actual output) instead of legacy .sig/.pem; legacy releases now classify SKIPPED via empty bundle field, not via missing sig/pem - verify_blob: use cosign --bundle flag (matches PR #511 sign-blob --bundle) - run_verify: thread cosign_cmd through to verify_blob (--cosign-cmd was parsed but unused — dead flag) - main: treat status='error' as failure (was silently green) - rekor-verify.yml: fail flag uses script exit code, not report grep; explicit fail when report.md is missing - test: lock bundle convention with mirror assert against PR #511 yaml; 20 tests (up from 15) T-002 (action SHA drift): - baseline.json: add _note field clarifying use-site vs unique-pair shape (expected_total_pins=3 use-sites / allowlist=2 unique action+sha pairs) - check_action_sha_drift.py: docstring no longer claims live-mode dangling detection (it does not); explicit note that dangling status is offline- mode only against baseline allowlist T-003 (CLI help extract): - cli-help-extract.yml drift-check: - run on schedule (was excluded — weekly drift signal was lost) - walk full 6-runtime set instead of artifact list (so cpp + csharp show as SKIPPED via PLACEHOLDER marker even when build step produces no artifact) - always write report.md (even 0-artifact case) so sticky/Issue steps do not reference missing file - new CAPTURE_FAILED status for builds that produced no artifact - Issue auto-create gated on diff_count output (was based on undefined steps.diff.outputs.exit_code) 59 unit tests pass (up from 54). * fix(ci): sanitize onnxruntime PCI warning so python --help is reproducible across runners PR #513 first run revealed python DRIFT: GitHub Linux runner's `python -m piper --help 2>&1` captures an onnxruntime PCI bus scan warning to stderr that local macOS dev env (no ACPI device path) never emits. Add 2 sanitize rules: - main rule: timestamped `\[W:onnxruntime:\...\]` lines (whole-line strip) - fallback: same warning shape without leading timestamp Unit test additions (27 / 25 pass): - test_apply_rules_strips_onnxruntime_pci_warning - test_apply_rules_strips_onnxruntime_warning_without_timestamp * fix(ci): reorder sanitize rules — ANSI strip must precede caret-anchored rules PR #513 第 2 CI run の sticky で python が DRIFT 検出され続けたため、 sanitize step に一時 debug 出力を追加して確認した結果、 Linux GitHub runner の `python -m piper --help 2>&1` が onnxruntime PCI warning を先頭 \x1b[0;93m で prefix した状態で stderr に出力していた (NO_COLOR=1 inject は onnxruntime に 無効)。 既存 rule 順序は ANSI escape strip を timestamp / onnxruntime rule の 後に置いていたため、 ^-anchored の onnxruntime rule は文字列先頭が ESC byte で あり digit ではないため match せず、 warning がそのまま canonical に流入していた。 Fix: - scripts/sanitize_cli_help_rules.toml の ANSI rule を位置 1 (timestamp 前) に 移動。 順序不変条件 (ANSI MUST run before ^-anchored rules) を冒頭 docstring と ANSI rule note に明記 - tests/scripts/test_sanitize_cli_help.py に regression test を追加 (test_apply_rules_strips_ansi_prefixed_onnxruntime_warning)。 実 CI sticky から取得した byte sequence (\x1b[0;93m prefix + warning + \x1b[m\n suffix) を入力に、 ANSI と warning の両方が削除されることを assert 28 sanitize tests pass (was 27)。 Note: この commit は元々 debug + revert の 2 commit (前 286aba9 + e62529d) として push されたが、 commitlint type-enum で 'debug' 不可のため soft reset で 1 commit に統合 + force-with-lease push し直した。
ayutaz
added a commit
that referenced
this pull request
May 20, 2026
… + require baseline build PR #523 review (Copilot) 5 件のうち、 現 commit chain で実態が変化した 1 件を除く 4 件に根本対応。 表面取り繕いはせず、 distroless 実態と canonical 経路の signal 整合性を取り直す。 - python alias 問題 (Copilot指摘 #2/#3/#4 同根): gcr.io/distroless/python3-debian12 ships /usr/bin/python3 のみ。 `python` symlink は debian / distroless どちらでも default では 存在しない (debian の python-is-python3 package がないと作られ ない)。 - Dockerfile ENTRYPOINT/HEALTHCHECK CMD の `python` を `/usr/bin/python3` 絶対パスに変更 (PATH 経由の name resolution に依存しない設計)。 - workflow smoke step の `--entrypoint python` を `--entrypoint /usr/bin/python3` に変更。 - /usr/local/bin/uvicorn の COPY を撤回 (Copilot指摘 #3): pip-generated console script の shebang は builder の `#!/usr/local/bin/python` を hardcode。 final stage には /usr/local/bin/python が存在しない (interpreter は /usr/bin/python3 のみ) ため、 uvicorn を直接 exec すると shebang 解決 fail。 ただし inference.py が `import uvicorn; uvicorn.run(...)` で起動する programmatic invocation のみ使うため、 console script はそもそも 不要。 「壊れた状態の uvicorn 実行ファイルを置いておく」 のは reviewer 混乱の元になるため削除。 site-packages 内の uvicorn module は import 経由で動作する。 - baseline build の continue-on-error: true を削除 (Copilot指摘 #5): canonical Dockerfile.cpu は HF Space deploy 経路。 build が壊れて いれば trial の size 比較は意味を失う + canonical 自体が silently red になる二重リスク。 required (default) に戻して、 canonical 破損 は即 fail で見えるようにする。 未対応の指摘 1 件 (Copilot #1 = chainguard:latest 固定 reproducibility) は commit 00b6ed3 で chainguard 自体を gcr.io/distroless に置き換え 済みのため stale。 review thread に reply で経緯を返答する。
ayutaz
added a commit
that referenced
this pull request
May 20, 2026
* feat(docker): trial distroless variant for python-inference (CPU) M3 distroless 化を derisk する trial PR。 既存 Dockerfile.cpu と docker-compose / HF Space deploy 経路は不変更で残し、 並行 Dockerfile.cpu.distroless を新設して build / size / smoke test を CI で実証する scope。 - 新規 Dockerfile (Dockerfile.cpu.distroless): multi-stage build (builder = python:3.13-slim-trixie、 final = cgr.dev/chainguard/ python:latest)。 builder で piper_plus_g2p[all] + piper_train [inference] + Gradio WebUI requirements + NLTK data を install、 final へ Python site-packages + /usr/local/bin/uvicorn + 必要な shared libs (libsndfile / libgomp / libFLAC / libvorbis / libogg / libopus / libmpg123) を COPY - 新規 CI workflow (python-inference-distroless-trial.yml): PR base + workflow_dispatch、 canonical Dockerfile.cpu を baseline として build、 distroless trial を build、 image size 比較、 import smoke test 2 種を実行、 PR コメントに sticky report 投稿 - scope 限定: linux/amd64 single-arch CI build のみ、 multi-arch (arm64) は別 PR、 /v1/audio/speech E2E は別 PR、 CVE 比較 (Trivy) は canonical 置換 PR 側、 HF Space staging deploy 検証は user 手動 step (Claude Code は実行不可) - promotion path: trial PR で build 成立 + size 削減効果が確認 できた後、 別 PR で Dockerfile.cpu 自体を置換 (HF Space staging で cold start 検証後) * fix(ci): regenerate doc-examples audit snapshot after ticket header edit scripts/check_doc_examples.py audit が docs/tickets/tickets/T-012-* に 追記した scope note の line shift を検出したため snapshot を再生成。 line_start/line_end が +10 ずれただけで block の hash_sha1 と category は 不変。 doc-examples-gate が PR base trigger でこの drift を fail として 拾ったので、 trial PR scope に含めて修正。 * fix(ci): split distroless trial smoke into pure-python (required) + known-risk dlopens CI run on PR #523 revealed that onnxruntime's C extension (linked against builder's libc) fails to load inside chainguard/python's runtime. soundfile's dlopen of libsndfile carries the same class of risk. Promotion-blocking, but exactly the gap the trial PR is meant to MEASURE — not to crash on. Split the smoke step: - pure-Python imports (piper_train / FastAPI / uvicorn) stay required. These prove the multi-stage site-packages COPY landed correctly. - onnxruntime + soundfile become `continue-on-error: true` known-risk probes. The report.md surfaces PASS/FAIL/SKIPPED per probe so the promotion PR has clear signal on which base image to switch to (likely gcr.io/distroless/python3-debian12 — Debian-glibc baseline matches the debian-slim builder, with the trade-off of pinning Python 3.11). Also: - Make report.md generation `if: always()` so a failed smoke still produces the sticky comment. - Gate sticky-comment post on hashFiles('...report.md') != '' so a truly missing file doesn't escalate to a hard CI failure. * fix(docker): switch distroless base from chainguard/python to distroless/python3-debian12 (ABI root cause) Previous trial used cgr.dev/chainguard/python:latest as the final stage and python:3.13-slim-trixie as the builder. CI run on PR #523 failed with ModuleNotFoundError on onnxruntime.capi.onnxruntime_pybind11_state — the root cause is that chainguard/python is Wolfi-based with its own glibc/Python ABI, distinct from debian-slim. Pre-built onnxruntime wheels cannot resolve symbols across that boundary. The previous follow-up commit (b04583d) wrapped the failing smoke steps with `continue-on-error: true`, which masked the symptom without fixing the cause. That commit is effectively reverted here: smoke tests are back to required + executed in a single docker run. Root fix: - builder: keep python:3.11-slim-trixie (Debian, glibc-2.36+ via bookworm) - final: switch to gcr.io/distroless/python3-debian12 Both stages share Debian-glibc ABI, so onnxruntime's pre-built C extension and soundfile's libsndfile dlopen succeed by construction. Python version aligns at 3.11 with the canonical Dockerfile.cpu (no Python version drift). distroless/python3-debian12 ships UID 65532 nonroot by default and has no shell / package manager, meeting the trial's distroless goals. Trade-off vs. Wolfi: Debian baseline carries slightly more inherited package state than Wolfi, but it's already the SBOM surface of Dockerfile.cpu, so there's no new attack surface relative to canonical. * ci(docker): wire Dockerfile.cpu.distroless into hadolint / trivy / docker-build PR #523 で新設した Dockerfile.cpu.distroless は専用 workflow (python-inference-distroless-trial.yml) でしか build されておらず、 既存 docker workflow chain (hadolint lint / trivy CVE scan / docker-build multi-arch build) が pickup していなかった。 関連する docker ビルドが全部走って動くことを保証するため、 3 workflow に trial Dockerfile を追加。 - hadolint.yml: matrix.dockerfile list に docker/python-inference/Dockerfile.cpu.distroless を追加。 PR base trigger で Dockerfile lint が走り、 構文 / best-practice 違反を 既存と同じ gate で catch - trivy-container-scan.yml: target matrix に python-inference-cpu-distroless を追加。 専用 trial workflow の size 比較とは別軸で CVE 数値の SARIF を生成し GitHub Security tab に upload (CRITICAL のみ PR fail、 既存 conservative policy 継続) - docker-build.yml: 新 job build-python-inference-cpu-distroless-trial を追加。 既存 build-python-inference-cpu と同じ multi-arch (linux/arm64 + linux/amd64) で buildx build、 PR では push しない (canonical 経路ゼロ影響)。 trial 専用 workflow が amd64-only (A/B size 比較のため) で cover できない arm64 build 互換性を 保証する これで PR #523 が触る trial Dockerfile は専用 workflow + 3 既存 docker workflow の合計 4 経路で build + lint + scan が走る形に なり、 「関連 docker build がすべて動く」 状態を CI で実証できる。 * fix(docker): arch-neutral lib staging + hadolint registry allow-list PR #523 CI で 2 件の関連 docker workflow が fail。 いずれも表面取り繕い ではなく根本対応: 1. hadolint DL3026 (use only an allowed registry in FROM): gcr.io が .hadolint.yaml の trustedRegistries に未登録だったため、 gcr.io/distroless/python3-debian12 を base にした Dockerfile が lint で reject されていた。 gcr.io を allow-list に追加 (理由 コメント付き)。 vendor registry の policy 拡張で、 base image 切替 のたびに lint 設定を後追い修正する状況を解消。 2. docker-build multi-arch build fail (linux/arm64 で `lstat /usr/lib/x86_64-linux-gnu: no such file or directory`): Debian multiarch layout で arch 別 triplet ディレクトリは x86_64 → /usr/lib/x86_64-linux-gnu/ aarch64 → /usr/lib/aarch64-linux-gnu/ と分かれており、 hardcoded x86_64 path での COPY は arm64 build で必ず破綻する。 設計を変更して builder stage で必要な lib を /opt/runtime-libs/ にまとめてから final stage が arch 不問で COPY する形に変更。 bash wildcard ('*-linux-gnu/') を builder 側で 1 回 resolve させ、 final stage は単一 deterministic path のみを参照。 両 fix を統合的に testing できるよう、 既存 4 workflow chain (専用 trial workflow + hadolint + trivy + docker-build) で build / lint / scan / multi-arch build をすべて走らせる。 * fix(docker): use /usr/bin/python3 absolute path + drop uvicorn binary + require baseline build PR #523 review (Copilot) 5 件のうち、 現 commit chain で実態が変化した 1 件を除く 4 件に根本対応。 表面取り繕いはせず、 distroless 実態と canonical 経路の signal 整合性を取り直す。 - python alias 問題 (Copilot指摘 #2/#3/#4 同根): gcr.io/distroless/python3-debian12 ships /usr/bin/python3 のみ。 `python` symlink は debian / distroless どちらでも default では 存在しない (debian の python-is-python3 package がないと作られ ない)。 - Dockerfile ENTRYPOINT/HEALTHCHECK CMD の `python` を `/usr/bin/python3` 絶対パスに変更 (PATH 経由の name resolution に依存しない設計)。 - workflow smoke step の `--entrypoint python` を `--entrypoint /usr/bin/python3` に変更。 - /usr/local/bin/uvicorn の COPY を撤回 (Copilot指摘 #3): pip-generated console script の shebang は builder の `#!/usr/local/bin/python` を hardcode。 final stage には /usr/local/bin/python が存在しない (interpreter は /usr/bin/python3 のみ) ため、 uvicorn を直接 exec すると shebang 解決 fail。 ただし inference.py が `import uvicorn; uvicorn.run(...)` で起動する programmatic invocation のみ使うため、 console script はそもそも 不要。 「壊れた状態の uvicorn 実行ファイルを置いておく」 のは reviewer 混乱の元になるため削除。 site-packages 内の uvicorn module は import 経由で動作する。 - baseline build の continue-on-error: true を削除 (Copilot指摘 #5): canonical Dockerfile.cpu は HF Space deploy 経路。 build が壊れて いれば trial の size 比較は意味を失う + canonical 自体が silently red になる二重リスク。 required (default) に戻して、 canonical 破損 は即 fail で見えるようにする。 未対応の指摘 1 件 (Copilot #1 = chainguard:latest 固定 reproducibility) は commit 00b6ed3 で chainguard 自体を gcr.io/distroless に置き換え 済みのため stale。 review thread に reply で経緯を返答する。
30 tasks
ayutaz
added a commit
that referenced
this pull request
Jun 26, 2026
…solidation (#581) * fix(python): Windows native + cu128 自動 install + PosixPath shim 共通化 Issue #1 (pyproject.toml cu128 marker): - pytorch-cu128 source の marker を `sys_platform == 'linux'` から `sys_platform != 'darwin'` に変更し、 Windows + GPU dev でも `uv sync` だけで torch 2.11.0+cu128 が install されるよう修正。 - macOS は CUDA 非対応のため引き続き除外 (PyPI fallback)。 - 既存 Dependabot bump (coverage 7.14.2 / uvicorn 0.49.0) と互換、 uv.lock は darwin 分岐が追加されただけ。 Issue #2 (PosixPath shim consolidation): - src/python/piper_train/_compat.py に PosixPath モンキーパッチ + torch safe_globals 登録を集約し、 piper_train/__init__.py で eager-load。 これまで export_onnx.py だけに patch があり、 infer / export_torchscript / clean_cached_audio 等の他 entry では Windows 上で Linux 製 ckpt の torch.load が失敗していた症状を解消。 - 旧 inline shim (export_onnx.py:24-29) と未使用 import (pathlib, platform) を削除、 _compat への参照コメントに置換。 Regression tests (再発防止): - src/python/tests/test_compat.py: 4 ケース (module import / package import が compat を trigger / Windows での PosixPath→WindowsPath alias / non-Windows no-op)。 - src/python/tests/test_pyproject_torch_marker.py: 4 ケース (torch + torchaudio × Linux-only 復活 guard + macOS 除外 guard)。 Docs: - docs/migration/v1.12-to-v2.0.md "Windows local dev" セクションを "(修正済) / (透過対応済)" に書き換え、 旧手動 workaround は <details> 折り畳みで pre-v2.0 reference として保持。 * fix(doc-audit): migration guide 編集に追随して audit snapshot を再生成 PR #581 で docs/migration/v1.12-to-v2.0.md の "Windows local dev" セクションを書き換えた際、 code block の数や順序が変わったため tests/fixtures/doc_examples_audit/audit.json と drift。 doc-examples-gate が fail していたため snapshot を再生成。 `python scripts/check_doc_examples.py audit --output tests/fixtures/doc_examples_audit/audit.json --generated-at 2026-05-19T00:00:00Z` で生成、 --check-snapshot で再確認済 (528 blocks: bash=232 python=38 rust=12 csharp=6 go=5 wasm=11)。 * fix(compat): _compat.py の torch import を lazy 化し torch-less CI matrix で破壊しないように PR #581 で eager `import torch` を _compat.py 冒頭に置いた結果、 torch 未 install な python-tests matrix (ubuntu/windows/macos × 3.11/3.12/3.13) が ModuleNotFoundError で collection 段階から fail していた。 修正: - _compat.py: `import torch` を try/except ImportError でガードし、 torch がある時のみ add_safe_globals を呼ぶ。 PosixPath 置換は pathlib + platform のみで完結するため torch 有無に依存しない。 - test_compat.py: test_piper_train_import_triggers_compat を pytest.importorskip("torch.serialization") に変更し、 torch-less 環境では skip。 - ruff format / ruff check 全 pass。 local Windows: 7 passed / 1 skipped (非 Windows test の Windows skip)。 * fix(pr-review): Copilot 3 件指摘を解消 (1) docs/migration/v1.12-to-v2.0.md: "v2.0.0 以降" の wording を 修正。 v2.0.0 は 2026-05-25 既 release で本 PR は含まれないため "PR #581 で" / "PR #581 (v2.0.1 予定)" 表現に書き換え (Issue 1 + Issue 2 セクション)。 (2) src/python/tests/test_compat.py: torch.serialization の get_safe_globals 戻り値が version 間で list / dict / tuple 入り list と varied なため、 dict→values 正規化と (callable, name_str) tuple 展開を追加。 regression test が silent に文字列キーだけ集めて pass する偽 green を防止。 (3) doc-examples-gate audit snapshot を migration guide 編集に 合わせ再生成。 local 検証: test_compat.py 3 passed / 1 skipped、 ruff clean。 * fix(rust-deps): quinn-proto を 0.11.14 → 0.11.15 に bump (RUSTSEC-2026-0185) RUSTSEC-2026-0185: quinn-proto < 0.11.15 で out-of-order stream fragment の Assembler に memory exhaustion 脆弱性 (CVSS 7.5、 denial-of-service)。 cargo-audit が dev branch ですでに red 状態。 quinn-proto は workspace の transitive dep で `cargo tree -i quinn-proto --target all` が empty を返すため piper-plus からは 実際には使用されていない (reqwest 0.12 の rustls-tls-native-roots feature が path 上で持ち込んだ過去の lock 残骸)。 lock file の patch 版差し替えだけで cargo build 影響なし。 `cargo update -p quinn-proto --precise 0.11.15` で実施、 local `cd src/rust && cargo audit` は exit 0 (warnings only: bincode / encoding の unmaintained は config で allowed)。 PR #581 のスコープ外の dev-base 起因 fail だが、 本ブランチで bundle 修正することにした。 * chore(docs): cleanup — archive completed milestone docs + consolidate redundant guides 5 scout x 1 synthesis 構成の audit workflow で 12 件の plan items を抽出し、 本ブランチで全件対応。 P0 (即実行、 confidence=high): - DELETE docs/superpowers/plans/2026-06-03-swedish-per-word-lid-parity.md (Issue #539 → PR #545 で完了、 0 inbound ref、 canonical replacement = docs/reference/swedish-lid/README.md) - DELETE docs/superpowers/ directory (空になったため) - ARCHIVE docs/design/v9-training-handoff.md → docs/design/legacy/ (自己宣言 obsolete、 v9 = 20-speaker scratch は v7 multi-6lang に置換済) P1 (推奨、 confidence=high): - ARCHIVE docs/reference/python-313/ (5 file) → docs/archive/python-313/ (Issue #527 closed 2026-06-22 + PR #569 merged、 完了 banner 追加) - DELETE docs/guides/training.md (84 行、 dual-maintenance liability、 内容は training-guide.md (975 行) と重複) - DELETE docs/guides/README.md (29 行、 docs/README.md Guides section と重複した古い subset) P2 (品質改善、 confidence=medium): - windows-setup.md: TS section 冒頭に重複注記を追加 (full surgical extract は content judgment が重く別 PR に defer) - v7 results doc 冒頭に handoff doc との棲み分け notice を追加 (full fold は別 PR、 cross-link で dedup の意図を明示) P3 (NEEDS-HUMAN-REVIEW → 採用判断、 confidence=medium): - DELETE docs/reference/branch-protection-history.md (dev branch 実際は protection なし、 1 entry が pending placeholder のまま放置、 3 inbound refs を一括更新) - ARCHIVE docs/design/zero-shot-speaker-similarity-research.md → docs/design/legacy/ (v8/v9 era research snapshot、 v7 multi-6lang results に置換済、 DINO/SEED/CFG メモは historical context として保持) - zero-shot-quality-improvement-plan.md: 冒頭に「Tier 1 ✅ 完了 (v7)、 Tier 2/3 active」 ステータス banner を追加 (Phase 1 = 過去 snapshot) - CLAUDE.md model 表は agent context canonical として維持 (refactor しない)、 cross-link 注記のみ追加。 pretrained-models.md には Zero-Shot v7 + Tsukuyomi FT + CAM++ Speaker Encoder の 3 行を user 向けカタログとして追加 副次更新: - 7 ファイルの inbound link を新 path に追従 (docs/README.md / multi-6lang-zero-shot-v7-training-results.md / handoff / CHANGELOG / migration guide / piper_train/__main__.py / test_python313_migration.py / archive/python-313/ 内部 cross-refs) - audit.json snapshot 再生成 (528 blocks → 494 blocks に減少) local 検証: pytest 12 passed + 1 skipped (test_compat / test_pyproject_torch_marker / test_python313_migration)。 * fix(docs): lychee + markdownlint 2 件解消 (docs cleanup の link drift) (1) docs/archive/python-313/requirements.md L362: ort-versions.md への 相対 path が python-313 archive 移動で壊れていた (`../ort-versions.md` → `../../reference/ort-versions.md`)。 (2) docs/design/legacy/v9-training-handoff.md L5: v7 results doc が sibling から parent reference に変わった (`multi-6lang-zero-shot-v7-training-results.md` → `../multi-...`)。 (3) docs/design/zero-shot-quality-improvement-plan.md L4: MD032 blockquote 内 list の前に blank quote line を追加。 * chore(docs): archive 削除、 history/issue へ pointer 化 ユーザー指示により docs/archive/python-313/ と docs/design/legacy/ を 削除。 archive 自体の保管価値が薄く、 設計の根拠 / ADR / 実装履歴は Issue #527 + PR #569 と git log がより信頼できる canonical source であるため、 重複保管を解消。 削除 (7 files): - docs/archive/python-313/README.md - docs/archive/python-313/requirements.md - docs/archive/python-313/specifications.md (DR-001〜009 ADR) - docs/archive/python-313/milestones.md - docs/archive/python-313/open-questions.md - docs/design/legacy/v9-training-handoff.md - docs/design/legacy/zero-shot-speaker-similarity-research.md (親 dir docs/archive/ と docs/design/legacy/ も auto-removed) inbound ref 統合 (8 files): - CHANGELOG.md: archive 5 文書言及 → Issue #527 + PR #569 pointer - docs/migration/v1.12-to-v2.0.md L5/L339/L375: archive 言及を Issue #527 + PR #569 pointer に書換、 関連リソース節も同様 - docs/reference/README.md: Python 3.13 移行 row を削除 - docs/README.md: legacy 2 行削除 - docs/design/multi-6lang-zero-shot-v7-training-results.md: legacy 2 行を git log pointer に書換 - docs/handoff/zero-shot-tts-handoff-2026-06-20.md: legacy 2 行削除 - src/python/piper_train/__main__.py: 内部 comment を "Issue #527 / DR-007 (PR #569)" に書換 - src/python/tests/test_python313_migration.py: assertion message を "Issue #527 / DR-008 (PR #569)" に書換 (test 5 件 pass 確認) audit snapshot 再生成 (494 → 462 blocks)。 local pytest pass。
ayutaz
added a commit
that referenced
this pull request
Jun 27, 2026
PR #582 unresolved review threads 2 件への対応: 1. **pyproject.toml**: super-monotonic-align を unpinned HEAD から commit SHA (9bb1cb3a6fbab27bbe6e566827b9548010c5dd51) に pin。 再現性確保と supply-chain hygiene のため。 SHA は学習で validate 済みの kernel revision を指す。 bump は手動 re-validation 後にのみ実施 (Copilot 指摘 #2) 2. **test_super_mas_dispatch.py**: subprocess の env 構築方法を hand-built dict から os.environ.copy() に変更し、 PYTHONPATH に src/python を明示的に prepend。 これにより: - Windows の SystemRoot を意図せず override する問題を回避 - piper_train が editable-install されていない環境でも subprocess が piper_train を import 可能 (conftest.py の sys.path injection が subprocess に届かない問題、 Copilot 指摘 #1) テスト: 29/29 pass (既存 8 + 拡張 21、 88 秒、 subprocess test 11 件含む)
ayutaz
added a commit
that referenced
this pull request
Jun 27, 2026
) * feat(train): Super-MAS Triton-GPU MAS accelerator (opt-in、 推論影響ゼロ) arXiv:2409.07706 (Park et al., 2024) の Triton kernel に dispatch することで 学習時 MAS を 19-72x 高速化。 既存 Cython は CPU / package 未導入 / PIPER_DISABLE_SUPER_MAS=1 時のフォールバックとして温存し、 学習・推論の 互換性を破壊しない。 SynthesizerTrn.forward の唯一の MAS 呼び出し点 (models.py:964) を通じて自動 dispatch される。 - monotonic_align/__init__.py: _use_super_mas() で CUDA tensor + package available + cuda.is_available() を判定、 該当時のみ _maximum_path_super_mas() に分岐 (upstream は input を破壊変更するため clone + float32 + int32 mask cast) - pyproject.toml: super-mas optional extra (git+https のみ、 PyPI 非配布) - test_super_mas_dispatch.py: dispatcher 選択 4 件 + Cython fallback 2 件 + Super-MAS wrapper contract 3 件 (clone / dtype / int32 mask、 全て mock で GPU/Triton 非依存) - CLAUDE.md: 学習補助セクションに opt-in install + env disable を追記 テスト: 既存 8 件 + 新規 8 件 = 16/16 pass (CPU 環境、 GPU テストは skip) * test(train): Super-MAS dispatcher の統合点と env import-time 動作を追加カバー 前 commit (5014254) でカバー漏れた 2 領域を補完: - TestPublicMaximumPathDispatch (2 件): 公開 API maximum_path() 内の `if _use_super_mas(): return _maximum_path_super_mas(...)` 分岐自体を predicate mock で True/False 両側で検証。 個別ヘルパーは既存テストで カバー済だが、 dispatcher の wiring (どちらの関数が実際に呼ばれるか) は別契約のため独立テスト化 - TestEnvDisableImportTime (11 件): PIPER_DISABLE_SUPER_MAS の import-time 動作を subprocess で検証。 truthy (1/true/yes/TRUE/Yes) 5 件 + non-truthy (0/false/no/空文字/それ以外) 5 件 + unset 1 件。 _SUPER_MAS_DISABLED flag と _super_mas_fn=None 化の両方を確認 テスト件数: 既存 8 (test_monotonic_align) + 既存 8 (前 commit 分) + 新規 13 = 29/29 pass (subprocess test 含むため 67 秒) 既存 test_monotonic_align.py は Cython MAS contract を検証しており、 dispatcher 経由でも Cython fallback path として通る contract に変更が ないため修正不要 (実測でも 8/8 pass を確認) * fix(train): Copilot review 対応 — super-mas 依存 pin + subprocess test 環境継承 PR #582 unresolved review threads 2 件への対応: 1. **pyproject.toml**: super-monotonic-align を unpinned HEAD から commit SHA (9bb1cb3a6fbab27bbe6e566827b9548010c5dd51) に pin。 再現性確保と supply-chain hygiene のため。 SHA は学習で validate 済みの kernel revision を指す。 bump は手動 re-validation 後にのみ実施 (Copilot 指摘 #2) 2. **test_super_mas_dispatch.py**: subprocess の env 構築方法を hand-built dict から os.environ.copy() に変更し、 PYTHONPATH に src/python を明示的に prepend。 これにより: - Windows の SystemRoot を意図せず override する問題を回避 - piper_train が editable-install されていない環境でも subprocess が piper_train を import 可能 (conftest.py の sys.path injection が subprocess に届かない問題、 Copilot 指摘 #1) テスト: 29/29 pass (既存 8 + 拡張 21、 88 秒、 subprocess test 11 件含む)
ayutaz
added a commit
that referenced
this pull request
Jul 9, 2026
vast.ai A100 SXM4 での Plan A 初 GPU 実行 (2026-07-09) で発見した 2 バグと その修正、 bucketing A/B 実測、 nsys GPU 内訳を design doc に記録: - Bug #1: cuFFT が BF16 で失敗 → mel_processing.py で fp32 upcast (11ff71f) - Bug #2: scratch 初期化から KL loss = inf で全 batch skip - 原因 1: TextEncoder projection が logs_p ~ -30 を出力 (d37ccda で enc_p/enc_q 直後の clamp) - 原因 2: MAS attn が scratch 時 non-one-hot で拡張後 30x 増幅 (61aabe2 で post-expansion clamp) - 修正後 40 batches Non-finite 0 件 - bucketing A/B 40 batch では OFF=10.8/ON=13.5 sec/step で ON が 24% 遅い 結果、 但しサンプル数不足と cudnn.benchmark warmup 支配で不確定と判断 - nsys で nchw↔nhwc 変換 12.8% / memcpy 10.7% を検出、 Plan B の channels_last / tmpfs preload 検討材料
ayutaz
added a commit
that referenced
this pull request
Jul 9, 2026
…g は逆効果 vast.ai A100 SXM4 での 300 batch A/B 再測定 (2026-07-09) 結果: - Test 1 (bf16-mixed real config, batch=64, 100 batches): 14.0 sec/step, Non-finite 0/100 - v8 real config で KL fix 完全動作 - Test 2A (32-true simplified, bucketing OFF, 300 batches): 5.15 sec/step - Test 2B (32-true simplified, bucketing ON, 300 batches): 6.90 sec/step = **bucketing は steady state でも +34% 遅い** (実装上の regression) 原因: SpeakerBalancedBatchSampler の length_bucket は per-speaker 昇順ソート → epoch を通じ shortest→longest 順に batch を吐く → cudnn.benchmark が異なる shape の kernel を再選択し累積オーバーヘッド。 40 batch (§3.4) では warmup 支配と判断していたが 300 batch でも改善せず。 対応: --enable-length-bucketing を default OFF 継続、 v8 本走で使わない。 Plan A の 4 施策のうち #3 bucketing は撤回、 残り #1 D concat / #2 static_graph / #4 compile 再チューン は維持。 v8 本走の想定 wall-clock を Test 1 起点で再見積 → 単一 A100 で 18 日は 現実的でなく、 Plan B (4x A100 DDP) を推奨構成 5.4 日 / $672 に更新。
ayutaz
added a commit
that referenced
this pull request
Aug 1, 2026
vast.ai A100 SXM4 での Plan A 初 GPU 実行 (2026-07-09) で発見した 2 バグと その修正、 bucketing A/B 実測、 nsys GPU 内訳を design doc に記録: - Bug #1: cuFFT が BF16 で失敗 → mel_processing.py で fp32 upcast (11ff71f) - Bug #2: scratch 初期化から KL loss = inf で全 batch skip - 原因 1: TextEncoder projection が logs_p ~ -30 を出力 (d37ccda で enc_p/enc_q 直後の clamp) - 原因 2: MAS attn が scratch 時 non-one-hot で拡張後 30x 増幅 (61aabe2 で post-expansion clamp) - 修正後 40 batches Non-finite 0 件 - bucketing A/B 40 batch では OFF=10.8/ON=13.5 sec/step で ON が 24% 遅い 結果、 但しサンプル数不足と cudnn.benchmark warmup 支配で不確定と判断 - nsys で nchw↔nhwc 変換 12.8% / memcpy 10.7% を検出、 Plan B の channels_last / tmpfs preload 検討材料
ayutaz
added a commit
that referenced
this pull request
Aug 1, 2026
…g は逆効果 vast.ai A100 SXM4 での 300 batch A/B 再測定 (2026-07-09) 結果: - Test 1 (bf16-mixed real config, batch=64, 100 batches): 14.0 sec/step, Non-finite 0/100 - v8 real config で KL fix 完全動作 - Test 2A (32-true simplified, bucketing OFF, 300 batches): 5.15 sec/step - Test 2B (32-true simplified, bucketing ON, 300 batches): 6.90 sec/step = **bucketing は steady state でも +34% 遅い** (実装上の regression) 原因: SpeakerBalancedBatchSampler の length_bucket は per-speaker 昇順ソート → epoch を通じ shortest→longest 順に batch を吐く → cudnn.benchmark が異なる shape の kernel を再選択し累積オーバーヘッド。 40 batch (§3.4) では warmup 支配と判断していたが 300 batch でも改善せず。 対応: --enable-length-bucketing を default OFF 継続、 v8 本走で使わない。 Plan A の 4 施策のうち #3 bucketing は撤回、 残り #1 D concat / #2 static_graph / #4 compile 再チューン は維持。 v8 本走の想定 wall-clock を Test 1 起点で再見積 → 単一 A100 で 18 日は 現実的でなく、 Plan B (4x A100 DDP) を推奨構成 5.4 日 / $672 に更新。
This file contains hidden or bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
1 participant
Add this suggestion to a batch that can be applied as a single commit.This suggestion is invalid because no changes were made to the code.Suggestions cannot be applied while the pull request is closed.Suggestions cannot be applied while viewing a subset of changes.Only one suggestion per line can be applied in a batch.Add this suggestion to a batch that can be applied as a single commit.Applying suggestions on deleted lines is not supported.You must change the existing code in this line in order to create a valid suggestion.Outdated suggestions cannot be applied.This suggestion has been applied or marked resolved.Suggestions cannot be applied from pending reviews.Suggestions cannot be applied on multi-line comments.Suggestions cannot be applied while the pull request is queued to merge.Suggestion cannot be applied right now. Please check back later.
No description provided.