Transformers 5.19 发布：加入 EmbeddingGemma 2、多模态嵌入支持，并强化 MoE Expert Parallel 与连续批处理

这次有什么变化

Hugging Face 10 月 6 日发布 Transformers v5.19.0。新版本加入 Google EmbeddingGemma 2 支持，可把文本、图片、音频和视频映射到统一 768 维向量空间，并支持 Matryoshka 截断到 512、256 或 128 维。框架侧还新增 Expert Parallel token dispatch，并将其用于 Qwen3 MoE 等模型；Trainer 适配 Expert Parallel，连续批处理扩展到常规 SDPA/Flash attention，同时引入逐层 cache 配置。版本包含多项 breaking changes，升级时需检查 MoE router logits 与 paged attention 行为。