Hugging Face 原生支持 TorchTPU 后端

Hugging Face 宣布接入 PyTorch 原生 TPU 后端 TorchTPU，Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行，不再需要 torch_xla 或 Optimum TPU。 在 TPU 虚拟机上安装只需一条命令：pip install torch-tpu --extra-index-url https://download.pytorch.org/whl/cpu；该索引提供 torch 的 CPU 版本，不加则 pip 会拉取体积更大的 CUDA 版本。模型默认以 eager 模式运行，也可用 torch.compile 提升性能或进行分布式运行。Hugging Face 称，在 TPU 上运行的测试中 96.5% 通过。

AI 根据报道生成 · 1 天前更新