跳到正文
Hugging Face Blog·· 3 天前AI 评分58

Hugging Face 推出 TorchNeuron,可直接在 AWS Trainium 上运行模型

TorchNeuron: running HF models on AWS Trainium is easier than ever

AI 导读

Hugging Face 发布 TorchNeuron,为 PyTorch 在 AWS Trainium 上提供原生后端,Transformers、Diffusers 和 Kernels 原生支持,10 月 20 日起以公开测试版提供,可通过 pip install torch-neuronx 安装。

来源:Hugging Face Blog · huggingface.co