跳到正文
AWS Machine Learning Blog· Mijanur Palash·· 2 天前AI 评分36

在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理

Fine-tuning GPT-OSS-20B for multilingual reasoning on Amazon SageMaker HyperPod

AI 导读

在 Amazon SageMaker HyperPod 上对 GPT-OSS-20B 做多语言推理微调:基座模型在 50 例测试中仅 22% 用目标语言推理,英语 100%、法语和西班牙语 0%、德语 10%、意大利语 0%。实验表明 SFT 承担主要工作,GRPO 在存在提升空间时进一步优化,训练采用 LoRA,GPT-OSS 使用 4× ml.g6e.12xlarge。

来源:AWS Machine Learning Blog · aws.amazon.com