AWS Machine Learning Blog· Joseph Cottingham·· 3 小时前AI 评分36
为 Amazon SageMaker AI 上的 TTS 停止猜测自动扩缩容目标
Stop guessing auto scaling targets for TTS on Amazon SageMaker AI
AI 导读
针对自托管 TTS 端点自动扩缩容目标靠猜的问题,该方案将 82M 参数的 Kokoro-82M 以自定义容器部署在 Amazon SageMaker AI 实时端点上,用 AWS CDK 完成部署。
来源:AWS Machine Learning Blog · aws.amazon.com