AWS 发布 TTS 端点自动扩缩容测量方法

AWS 发布了一套基于实测的自动扩缩容配置方法，用于确定 Amazon SageMaker AI 上自托管 TTS 端点的扩缩容目标，替代凭经验猜测。方案以 82M 参数的 Kokoro-82M 模型为例，将其作为自定义容器部署在 SageMaker AI 实时端点上，并用 AWS CDK 完成部署。 运行扩容测量前，账户需具备 ml.g5.xlarge 服务配额，且至少比基线多一个空闲槽位。AWS 称，示例中的全部数字可用两份已提交的测量文件重跑 plan 独立复现，不产生 AWS 调用和费用。 AWS 同时提示，示例容器固定的是旧版 PyTorch，存在已知漏洞 PYSEC-2026-2286（已在 torch 2.10.0 修复），非概念验证用途前应先审查并升级该版本。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。