AWS Machine Learning Blog· Belair Albahagwi·· 3 天前AI 评分48
AssemblyAI 在 AWS 上利用 Amazon EC2 Spot 优化语音转文字推理成本
Cost-optimizing AssemblyAI speech-to-text inference on AWS with Amazon EC2 Spot
AI 导读
AssemblyAI 展示其语音转文字平台如何在 AWS 上以 Amazon ECS、Amazon EC2 Spot Instances 和 Amazon SQS 构建可扩展且具韧性的推理架构。方案混合 On-Demand 与多系列 NVIDIA GPU 实例,并通过 SQS 队列重试机制应对 Spot 中断,在美国西部俄勒冈和欧洲伦敦 AWS 区域维持 SLA 与数据驻留要求。
来源:AWS Machine Learning Blog · aws.amazon.com