AWS SageMaker 机器学习平台

AWS SageMaker 是什么？完全托管 ML 平台——Notebook 写代码、Training 训模型、Inference 部署 API——一套工具做完全流程

AWS SageMaker 是 AWS 的完全托管机器学习平台。它不是单一产品——是一组 ML 工具的集合：SageMaker Studio（免费 Web IDE——写、训练、部署在一个界面）、Notebook（托管 Jupyter Notebook 实例）、Training（分布式 GPU 训练，含 Spot 实例最多省 90%）、Inference（四种推理模式——Real-Time/Serverless/Async/Batch Transform）、Pipelines（ML 工作流编排）、Feature Store（特征管理和共享）、JumpStart（预构建模型库）。

SageMaker 帮你省掉自建 ML 基础设施的麻烦——不用手动配 GPU 驱动、CUDA、Docker、负载均衡、自动扩缩——这些都是 SageMaker 内置的。但代价是比直接用 EC2 GPU 实例贵 10-30%（管理附加值）。核心价值不是省钱——是加速 ML 团队的迭代速度。

通过 SevenColorYun 代理 AWS，SageMaker 的 Notebook/Training/Inference 费用享充值返赠 5% 起。Spot Training 可用性在代理账号上不受影响（与 AWS 官方账号 Spot 池权限相同）。

SageMaker 的核心机制：Notebook → Training → Inference 三阶段，每阶段独立计费

Notebook — 托管 Jupyter Notebook 实例（后台跑在 EC2 上），按秒计费（最少 1 分钟）。实例运行就计费——即使代码没在跑（空闲 Notebook 的 Hidden Cost 容易被忽略——建议不使用时在控制台 Stop 实例）。SageMaker Studio 是免费的 Web IDE——你只需为 Studio 里创建的 Notebook 实例付费。

Training — 分布式训练（支持多 GPU 单机和多节点多 GPU）。最重要省钱策略：Spot Training——利用 AWS 闲置 GPU 池，提供最多 90% 折扣。SageMaker 自动帮你管理 checkpoint（训练中断→从 S3 恢复 checkpoint→在新 Spot 实例上继续）。如果你的训练作业可以容忍中断（checkpoint 间隔 10 分钟），Spot Training 是显著的成本优化开关。

Inference — 四种模式：(1) Real-Time 端点——24/7 运行，按秒计费 + 数据传出费（最少 1 分钟），适合生产环境低延迟推理；(2) Serverless Inference——无实例费，仅按调用时长和次数计费（$0.000020/ms + $0.20/M 次调用），适合零星推理和开发/测试；(3) Async Inference——大文件（>5MB）的异步推理，推理完成后结果输出到 S3；(4) Batch Transform——批量预测（整个 S3 文件作为输入），推理完成后端点自动释放。

额外组件 — Pipelines（有向无环图 DAG 定义 ML 工作流——串行/并行执行步骤，每步输出传递到下步）和 Feature Store（特征共享和版本管理——不同模型的训练可以复用同一个特征集）。

SageMaker 在出海场景中的实际应用？

场景一：SaaS 企业 ML 推理（Serverless Inference + Lambda + DynamoDB）

国内 SaaS 出海到北美——推荐系统（用户行为 → 推荐内容）用 SageMaker Serverless Inference 部署模型。Serverless 无实例费——开发和测试期推理端点费接近零。正式上线后日调用量 5,000 次 × 100ms 推理 = $1/day 推理费 + $1/day 调用费 = ~$60/月。如果日调用涨到 10,000 次+，切换到 Real-Time 端点 ($84/月 单实例) 更经济。

场景二：GPU 训练大模型（Spot Training + S3）

AI 创业团队在 AWS 亚太区域训练 7B 参数 LLM——用 SageMaker Spot Training（ml.p4d.24xlarge, 8×A100 80GB, On-Demand $37.688/hr → Spot ~$3.77/hr）- 100 小时训练约 $377 vs On-Demand $3,769。Training 作业的 checkpoint 自动保存到 S3（S3 Standard 存储费 $0.023/GB/月——每个 checkpoint 约 10-50GB）——中断或完成后从 S3 恢复。

场景三：多模型生产环境（Multi-Model Endpoint + Pipelines）

有 10+ 个小模型（每个模型推理频率不同，但不能有冷启动延迟）——用 Multi-Model Endpoint：一个 ml.m5.xlarge 端点 ($0.23/hr = ~$168/月) 托管全部 10 个模型（每个模型只有 <100MB 的小文件），SageMaker 动态加载/卸载模型到 GPU 内存。比 10 个独立 Endpoint（$168 × 10 = $1,680/月）省 10x。

SageMaker vs 阿里云 PAI vs GCP Vertex AI：三大厂商 ML 平台对比

SageMaker + S3 + Lambda + DynamoDB：Serverless ML 推理流水线产品组合

以上为参考架构。实际费用随调用量/模型大小/存储量变化。

相关资源

• AWS SageMaker 官方文档
• SageMaker 定价页
• SageMaker Spot Training 最佳实践
• 阿里云 PAI 人工智能平台 — 对比参考
• AWS Bedrock + Claude Code 生产避坑实录 — AI 开发工具链实战经验
• AWS Lambda 函数计算 — SageMaker 推理前置 API 层
• AWS S3 对象存储 — 训练数据 + 模型文件存储