SageMaker AI 端点自动扩缩放：CDK 构造实现无中断部署

专题CODE民工小刘2026年10月24日

先说结论

端点配置更新导致 CloudFormation 部署失败，需手动注销/注册可扩缩放目标。
CDK 构造通过三个自定义资源实现自动注销与注册，确保配置变更时自动扩缩放保持可用。
通过 ConfigHash 驱动，单次部署同时更新端点配置与扩缩放参数，避免手动干预。

背景

更新 Amazon SageMaker AI 实时端点配置（如实例类型、实例数或环境变量）时，使用 CloudFormation 或 AWS CDK 部署会因可扩缩放目标未注销而失败，导致部署中断，影响生产环境连续交付。

为什么对 FDE 重要

FDE 在现场交付 AI 端点时，需要频繁调整配置并确保自动扩缩放持续工作。若手动注销后未重新注册，扩缩放策略失效，可能导致流量高峰时服务不可用，增加运维风险与故障排查成本。

现场落地建议

1. 将 AWS CDK 示例构造作为复用组件，直接集成到现有 CDK 项目中，无需自行实现自定义资源逻辑。
2. 在配置文件（config.yaml）中统一管理端点与扩缩放参数，利用 ConfigHash 属性确保参数变更触发完整自动化流程。
3. 部署时使用 CDK bootstrap 确保环境准备完整，再执行 cdk deploy 完成端点与扩缩放的协同更新。

风险与检查清单

确认 AWS 账户拥有 SageMaker AI、Lambda、IAM、Application Auto Scaling 与 CloudWatch 的权限。
使用 CDK v2 与 Python 3.12+ 环境，确保构造依赖的 Lambda 与 Step Functions 正确生成。
部署前验证可扩缩放目标是否已注册（aws application-autoscaling describe-scalable-targets），扩缩放策略是否生效（describe-scaling-policies）。
测试配置更新后扩缩放是否仍然活跃，防止因手动注销导致的扩缩放失效。

常见问题

Q1: 为何手动注销后需重新注册可扩缩放目标？

A: 端点配置更新需要重新创建或修改可扩缩放目标，若未注册则 CloudFormation 无法追踪扩缩放资源，导致部署失败或扩缩放失效。

Q2: ConfigHash 的作用是什么？

A: ConfigHash 是唯一标识端点配置与扩缩放参数的属性，当其值变化时，CDK 会重新触发自定义资源，确保扩缩放在端点更新前后保持注册状态。

Q3: 部署失败后如何快速恢复？

A: 使用 cdk destroy 删除全部资源，再重新执行 cdk deploy，构造会自动完成注销与注册流程，避免手动干预。

来源: AWS AI, 链接: https://aws.amazon.com/blogs/machine-learning/orchestrating-sagemaker-ai-endpoint-auto-scaling-with-aws-cdk/