[新产品/新功能] AWS Application Load Balancer 推出 Target Optimizer

**发布时间:** 2025-11-20 **厂商:** AWS **类型:** WHATSNEW **原始链接:** https://aws.amazon.com/about-aws/whats-new/2025/11/aws-application-load-balancer-target-optimizer ---  [新产品/新功能] AWS Application Load Balancer 推出 Target Optimizer   # 产品功能分析 ## 新功能/新产品概述 AWS 为其 **应用负载均衡器 (Application Load Balancer, ALB)** 推出了名为 **Target Optimizer** 的新功能。该功能的核心目标是允许用户对后端目标（如 EC2 实例）可处理的**最大并发请求数 (maximum number of concurrent requests)** 进行精确限制。其工作原理是，用户在创建新的**目标组 (Target Group)** 时启用该功能并配置一个**目标控制端口 (target control port)**，同时需要在目标实例上运行一个由 AWS 提供的轻量级**代理 (agent)**。该代理会实时跟踪并上报当前实例正在处理的并发请求数量。当一个目标的并发请求达到用户设定的阈值时，ALB 将停止向该目标发送新的请求，直到其并发数下降。此功能主要面向运行**计算密集型 (compute-intensive)** 工作负载的用户，例如复杂的**数据处理**、**AI/ML 推理 (inference)** 等。这些场景下的单个任务可能消耗大量资源，导致实例无法高效地并行处理多个请求。Target Optimizer 将 ALB 从一个简单的流量分发器，提升为一个能够感知应用层处理能力的智能流量控制器。 ## 关键客户价值 - **提升系统稳定性与请求成功率** 通过为每个目标设置精确的并发请求上限（可低至每次一个请求），有效防止后端服务因流量突增而被压垮。这直接避免了服务过载导致的请求失败（如 HTTP 503 错误），从而显著提高整体服务的可靠性和请求成功率。 - **优化资源利用率与降低延迟** 对于计算密集型任务，过多的并发请求会导致严重的上下文切换和资源争抢，反而降低处理效率并增加延迟。Target Optimizer 确保每个目标实例始终在其最佳性能区间内工作，避免了资源浪费，实现了更高的有效**吞吐量 (throughput)** 和更低的平均**延迟 (latency)**。 - **简化应用架构与运维** 在没有此功能之前，开发者通常需要在应用代码内部实现复杂的请求队列、信号量或自定义限流逻辑来控制并发。Target Optimizer 将这一通用需求下沉到基础设施层，由 ALB 统一管理，极大地简化了应用逻辑，降低了开发和运维的复杂性。 - **差异化优势** 相较于传统的**最少连接 (Least Connections)** 负载均衡算法，Target Optimizer 提供了更精准的负载评估。最少连接算法无法区分一个长时间运行的重度请求和一个快速完成的轻度请求。而 Target Optimizer 通过代理直接监控**正在处理的请求数量**，能更真实地反映目标的实际负载水平，从而做出更优的路由决策。 ## 关键技术洞察 - **基于代理的主动反馈机制** 该功能的技术核心在于引入了运行在目标实例上的**代理 (agent)**。这标志着从传统的、由负载均衡器发起的被动健康检查模式，演进为一种包含目标主动状态反馈的协同工作模式。代理提供了关于应用实际处理能力的、高保真度的实时数据，使 ALB 的决策依据从网络连接数升级为应用并发数。 - **应用层感知 (Application-Aware) 的负载均衡** Target Optimizer 是 ALB 向更深层次的**应用层感知**演进的重要一步。它使 ALB 不再仅仅是根据网络流量指标（如 IP、端口、URL）进行路由，而是能够理解并响应应用层面的一个关键性能指标——并发处理能力。这种能力对于需要精细化性能调优的现代应用（尤其是微服务和无服务器架构）至关重要。 - **控制平面与数据平面的紧密协同** 该功能实现依赖于一个高效的协同机制：目标实例上的代理（属于数据平面）将并发状态信息上报给 ALB 的控制平面。控制平面根据这些信息和用户配置的策略，动态更新路由规则，并下发给处理实际流量的 ALB 节点（数据平面），从而实现对流量的实时、精准调控。 ## 其他信息 - **成本影响** 官方文档明确指出，启用了 Target Optimizer 的目标组会比常规目标组产生更多的 **LCU (Load Balancer Capacity Unit)** 用量。这意味着该高级功能并非免费，客户在使用时需要在其带来的性能和稳定性收益与增加的云服务成本之间做出权衡。 - **配置的灵活性** 该功能可在**目标组 (Target Group)** 级别进行独立启用和配置。这意味着，在同一个 ALB 后端，可以为不同的服务（由不同的目标组承载）应用不同的并发控制策略，为复杂应用场景提供了高度的灵活性。   # AWS Application Load Balancer 推出 Target Optimizer **原始链接:** [https://aws.amazon.com/about-aws/whats-new/2025/11/aws-application-load-balancer-target-optimizer](https://aws.amazon.com/about-aws/whats-new/2025/11/aws-application-load-balancer-target-optimizer) **发布时间:** 2025-11-20 **厂商:** AWS **类型:** WHATSNEW --- # AWS Application Load Balancer 推出 Target Optimizer 发布于: 2025 年 11 月 20 日 Application Load Balancer (ALB) 现已推出 Target Optimizer，这是一项新功能，可让您对目标 (target) 强制执行最大并发请求 (concurrent requests) 数量。通过 Target Optimizer，您可以微调您的应用程序堆栈 (application stack)，使目标仅接收其能够处理的请求数量，从而实现更高的请求成功率、更高的目标利用率 (target utilization) 和更低的延迟 (latency)。这对于计算密集型工作负载 (compute-intensive workloads) 尤其有用。例如，如果您的应用程序执行复杂的数据处理或推理 (inference)，您可以将每个目标配置为一次只接收一个请求，以确保并发请求数量与目标处理能力相匹配。您可以通过创建一个带有目标控制端口 (target control port) 的新目标组 (target group) 来启用此功能。启用后，该功能需要借助一个由 AWS 提供的代理 (agent) 来工作，您需要在目标上运行该代理来跟踪请求并发度。对于每个 ALB 包含多个目标组的部署，您可以灵活地为每个目标组单独配置此功能。您可以通过 AWS Management Console、AWS CLI、AWS SDK 和 AWS API 启用 Target Optimizer。ALB Target Optimizer 已在所有 AWS 商业区域 (AWS Commercial Regions)、AWS GovCloud (US) 区域和 AWS 中国区域上线。与常规目标组相比，启用了 Target Optimizer 的目标组流量会产生更多的 LCU 用量。有关更多信息，请参阅 [定价页面](https://aws.amazon.com/elasticloadbalancing/pricing/?nc=sn&loc=3) 、[发布博客](https://aws.amazon.com/blogs/networking-and-content-delivery/drive-application-performance-with-application-load-balancer-target-optimizer/) 和 ALB [用户指南](https://docs.aws.amazon.com/elasticloadbalancing/latest/application/target-group-register-targets.html#register-targets-target-optimizer) 。