Netflix正在推动开源版本的Flink自动扩展功能的应用,以便能够支持超过30,000个流处理任务。
Netflix正在将旗下分布在多个AWS区域的3万多项流处理任务迁移至开源工具Apache Flink Autoscaler。这种基于操作员级别的调度机制有效弥补了Netflix原有集群级自动调度系统在处理复杂、具有状态依赖性的数据处理流程时所存在的局限性。据Netflix称,采用这一新方案后,某个团队的年度Flink计算成本降低了58%,每年因此节省约110万美元。 作者:Leela Kumili