← 返回蜂巢洞察

亚马逊网络服务推出了基于规格定义的组件架构,从而实现了灵活的数据处理流程。

AWS提出了一种以规范为导向的方法,通过将数据处理的意图与具体的处理逻辑分离出来,从而构建出灵活的数据工作流程。这种架构采用了声明性的规范、可重用的处理功能,并在执行前进行验证。AWS表示,这种方法能够将数据集的集成时间从数周缩短到几天,同时还能支持数据的可追溯性、版本控制、分类管理以及合规性要求。 作者:Leela Kumili

AWS提出了一种以规范为导向的方法,通过将数据处理的意图与具体的处理逻辑分离出来,从而构建出灵活的数据工作流程。这种架构采用了声明性的规范、可重用的处理功能,并在执行前进行验证。AWS表示,这种方法能够将数据集的集成时间从数周缩短到几天,同时还能支持数据的可追溯性、版本控制、分类管理以及合规性要求。

作者:Leela Kumili

相关文章

技术实践

Pinterest利用事件时间戳来确定那些规模高达拍字节级别的数据分区的划分方式。

Pinterest为其数据库数据摄入框架引入了基于事件时间的划分机制。该机制利用Apache Flink来跟踪事件发生的时间,并通过Apache Iceberg元数据来生成一种不会随时间变化而改变的水印信息,从而帮助后续处理任务判断:持续摄入的CDC数据是否已经达到可以开始处理的完整程度。 作者:Leela Kumili

阅读全文
技术实践

优步外卖重新优化了搜索流程,从而将端到端的处理延迟时间减少了50%。

Uber对Uber Eats的搜索系统进行了全面改造,最终使得端到端的处理延迟降低了50%。这些改进包括采用新的测量机制、减少数据检索的工作量、实现并行处理、重新设计广告数据的存储与传输方式、优化基础设施配置,以及调整代码编写流程。此外,Uber还在探索使用微批量处理技术、基于产品的数据检索方式以及HTTP多部分数据流传输技术。 作者:Leela Kumili

阅读全文
技术实践

光标技术利用S3 WAL机制,使Git存储系统的处理能力提升到每秒可接收超过300次推送请求。

Cursor推出了名为“Continuity”的Git存储架构,该架构以基于S3技术的预写日志作为数据存储的权威来源。这种设计将本地的NVMe仓库转换为缓存系统,并将副本协调机制与数据一致性保障机制分开处理。在模拟测试中,使用S3 Express One Zone时,Cursor能够实现线性扩展——当副本数量达到100个时,每秒仍可完成超过300次数据推送操作。 作者:Leela Kumili

阅读全文