← 返回蜂巢洞察

DoorDash使用Envoy和Valkey技术构建了一个每秒可处理150万请求的代理缓存系统,该系统的可用性高达99.99999%。

DoorDash开发了Entity Cache这一透明代理缓存平台。该平台基于Envoy和Valkey技术构建,旨在减少其微服务架构中的冗余服务请求。在DoorDash的服务网格环境中运行,该平台通过缓存机制、事件驱动的失效处理机制、故障应对措施以及性能优化手段,能够每秒处理超过150万次请求,并保持99.99999%的高可用性。 作者:Leela Kumili

DoorDash开发了Entity Cache这一透明代理缓存平台。该平台基于Envoy和Valkey技术构建,旨在减少其微服务架构中的冗余服务请求。在DoorDash的服务网格环境中运行,该平台通过缓存机制、事件驱动的失效处理机制、故障应对措施以及性能优化手段,能够每秒处理超过150万次请求,并保持99.99999%的高可用性。

作者:Leela Kumili

相关文章

技术实践

无状态MCP消除了在AWS服务器部署过程中对会话亲和性的要求

AWS详细说明了最新的Model Context Protocol规范是如何取消对远程MCP服务器而言所需的协议级会话机制、粘性会话功能以及会话存储功能的。这一变更使得请求路由能够更加独立地进行,同时也简化了系统的水平扩展流程;而与应用状态管理、重试机制、可观测性以及函数幂等性相关的问题,则被转移到了其他层次来处理。 作者:Leela Kumili

阅读全文
技术实践

Cloudflare从1.1.1.1这个DNS缓存服务中削减了100TB的内存容量

Cloudflare重新设计了自己用于存储Big Pineapple DNS缓存数据的内存结构,使得每个缓存项所占用的内存空间减少了56%,从而使其所有服务器总共节省了约100 TB的工作内存。这些基于Rust语言进行的改进还使缓存的插入速度提高了43%,查询延迟降低了19%;同时,Cloudflare能够在不增加额外内存的情况下提升其缓存容量。 作者:Leela Kumili

阅读全文
技术实践

文章:构建安全且可扩展的面部识别系统

当有三千名员工同时进行身份验证时,同步API调用会导致系统崩溃。本文介绍了一种适用于大规模人脸识别系统的四层架构:客户端过滤功能可使云服务成本降低30%;检测与验证过程的分离使得系统扩展能力提升10倍;基于风险的动态阈值设置有助于更好地控制系统性能;而零信任隐私保护机制,结合用户同意机制及自动化数据清理功能,能够有效遵守GDPR和HIPAA等法规要求。 作者:Praveen Kumar Gopalakrishnan

阅读全文
技术实践

Agoda用DragonflyDB取代了原有的72片分片的SQL Server价格缓存系统。

Agoda将其规模为1.5 TB的酒店价格缓存系统从72个SQL Server分片迁移到了DragonflyDB,以此来应对日益增加的读写请求量。此次迁移采用了分阶段双读机制、奇偶校验技术、逐步转移流量策略以及去中心化的故障检测机制。据Agoda称,P99读延迟时间减少了大约8倍,而两个DragonflyDB集群则确保了系统的高可用性。 作者:Leela Kumili

阅读全文