优步外卖重新优化了搜索流程,从而将端到端的处理延迟时间减少了50%。
Uber对Uber Eats的搜索系统进行了全面改造,最终使得端到端的处理延迟降低了50%。这些改进包括采用新的测量机制、减少数据检索的工作量、实现并行处理、重新设计广告数据的存储与传输方式、优化基础设施配置,以及调整代码编写流程。此外,Uber还在探索使用微批量处理技术、基于产品的数据检索方式以及HTTP多部分数据流传输技术。 作者:Leela Kumili

Uber对Uber Eats的搜索系统进行了全面改造,最终使得端到端的处理延迟降低了50%。这些改进包括采用新的测量机制、减少数据检索的工作量、实现并行处理、重新设计广告数据的存储与传输方式、优化基础设施配置,以及调整代码编写流程。此外,Uber还在探索使用微批量处理技术、基于产品的数据检索方式以及HTTP多部分数据流传输技术。
作者:Leela Kumili相关文章
Meta公司将保密计算技术应用于那些具备私密数据处理功能的智能眼镜中。
Meta已将“私有处理技术”应用于AI眼镜。通过使用加密虚拟机、可信执行环境、远程认证机制、匿名身份验证方式、OHTTP路由技术以及基于TEE技术的存储系统,这些AI眼镜能够在云端处理人工智能相关的工作负载,并保持用户的持久性上下文信息。 作者:Leela Kumili
阅读全文
如何利用Claude API构建一个可靠的人工智能助手
大型语言模型能够回答问题、总结文档、编写代码,还能与外部系统进行交互。但构建一个可靠的人工智能应用,仅仅发送指令并显示响应是远远不够的。 一个可用于实际生产的应用程序必须能够管理对话历史记录、提供相关的上下文信息、安全地使用各种工具、处理不同类型的响应,并判断生成的内容是否有用。 在本教程中,我们将构建 ShopHelper ——这个为虚构在线商店设计的客户支持助手。完成制作后,ShopHelper将能够做到以下几件事: 以统一的语气回答常见问题 记住顾客之前说过的话 通过调用代码中的函数来查询订单状态 安全地处理Claude给出的多段式响应 利用工作流程来处理客户支持请求 评估修改提示语后效
阅读全文
Meta公司的ZGateway在每秒处理超过10亿次操作时,能够将与ZippyDB的连接延迟减少19倍。
Meta推出了ZGateway这一专为ZippyDB设计的无状态代理服务器。该代理服务器负责集中处理连接管理、流量路由、缓存分配、负载均衡以及访问控制等功能。目前,ZGateway每秒能够处理超过10亿次请求,占ZippyDB总流量的约40%;根据Meta的模型估算,使用该代理后,持久连接的数量将会减少19倍。 作者:Leela Kumili
阅读全文
如何将应用程序从AWS迁移到GKE [完整指南]
这个指导性实验将带你了解如何迁移一个小型支付应用。该应用包含使用React开发的用户界面以及运行在AWS EC2实例上的Express API,而数据库则仍保存在AWS上。 你需要将用户界面和API迁移到Google Kubernetes Engine上,但无需更改客户目前使用的公共URL地址,而是逐步将流量从AWS转移至GKE,每次转移的比例为几百分比。 完成整个迁移过程后,你将能够在本地运行该应用,在AWS上搭建基础设施,通过八个Terraform步骤在GKE上构建环境,测试新环境是否正常工作,然后将生产环境的流量全部转移到GKE上,完成切换流程,并拆除不再需要的资源。 下图展示了迁移过程
阅读全文