Netflix的Titus系统为容器提供了单租户虚拟机隔离功能。
Netflix推出了名为“Titus”的单租户模式：这种模式会在规模适当的EC2实例上单独运行一个任务。计算/平台团队仍然负责这些宿主系统的维护及补丁更新，因此各应用开发团队可以继续使用原有的API和部署流程。 作者：Claudio Masolo
Netflix推出了名为“Titus”的单租户模式：这种模式会在规模适当的EC2实例上单独运行一个任务。计算/平台团队仍然负责这些宿主系统的维护及补丁更新，因此各应用开发团队可以继续使用原有的API和部署流程。
作者：Claudio Masolo相关文章
演讲主题：梯子缺少了一些横档——当人工智能占据了中间环节时，工程发展的进程将会发生怎样的变化？
Alasdair Allan探讨了METR与Anthropic针对人工智能编码应用情况所进行的实证研究。他解释了“监督悖论”这一现象：对人工智能工具的依赖会阻碍初级开发人员的技能成长，可能导致相关制度框架的失效，进而威胁到有效管理自主系统所需的长期发展机制。 作者：Alasdair Allan
阅读全文
亚马逊网络服务展示了如何利用人工智能技术来对与Linux内核相关的安全漏洞进行分类处理。
亚马逊网络服务公司的工程师们介绍了负责维护EC2基础设施所用Linux内核的团队是如何处理与内核安全相关的漏洞问题的。该团队采用了自动化过滤工具、人工智能技术以及人工审核相结合的方法来应对这些漏洞。同时，他们也表示需要转向更新版本的长期支持版Linux内核，因为旧版本的内核分支往往会积累一些从未被应用到新版本中的修复补丁。 作者：马特·桑德斯
阅读全文
演讲主题：大规模应用大型语言模型：隐藏在背后的KV缓存优势
Khawaja Shams从分布式系统的角度探讨了如何高效地扩展大语言模型推理系统的规模。他介绍了优化GPU利用率、应对KV缓存内存使用瓶颈、利用分层存储技术、减少延迟以及采用分散式预填充与解码架构等方法，从而提升整体系统性能、降低成本并提高系统的可用性。 作者：Khawaja Shams
阅读全文
演讲主题：快速行动，切勿辜负信任：与人携手共进，持续推动发展
Suhail Patel介绍了Monzo是如何构建其软件工程组织架构及技术体系的，这些机制使得系统能够每天安全地运行数百次。他还分享了自己对于微服务抽象模型、基于租户环境的测试环境配置、静态代码分析工具以及持续性能监控工具的看法，说明了一个强大的内部技术平台如何帮助工程师和大型语言模型快速进行迭代开发，同时确保系统的可靠性不受影响。 作者：Suhail Patel
阅读全文