演讲主题:在DoorDash平台上构建生成式人工智能系统
Swaroop Chitlur和Sidd Kodwani讲述了DoorDash在构建内部生成式人工智能平台过程中的经历。他们讨论了那些关键的架构决策,包括如何从依赖第三方供应商的方案转向使用开放源代码模型,如何处理大语言模型与智能代理之间的交互机制,以及如何在保证准确性的同时降低延迟并控制成本,以满足超过5,000名内部用户的实际需求。 作者:Siddharth Kodwani, Swaroop Chitlur

Swaroop Chitlur和Sidd Kodwani讲述了DoorDash在构建内部生成式人工智能平台过程中的经历。他们讨论了那些关键的架构决策,包括如何从依赖第三方供应商的方案转向使用开放源代码模型,如何处理大语言模型与智能代理之间的交互机制,以及如何在保证准确性的同时降低延迟并控制成本,以满足超过5,000名内部用户的实际需求。
作者:Siddharth Kodwani, Swaroop Chitlur相关文章
演讲主题:智能代理的开发框架:控制机制、不变量以及用于管理生产环境中的人工智能代理的审批流程
OpenAI的Vinoth Govindarajan探讨了为什么在实际应用中,人工智能代理会出现各种问题,而这些问题的根源并不仅仅在于模型产生的“幻觉”现象。通过OpenClaw等实际案例,他解释了构建可靠的人工智能代理系统所需要遵循的关键原则:明确界定状态的所有权、对并发状态变化进行序列化处理、限定执行权限的范围,并在用户能够看到的层面验证这些操作的有效性。 作者:Vinoth Govindarajan
阅读全文
演讲主题:人工智能时代下的平台工程
与会专家们阐述了平台团队是如何适应并支持人工智能辅助工程发展的,同时指出了哪些功能应该被纳入该平台中。他们还讨论了标准化与开发者自主性之间的权衡问题,并分享了管理人工智能工具、安全机制以及调整工作流程的相关策略。 作者:Stéphane Di Cesare、Davide de Paolis、Stephen Cihak、Camila Macedo、Renato Losio
阅读全文
创造了现代人工智能的那篇论文:Transformer背后的故事
每次你与现代人工智能模型进行交互时,其实都在使用一种源于2017年那篇名为《注意力才是关键》的研究论文所提出的架构。 我们在freeCodeCamp.org的YouTube频道上发布的最新视频,详细讲述了八位谷歌研究人员是如何着手改进Google Translate的,最终又如何彻底改变了整个科技领域的格局的。 在这一突破性成果出现之前,人工智能领域主要依赖循环神经网络。这类模型会按顺序逐词处理文本,但这带来了两个巨大的障碍: “上下文丢失”:当处理长句或长段落时,模型会忘记开头那些重要的信息。 “训练速度缓慢”:由于需要顺序处理数据,各个步骤无法并行执行,因此即使使用庞大的GPU集群,模型的
阅读全文
演讲主题:克劳德能够自我修复吗?利用大型语言模型进行事件响应
人类可靠性工程师亚历克斯·帕尔库埃分享了关于如何利用大语言模型来应对现实世界中的突发事件的相关经验。他解释了为什么人工智能在分析日志和追踪数据时能够发挥“超人般”的作用,为何在根本原因分析过程中,它仍然难以区分因果关系与相关性,以及工程领域的领导者该如何将人工智能融入到应急响应的工作流程中,同时避免削弱人类的专业能力。 作者:亚历克斯·帕尔库埃
阅读全文