演讲主题:智能代理的开发框架:控制机制、不变量以及用于管理生产环境中的人工智能代理的审批流程
OpenAI的Vinoth Govindarajan探讨了为什么在实际应用中,人工智能代理会出现各种问题,而这些问题的根源并不仅仅在于模型产生的“幻觉”现象。通过OpenClaw等实际案例,他解释了构建可靠的人工智能代理系统所需要遵循的关键原则:明确界定状态的所有权、对并发状态变化进行序列化处理、限定执行权限的范围,并在用户能够看到的层面验证这些操作的有效性。 作者:Vinoth Govindarajan

OpenAI的Vinoth Govindarajan探讨了为什么在实际应用中,人工智能代理会出现各种问题,而这些问题的根源并不仅仅在于模型产生的“幻觉”现象。通过OpenClaw等实际案例,他解释了构建可靠的人工智能代理系统所需要遵循的关键原则:明确界定状态的所有权、对并发状态变化进行序列化处理、限定执行权限的范围,并在用户能够看到的层面验证这些操作的有效性。
作者:Vinoth Govindarajan相关文章
演讲主题:在DoorDash平台上构建生成式人工智能系统
Swaroop Chitlur和Sidd Kodwani讲述了DoorDash在构建内部生成式人工智能平台过程中的经历。他们讨论了那些关键的架构决策,包括如何从依赖第三方供应商的方案转向使用开放源代码模型,如何处理大语言模型与智能代理之间的交互机制,以及如何在保证准确性的同时降低延迟并控制成本,以满足超过5,000名内部用户的实际需求。 作者:Siddharth Kodwani, Swaroop Chitlur
阅读全文
播客:做正确的事:在人工智能时代追求责任与透明度——节目总结
在这期播客中,负责“文化与方法”板块的首席编辑Shane Hastie与Hugo Venturini进行了交谈。他们探讨了当人工智能负责编写代码时,谁应该承担相应的责任;人工智能如何正在改变代码审查流程以及传统的工程角色定位;同时,也讨论了领导者应该如何营造一种透明且充满心理安全感的工作环境。 作者:Hugo Venturini
阅读全文
技术债务其实具有社会性;它其实就是通过实践来学习所必须付出的代价。
“技术债务”并不一定意味着工程设计存在缺陷;它其实可能是通过实际使用的软件来获取经验所必须付出的代价。随着人工智能技术的快速发展,代码生成的速度已经超出了我们理解和分析这些代码的能力,因此“技术债务”逐渐成为一种社会技术层面的挑战。 作者:本·林德斯
阅读全文
文章:我们无法重现的那些iOS系统崩溃现象
本文描述了一项调查过程,旨在找出某款大型iOS消费类应用在生产环境中发生崩溃的根本原因。该应用程序在运行过程中会间歇性地出现崩溃现象,而且任何尝试在本地环境下重现这一故障的努力都未能成功。虽然最终进行的代码修改幅度很小,但要找到问题的根源,就必须将那些模糊不清的SIGBUS错误报告转化为一系列有针对性的实验。 作者:阿比舍克·冈德·德布
阅读全文