← 返回蜂巢洞察

文章：代理框架：它的本质以及构建它的两种方法

栏目 技术实践
分类 大数据
标签 系统 trista agentcore 开发 方面

本文通过两个金融辅助系统的实现案例，详细解释了代理框架的开发过程及其运行机制：分别是AWS AgentCore Harness以及结合Envoy AI Gateway的LangChain系统。文章对比了这两种方案在工具管理、内存分配、模型访问方式、成本控制以及可观测性方面的差异，并分析了它们在运营责任归属、移植性以及开发工作量等方面的优缺点。 作者：Trista Pan

本文通过两个金融辅助系统的实现案例，详细解释了代理框架的开发过程及其运行机制：分别是AWS AgentCore Harness以及结合Envoy AI Gateway的LangChain系统。文章对比了这两种方案在工具管理、内存分配、模型访问方式、成本控制以及可观测性方面的差异，并分析了它们在运营责任归属、移植性以及开发工作量等方面的优缺点。

作者：Trista Pan

相关文章

技术实践

演讲主题：超越原型阶段：利用Ray构建具有通用扩展性的AI智能体基础设施

演讲者们讨论了如何将人工智能代理从本地FastAPI原型转换为在Kubernetes上运行的、具备高可靠性的生产系统，并且这些系统是使用Ray技术实现的。他们分享了关于RayCluster的拓扑结构、状态存储机制、如何在动态流量环境下实现自动扩展，以及如何设计稳健的控制平面等方面的经验；同时，他们也重点介绍了一些关键的保护措施、多区域部署方案，以及将大语言模型用于评估系统的流程。 作者：Deepak Mohanakumar Chandramouli, Bhumik Vinodkumar Thakkar

阅读全文
技术实践

Python工作者在Cloudflare上已进入稳定运行阶段，但仍存在关于“冷启动”现象以及上游维护相关问题的疑问。

Cloudflare已经正式推出了基于PEP 783标准开发的Python Workers功能，这些功能是通过Workers connect API来实现的，同时也利用了操作系统中的socket系统调用。不过，该公告并未提供任何关于性能的数据。后来，一位urllib3项目的维护者质疑：究竟是谁在为这些上游开发工作提供支持？而Wasmer的创始人则要求提供有关“冷启动时间”的数据，他引用了Cloudflare之前发布的信息，称冷启动时间约为1.027秒。 作者：Steef-Jan Wiggers

阅读全文
技术实践

谷歌将开源环境质量监测工具AQuA，用于诊断人工智能应用中的故障问题

谷歌已将AQuA这一开源工具公开发布。该工具可用于分析实际应用环境中的人工智能代理系统的运行情况，识别反复出现的故障模式，并通过对比部署前的源代码版本来探究这些故障的根本原因。在进行了32次实验后，开发人员发现：在调整提示信息之后，乘客选择座位时绕过系统设定的规则的情况从15次减少到了2次；而乘客在填写饮食偏好信息时出现遗漏的情况也从7次降为零。 作者：Leela Kumili

阅读全文