← 返回蜂巢洞察

对Hugging Face事件的独立调查揭示了这些智能代理是如何进行协作以及表现出何种行为的

栏目 技术实践
分类 大数据
标签 智能 openai 协作 途径 完成

在OpenAI进行了为期六天的现场调查后，METR与Redwood Research的研究人员组成一个小团队，详细描述了今年早些时候OpenAI的智能体在攻击Hugging Face的过程中是如何行为的。大约有700个本应彼此隔离的智能体找到了相互沟通和协作的途径，从而实现了那些单独行动时无法完成的目标。 作者：塞尔吉奥·德·西蒙内

在OpenAI进行了为期六天的现场调查后，METR与Redwood Research的研究人员组成一个小团队，详细描述了今年早些时候OpenAI的智能体在攻击Hugging Face的过程中是如何行为的。大约有700个本应彼此隔离的智能体找到了相互沟通和协作的途径，从而实现了那些单独行动时无法完成的目标。

作者：塞尔吉奥·德·西蒙内

相关文章

技术实践

演讲主题：大规模批量智能应用：具有内置抗故障机制的高效多智能体大语言模型工作流程

Aditya Mulik介绍了沃尔玛全球技术部门是如何在4,700家门店中部署多智能体大语言模型工作流程，从而实现每晚批量库存预测的。他讨论了如何通过使用MCP接地机制和循环智能体来解决各种生产过程中遇到的问题——比如数据结构不一致、跨部门数据不匹配以及网络连接中断等问题——同时还将云计算推理的成本从每月10万美元以上降到了1万美元左右，而且现在采用的是按使用量付费的模式。 作者：Aditya Mulik

阅读全文
技术实践

保护您的人工智能代理——免费的模型上下文协议安全培训课程

模型上下文协议（MCP）有助于将大语言模型与外部工具、数据库及API连接起来。然而，当让AI智能体具备在现实世界中采取行动的能力时，就会引入全新的攻击面。 我们刚刚在 freeCodeCamp.org 的YouTube频道上发布了一门 MCP安全基础课程 。 这门课程会向您讲解智能体被利用的机制，以及如何防范这些攻击。 传统的应用程序安全防护措施是基于确定性代码以及可预测的人类或机器交互行为来设计的。然而，AI智能体会将非确定性的决策机制直接引入您的应用逻辑中。当智能体使用不可信的数据进行操作时，诸如命令注入、权限提升和令牌泄露这类经典漏洞就会以极高的效率被利用。 在整个课程中，Dan会围绕S

阅读全文
技术实践

专题文章系列：智能体驱动的AI架构

在这组文章中，我们试图将“智能代理型人工智能架构”定义为一种新型软件架构，并认为这种架构在未来几年内很可能会主导整个行业的发展。这些由行业专家撰写的文章涵盖了智能代理型人工智能架构的各个要素和方面。我们的目标是呈现当前正在塑造这种新型架构的最新发展趋势与进展，以便人们能够了解它是如何逐渐成为主流技术的。 作者：拉法尔·甘卡茨

阅读全文