← 返回蜂巢洞察

新成立的Archestra团队使用OpenAPPA测试工具，在两项重要的安全性能评估项目中均取得了0%的攻击成功率这一优异成绩。

栏目 技术实践
分类 大数据
标签 openappa 导致 测试 布鲁诺 安全

Archestra发布了OpenAPPA，这是一种开源安全工具，旨在防止由于提示注入或模型异常行为导致的数据泄露。该团队在使用Bench-Corp（20个多步骤企业工作流程测试场景）和AgentThreatBench进行安全性能测试时，发现没有一次攻击能够成功突破OpenAPPA的防御机制；而Claude Code的自动检测模式仅有10%的攻击成功率，Microsoft FIDES的这一数字则为31%。 作者：布鲁诺·库里奥尔

Archestra发布了OpenAPPA，这是一种开源安全工具，旨在防止由于提示注入或模型异常行为导致的数据泄露。该团队在使用Bench-Corp（20个多步骤企业工作流程测试场景）和AgentThreatBench进行安全性能测试时，发现没有一次攻击能够成功突破OpenAPPA的防御机制；而Claude Code的自动检测模式仅有10%的攻击成功率，Microsoft FIDES的这一数字则为31%。

作者：布鲁诺·库里奥尔

相关文章

技术实践

智能代理的可靠性：为工具的使用、安全机制、循环流程以及工作流程的输出结果构建相应的测试框架 [完整书籍]

一个完美的最终结果并不能证明某个具有自主行为能力的人工智能系统的工作流程是正确的。 本书提出了一种基于代码的方法，用于验证系统执行过程及所产生的业务成果，并利用这些证据来决定是否允许该系统正式投入使用。 书中还提供了一个可运行的离线测试工具，用以演示各种核心技术。第19章专门区分了那些已经实现的功能与那些仍处于开发阶段、尚未投入实际应用的扩展功能。 目录 引言 第一部分：可靠性差距 第二部分：基础原理 第三部分：核心结论 第四部分：行为特征 第五部分：跨领域问题 第六部分：决策过程 第七部分：诚实性与普及度 结论 术语表 参考文献 生产就绪性检查清单 引言 那个“虚假的演示” 许多具有自主行为

阅读全文
技术实践

“从设计层面确保安全性”：在编写任何代码之前，如何将安全机制纳入系统架构之中

在大多数工程团队中，都会进行这样的对话——不过往往为时已晚。 想象一下：某个功能被部署到生产环境中之后，才会进行安全审查；或者在进行渗透测试时发现了问题；更糟糕的是，还会收到事故报告。 这些漏洞确实是存在的，修复它们也需要投入大量成本。而在这些讨论中，总会有人说：“我们需要为这个功能添加安全措施。” 但这个问题就出在这里：安全并不是事后才添加到软件中的东西，而应该从项目一开始就被纳入设计之中。一旦开始考虑为已经存在的东西添加安全功能，那就意味着你已经进入了“事故应对模式”。 “安全驱动设计”是一种完全不同的思维方式——在制定架构决策之前，就应该明确安全要求；在编写任何代码之前，就必须了解潜在的

阅读全文
技术实践

播客：未来的网络安全：硬件内存安全、自动化治理机制以及后量子密码学

在这一集中，Atsign公司的工程师、同时也是QCon London安全主题研讨会的主持人Chris Swan，回顾了2026年QCon London会议上讨论的内容，并预告了下一届会议将探讨的主题。讨论重点在于：安全工程领域正在发生怎样的变化——这种变化使得安全防护措施不再依赖于人类的警惕性，而是转向在整个应用程序栈范围内采用自动化、系统级的防御机制。 作者：Chris Swan

阅读全文