演讲主题：为人工智能代理构建数据层：从事务系统到多中心处理架构及语义模型
Fabiane Nardon介绍了TOTVS是如何为那些对大量数据“渴求不已”的AI系统准备企业数据的。她探讨了如何在精确性、安全性与成本之间平衡确定性逻辑与非确定性大语言模型。Nardon还详细说明了如何通过使用数据网格、低延迟数据库架构、语义本体以及动态的工具选择机制，来优化上下文窗口的设计，并减少事务系统中因数据处理而产生的开销。 作者：Fabiane Nardon
Fabiane Nardon介绍了TOTVS是如何为那些对大量数据“渴求不已”的AI系统准备企业数据的。她探讨了如何在精确性、安全性与成本之间平衡确定性逻辑与非确定性大语言模型。Nardon还详细说明了如何通过使用数据网格、低延迟数据库架构、语义本体以及动态的工具选择机制，来优化上下文窗口的设计，并减少事务系统中因数据处理而产生的开销。
作者：Fabiane Nardon相关文章
如何在问题真正发生之前发现运营中的异常变化？
在 我之前的文章中 ，我探讨了“操作符合性”这一概念：即如何判断观察到的实际情况是否满足既定的操作规范。 这就引出了一个很有意义的问题： 当前这个系统是否仍然符合这些规范？ 然而，生产环境中的系统是不会一成不变的。 流量会发生变化，依赖关系可能会恶化，证书也会过期，配置设置会被修改，功能开关的状态也会改变，数据量会不断增加，人们还会进行手动操作，各种代理程序也会执行相应的动作，基础设施也会被替换等等。 一个系统在部署后可能最初是符合规范的，但几小时或几天后就可能不再符合这些规范了。 这就是我想在这里探讨的问题。 “操作漂移”指的是系统的实际运行状态与既定操作规范之间的差异会随着时间逐渐增大。
阅读全文
智能代理的可靠性：为工具的使用、安全机制、循环流程以及工作流程的输出结果构建相应的测试框架 [完整书籍]
一个完美的最终结果并不能证明某个具有自主行为能力的人工智能系统的工作流程是正确的。 本书提出了一种基于代码的方法，用于验证系统执行过程及所产生的业务成果，并利用这些证据来决定是否允许该系统正式投入使用。 书中还提供了一个可运行的离线测试工具，用以演示各种核心技术。第19章专门区分了那些已经实现的功能与那些仍处于开发阶段、尚未投入实际应用的扩展功能。 目录 引言 第一部分：可靠性差距 第二部分：基础原理 第三部分：核心结论 第四部分：行为特征 第五部分：跨领域问题 第六部分：决策过程 第七部分：诚实性与普及度 结论 术语表 参考文献 生产就绪性检查清单 引言 那个“虚假的演示” 许多具有自主行为
阅读全文
演示主题：性能爆发的GPU
Andrew Martin探讨了为什么人工智能安全与Kubernetes的安全性密切相关。他分析了当前不断变化的人工智能威胁形势，涵盖了非确定性智能体的行为特征、GPU供应链中的安全漏洞、共享计算环境带来的风险，以及一系列实用的防御策略——从使用防火墙来保护系统，到对智能体进行身份验证——这些措施都有助于保障生产环境中基于云技术构建的人工智能应用系统的安全性。 作者：Andrew Martin
阅读全文
“从设计层面确保安全性”：在编写任何代码之前，如何将安全机制纳入系统架构之中
在大多数工程团队中，都会进行这样的对话——不过往往为时已晚。 想象一下：某个功能被部署到生产环境中之后，才会进行安全审查；或者在进行渗透测试时发现了问题；更糟糕的是，还会收到事故报告。 这些漏洞确实是存在的，修复它们也需要投入大量成本。而在这些讨论中，总会有人说：“我们需要为这个功能添加安全措施。” 但这个问题就出在这里：安全并不是事后才添加到软件中的东西，而应该从项目一开始就被纳入设计之中。一旦开始考虑为已经存在的东西添加安全功能，那就意味着你已经进入了“事故应对模式”。 “安全驱动设计”是一种完全不同的思维方式——在制定架构决策之前，就应该明确安全要求；在编写任何代码之前，就必须了解潜在的
阅读全文