文章：正在接受测试的大语言模型可靠性指标：准确性、成功率以及验证方法的局限性
验证层是通过对输出结果进行信任度排序来处理数据，而不是直接修正错误。在针对六种不同可靠性机制的测试中，投票机制和自我纠正功能并未能够提升数据的准确性，它们仅仅只是过滤掉了那些可疑的数据记录而已。而在实际的生产系统中，通过用确定性查找方式替代数据生成过程、更加关注系统的产出效率而非纯粹的准确性，并在进行多重验证之前解决数据提取过程中出现的瓶颈问题，才能够显著提高系统的可靠性。 作者：Pushpdeep Mishra, Wejdan Bagais
验证层是通过对输出结果进行信任度排序来处理数据，而不是直接修正错误。在针对六种不同可靠性机制的测试中，投票机制和自我纠正功能并未能够提升数据的准确性，它们仅仅只是过滤掉了那些可疑的数据记录而已。而在实际的生产系统中，通过用确定性查找方式替代数据生成过程、更加关注系统的产出效率而非纯粹的准确性，并在进行多重验证之前解决数据提取过程中出现的瓶颈问题，才能够显著提高系统的可靠性。
作者：Pushpdeep Mishra, Wejdan Bagais相关文章
如何在问题真正发生之前发现运营中的异常变化？
在 我之前的文章中 ，我探讨了“操作符合性”这一概念：即如何判断观察到的实际情况是否满足既定的操作规范。 这就引出了一个很有意义的问题： 当前这个系统是否仍然符合这些规范？ 然而，生产环境中的系统是不会一成不变的。 流量会发生变化，依赖关系可能会恶化，证书也会过期，配置设置会被修改，功能开关的状态也会改变，数据量会不断增加，人们还会进行手动操作，各种代理程序也会执行相应的动作，基础设施也会被替换等等。 一个系统在部署后可能最初是符合规范的，但几小时或几天后就可能不再符合这些规范了。 这就是我想在这里探讨的问题。 “操作漂移”指的是系统的实际运行状态与既定操作规范之间的差异会随着时间逐渐增大。
阅读全文
智能代理的可靠性：为工具的使用、安全机制、循环流程以及工作流程的输出结果构建相应的测试框架 [完整书籍]
一个完美的最终结果并不能证明某个具有自主行为能力的人工智能系统的工作流程是正确的。 本书提出了一种基于代码的方法，用于验证系统执行过程及所产生的业务成果，并利用这些证据来决定是否允许该系统正式投入使用。 书中还提供了一个可运行的离线测试工具，用以演示各种核心技术。第19章专门区分了那些已经实现的功能与那些仍处于开发阶段、尚未投入实际应用的扩展功能。 目录 引言 第一部分：可靠性差距 第二部分：基础原理 第三部分：核心结论 第四部分：行为特征 第五部分：跨领域问题 第六部分：决策过程 第七部分：诚实性与普及度 结论 术语表 参考文献 生产就绪性检查清单 引言 那个“虚假的演示” 许多具有自主行为
阅读全文
“从设计层面确保安全性”：在编写任何代码之前，如何将安全机制纳入系统架构之中
在大多数工程团队中，都会进行这样的对话——不过往往为时已晚。 想象一下：某个功能被部署到生产环境中之后，才会进行安全审查；或者在进行渗透测试时发现了问题；更糟糕的是，还会收到事故报告。 这些漏洞确实是存在的，修复它们也需要投入大量成本。而在这些讨论中，总会有人说：“我们需要为这个功能添加安全措施。” 但这个问题就出在这里：安全并不是事后才添加到软件中的东西，而应该从项目一开始就被纳入设计之中。一旦开始考虑为已经存在的东西添加安全功能，那就意味着你已经进入了“事故应对模式”。 “安全驱动设计”是一种完全不同的思维方式——在制定架构决策之前，就应该明确安全要求；在编写任何代码之前，就必须了解潜在的
阅读全文
《戈多4》类Roguelike游戏开发课程——如何制作一款完整的自上而下视角的动作游戏
一款自上而下的动作类肉鸽游戏只有在这几种情况下才能取得成功：战斗系统必须充满紧张感，各个房间之间必须相互关联，而且每次游戏进程都要求玩家在力量与风险之间做出取舍。《Godot 4》具备实现这些目标的工具，但大多数教学教程并没有将这些元素整合成一款可供他人实际操作的游戏。 我们刚刚在freeCodeCamp.org的YouTube频道上发布了一门为期10小时的完整课程，该课程将教你如何使用Godot 4.7.2版本从头开始构建一款完整的自上而下的动作类肉鸽游戏，从创建一个空项目到最终导出可玩的游戏文件。这门课程由“Coding Quests”的创作者Omar Zaki主讲，其中大部分课程环节都包
阅读全文