← 返回蜂巢洞察

人工智能在根本原因分析方面的应用正在从基于模型的推理方法转向基于具体情境的工程化分析方法。

栏目 技术实践
分类 大数据
标签 根本原因 这样一来 转化成 系统 提供

工程师们越来越多地认为，只要提供准备充分的背景信息，现代的大语言模型就已经能够通过根本原因分析来进行推理了，这样一来，原本复杂的难题就被转化成了那些负责处理相关遥测数据的系统流程。一项针对十一种不同模型的实验为这一观点提供了初步的证据。 作者：马克·西尔维斯特

工程师们越来越多地认为，只要提供准备充分的背景信息，现代的大语言模型就已经能够通过根本原因分析来进行推理了，这样一来，原本复杂的难题就被转化成了那些负责处理相关遥测数据的系统流程。一项针对十一种不同模型的实验为这一观点提供了初步的证据。

作者：马克·西尔维斯特

相关文章

技术实践

Python工作者在Cloudflare上已进入稳定运行阶段，但仍存在关于“冷启动”现象以及上游维护相关问题的疑问。

Cloudflare已经正式推出了基于PEP 783标准开发的Python Workers功能，这些功能是通过Workers connect API来实现的，同时也利用了操作系统中的socket系统调用。不过，该公告并未提供任何关于性能的数据。后来，一位urllib3项目的维护者质疑：究竟是谁在为这些上游开发工作提供支持？而Wasmer的创始人则要求提供有关“冷启动时间”的数据，他引用了Cloudflare之前发布的信息，称冷启动时间约为1.027秒。 作者：Steef-Jan Wiggers

阅读全文
技术实践

演讲主题：超越原型阶段：利用Ray构建具有通用扩展性的AI智能体基础设施

演讲者们讨论了如何将人工智能代理从本地FastAPI原型转换为在Kubernetes上运行的、具备高可靠性的生产系统，并且这些系统是使用Ray技术实现的。他们分享了关于RayCluster的拓扑结构、状态存储机制、如何在动态流量环境下实现自动扩展，以及如何设计稳健的控制平面等方面的经验；同时，他们也重点介绍了一些关键的保护措施、多区域部署方案，以及将大语言模型用于评估系统的流程。 作者：Deepak Mohanakumar Chandramouli, Bhumik Vinodkumar Thakkar

阅读全文
技术实践

如何在问题真正发生之前发现运营中的异常变化？

在 我之前的文章中 ，我探讨了“操作符合性”这一概念：即如何判断观察到的实际情况是否满足既定的操作规范。 这就引出了一个很有意义的问题： 当前这个系统是否仍然符合这些规范？ 然而，生产环境中的系统是不会一成不变的。 流量会发生变化，依赖关系可能会恶化，证书也会过期，配置设置会被修改，功能开关的状态也会改变，数据量会不断增加，人们还会进行手动操作，各种代理程序也会执行相应的动作，基础设施也会被替换等等。 一个系统在部署后可能最初是符合规范的，但几小时或几天后就可能不再符合这些规范了。 这就是我想在这里探讨的问题。 “操作漂移”指的是系统的实际运行状态与既定操作规范之间的差异会随着时间逐渐增大。

阅读全文