← 返回蜂巢洞察

Cloudflare的自动路由系统会根据最近一次的路由情况，为每一项请求分配相应的优先级。

栏目 技术实践
分类 大数据
标签 router 提出 auto 使用者 能够

Cloudflare通过AI Gateway推出了Auto Router公测版本：该系统会根据每个请求的复杂性、模糊性、重要性以及上下文相关性，从相应的分类模型中选择合适的模型来处理该请求。根据Cloudflare自己的测试数据，Auto Router在成功率方面比Claude Opus 5.5低10个百分点，但其成本仅为后者的三分之一；此外，实际使用者也提出了这样的疑问：在较长的交互过程中，这些因素如何能够保持有效性。 作者：Steef-Jan Wiggers

Cloudflare通过AI Gateway推出了Auto Router公测版本：该系统会根据每个请求的复杂性、模糊性、重要性以及上下文相关性，从相应的分类模型中选择合适的模型来处理该请求。根据Cloudflare自己的测试数据，Auto Router在成功率方面比Claude Opus 5.5低10个百分点，但其成本仅为后者的三分之一；此外，实际使用者也提出了这样的疑问：在较长的交互过程中，这些因素如何能够保持有效性。

作者：Steef-Jan Wiggers

相关文章

技术实践

文章：代理机制的演变：从链条到图结构，再到代码形式

具有自主能力的大语言模型系统已经从线性提示链发展为基于图的结构，最近更是发展出了能够执行代码的框架。线性提示链结构虽然简单，但可靠性较低；而基于图的结构则能够实现分支处理、重试机制以及验证功能；代码执行框架则通过实际运行来检验模型的输出结果。文章建议应对模型输出进行严格验证，并选择在可靠性、速度和成本方面都能满足要求的、设计最为简洁的方案。 作者：Karthik Ramgopal

阅读全文
技术实践

谷歌的反重力SDK增加了对本地模型的支持，从而提高了令牌使用的效率并增强了代码的隐私性。

谷歌在Antigravity SDK中加入了对本地模型的支持，这使得开发人员能够在自己的机器上直接构建和运行相关工作流程，同时也可以灵活地结合基于云的模型来处理更高级的任务。这种设计为开发人员提供了更大的控制权，使他们能够更好地管理数据隐私、推理成本、网络依赖性以及计算工作负载的分配。 作者：Sergio De Simone

阅读全文
技术实践

文章：在Go语言中构建基于会话顺序的Kafka数据管道

本文介绍了一种自定义实现方案，该方案在Apache Kafka的分区基础上提供了会话级别的排序功能，使得数千个独立通道中的消息能够保持严格的排序顺序。这一解决方案需要应用层路由机制、一致的哈希算法、重试机制以及连续的水印提交机制。工程师们通过对系统进行一系列测试，确保了该方案的稳定性。 作者：Joshua Oluikpe

阅读全文