← 返回蜂巢洞察

微软将Maia技术应用于多吉瓦级别的推理计算任务,但其效率指标引发了人们的质疑。

从2027年开始,微软将将其Maia加速器系列的应用规模扩大到多吉瓦级别,使其成为自身产品的主要推理系统。Maia 300能够将扩展能力集成到同一个以太网架构中,并能够在预处理任务节点与解码任务节点之间高效地传输关键数据信息,而无需离开该网络架构。不过,业界专家对微软在宣传中提到的“每瓦特可使用一定数量的计算资源”这一说法提出了质疑。 作者:Steef-Jan Wiggers

从2027年开始,微软将将其Maia加速器系列的应用规模扩大到多吉瓦级别,使其成为自身产品的主要推理系统。Maia 300能够将扩展能力集成到同一个以太网架构中,并能够在预处理任务节点与解码任务节点之间高效地传输关键数据信息,而无需离开该网络架构。不过,业界专家对微软在宣传中提到的“每瓦特可使用一定数量的计算资源”这一说法提出了质疑。

作者:Steef-Jan Wiggers

相关文章

技术实践

Cloudflare的OHTTP网关会拒绝解密通过Cloudflare传入的请求。

Cloudflare已经启动了其OHTTP Gateway的封闭测试阶段。这个被设计用来为相关网站解密“匿名HTTP请求”的服务,其独特的设计理念在于:该服务不会解密那些来自Cloudflare Workers或通过Cloudflare进行代理传输的请求,因为这样做会导致客户端标识信息与请求内容落入同一方手中。 作者:Steef-Jan Wiggers

阅读全文
技术实践

Cloudflare利用R2对象存储来构建事件流系统,其数据产生的延迟仅为一秒钟。

Cloudflare已经推出了K2测试版,这是一种基于无服务器架构的事件流处理服务,其数据存储系统采用R2对象存储技术。据Cloudflare称,该服务的平均响应延迟约为1秒(在P95百分位值下);不过有测试者报告称,端到端的响应延迟为7.5秒,而代表开发团队回应的评论者表示,这一数值确实高于预期。该服务的使用费用与数据生成费用相同,按每GB计算。 作者:Steef-Jan Wiggers

阅读全文
技术实践

GKE Pod快照功能有助于缩短模型加载时间,并使相关操作能够通过快照生命周期管理机制来完成。

谷歌发布了关于GKE Pod快照的性能测试结果,数据显示:快照的使用能够将应用程序的启动延迟降低多达89%;对于规模为70GB的模型来说,其加载时间仅需37秒。该功能还会通过gVisor将CPU和GPU的内存使用情况记录到Cloud Storage中。一些从业者质疑:在实现这些功能的过程中,“使快照失效”这一环节是否才是真正棘手的问题——因为快照的生成是基于机器的规格参数、系列型号以及内核和驱动程序的版本来进行的。 作者:Steef-Jan Wiggers

阅读全文
技术实践

GPT-6 Astra是OpenAI首次将其归类为对网络安全具有关键意义的模型。

根据OpenAI制定的准备框架,GPT-6 Astra被归类为“具有严重网络安全风险的模型”,这是首次有模型被如此评定。在专家进行的测试中,该模型在某个浏览器以及操作系统内核中发现了此前未被发现的漏洞,并且还成功制造出了可以利用这些漏洞的攻击工具。同一套测试系统也显示,该模型的“思维过程可监控性”出现了显著下降。 作者:Steef-Jan Wiggers

阅读全文