← 返回蜂巢洞察

演讲主题:从数千种选择到唯一答案:利用大语言模型构建高效的筛选系统

Jendrik Jördening分享了将大语言模型集成到生产流程中的实际工程策略。他探讨了如何克服不确定性问题、如何对数据结构进行限制、如何将语义文本提取与确定性代码分离,以及如何利用鉴别模型来验证各种设计决策。此外,他还介绍了如何采用MVC架构来组织大语言模型的开发工作,从而确保数据库的完整性、系统的可观测性以及其可靠性。 作者:Jendrik Jördening

Jendrik Jördening分享了将大语言模型集成到生产流程中的实际工程策略。他探讨了如何克服不确定性问题、如何对数据结构进行限制、如何将语义文本提取与确定性代码分离,以及如何利用鉴别模型来验证各种设计决策。此外,他还介绍了如何采用MVC架构来组织大语言模型的开发工作,从而确保数据库的完整性、系统的可观测性以及其可靠性。

作者:Jendrik Jördening

相关文章

技术实践

演讲主题:运用人工智能技术激发移动设备用户的创造力与探索欲

Bhavuk Jain探讨了如何将基础人工智能技术转化为可扩展的移动产品。他详细介绍了开发“AI壁纸”功能以及“Circle to Search”工具过程中所遇到的工程挑战,说明了如何建立可靠的运行时防护机制、进行模型微调以及实现与操作系统的无缝集成。对于工程领域的领导者来说,他指出了在确保用户体验的同时,如何平衡模型响应延迟与基础设施成本问题,从而推出安全、可靠的人工智能产品。 作者:Bhavuk Jain

阅读全文
技术实践

这家制造模型路由器的公司将其业务范围从两个地区扩展到了28个地区,从而更新了自身的产品型号库。

微软将Foundry的模型路由器所支持的区域数量从2个增加到了28个:其中28个区域适用于全球范围内的标准部署,21个区域则用于数据区域的部署。同时,微软还新增了Claude Opus 4.8和GPT-5.6这两个模型,并移除了4个已被弃用的模型。在默认配置下,系统会自动应用这些模型变更;而对于那些被特别配置为不使用新模型的环境,新的模型需要被明确添加后才能被使用。实际上,系统中可使用的模型范围始终取决于池中规模最小的那个模型。 作者:Steef-Jan Wiggers

阅读全文
技术实践

DoorDash的Flux系统通过基于云技术的代理程序来处理多达13万项工程任务。

DoorDash已将工程代理的工作负载从开发人员的笔记本电脑转移到了其Flux云平台上。该平台在一个月内自动化处理了130,000项工程任务,每周还能支持超过25,000次自动化的代码审查流程。Flux利用隔离式的Firecracker微虚拟机、MCP网关、可重复使用的脚本以及多种调用机制来运行这些代理工作流程,同时确保这些流程具备受限的访问权限,并能实现集中式的审计功能。 作者:Leela Kumili

阅读全文
技术实践

创造了现代人工智能的那篇论文:Transformer背后的故事

每次你与现代人工智能模型进行交互时,其实都在使用一种源于2017年那篇名为《注意力才是关键》的研究论文所提出的架构。 我们在freeCodeCamp.org的YouTube频道上发布的最新视频,详细讲述了八位谷歌研究人员是如何着手改进Google Translate的,最终又如何彻底改变了整个科技领域的格局的。 在这一突破性成果出现之前,人工智能领域主要依赖循环神经网络。这类模型会按顺序逐词处理文本,但这带来了两个巨大的障碍: “上下文丢失”:当处理长句或长段落时,模型会忘记开头那些重要的信息。 “训练速度缓慢”:由于需要顺序处理数据,各个步骤无法并行执行,因此即使使用庞大的GPU集群,模型的

阅读全文