← 返回蜂巢洞察

演讲主题：超越简单提示机制：为实用型人工智能系统构建合适的应用环境

栏目 技术实践
分类 大数据
标签 人工智能 架构 信息 工程技术 具备

里卡多·费雷拉探讨了如何超越简单的提示工程技术，来构建具备生产级功能的人工智能应用。他分享了一些实用的架构策略：如何利用Redis整合长期记忆与短期记忆机制，如何通过信息摘要来管理大语言模型的令牌使用限制，如何通过重新排序和语义缓存来防止上下文信息的丢失，以及如何在严格的延迟约束下控制API调用所带来的成本增长。 作者：里卡多·费雷拉

里卡多·费雷拉探讨了如何超越简单的提示工程技术，来构建具备生产级功能的人工智能应用。他分享了一些实用的架构策略：如何利用Redis整合长期记忆与短期记忆机制，如何通过信息摘要来管理大语言模型的令牌使用限制，如何通过重新排序和语义缓存来防止上下文信息的丢失，以及如何在严格的延迟约束下控制API调用所带来的成本增长。

作者：里卡多·费雷拉

相关文章

技术实践

演讲主题：从消费者到推动者：在两周内让我们的200名团队成员成为能够创造销售机会的人

Ben Maraney介绍了Forter是如何帮助技术人员和非技术人员更轻松地创建人工智能代理的。他谈到了如何利用定制的MCP服务器，结合无代码和基于代码的开发平台，避免使用复杂的RAG架构，并协调安全团队和法律部门的工作，从而加速整个研发部门对这类人工智能代理的采用。 作者：Ben Maraney

阅读全文
技术实践

人工智能接待员的工作原理：人工智能电话客服系统背后的技术架构

从表面上看，人工智能接待员似乎很简单：来电者说话，系统做出响应，然后对话持续进行，直到来电者得到答案或与相关人员取得联系。 但实际上，在这一对话的背后，存在着一系列电话基础设施、语音识别技术、语言模型、应用逻辑、应用程序接口、数据库以及呼叫路由机制。 有趣的地方并不在于人工智能模型本身，而在于这些组件是如何协同工作，将音频流转化为有用的商业行动的。 那些希望拥有这类功能的企业有两种选择： 它们可以购买现成的产品。目前市场上已经有专门的人工智能接待系统，比如Nextiva公司的 XBert ，以及Goodcall、Dialzara等公司提供的相关工具。 或者，它们也可以自行开发这样的系统，而这篇

阅读全文
技术实践

人工智能数据中心的架构构成

像GPT-4和Claude这样的人工智能模型，需要庞大的、结构极其复杂的物理基础设施来支持其运行。我们刚刚在freeCodeCamp.org的YouTube频道上发布了一门全新的课程，这门课程会带你深入了解那些为人工智能革命提供动力的数据中心。 这门课程详细追踪了电力从电网传输到最终被用于执行矩阵运算的GPU这一整个过程。 该课程全面解析了人工智能数据中心的构成原理，向你讲解以下内容： 高压电力分配网络及备用系统是如何将稳定的电力输送到服务器机柜中的。 为防止庞大的GPU集群出现过热现象，先进的水冷系统以及全球性的散热机制是如何发挥作用的。 在模型训练和推理过程中，成千上万的芯片之间需要通过复

阅读全文