演讲主题：SafeChat：如何在实时交易环境中大规模构建基于人工智能的安全系统
Bruna Pereira解释了DoorDash是如何构建这样一个能够处理各种类型内容的AI审核平台的。她介绍了如何用混合架构来取代那些仅依赖大语言模型的昂贵审核流程：利用快速的内部模型来过滤那些显而易见的错误，通过大语言模型进行多维度评估以做出更细致的判断，并使用无代码工作流程来进行后续测试。了解这种架构设计是如何在保障安全性的同时，使系统能够处理每天数百万条消息的。 作者：Bruna Pereira
Bruna Pereira解释了DoorDash是如何构建这样一个能够处理各种类型内容的AI审核平台的。她介绍了如何用混合架构来取代那些仅依赖大语言模型的昂贵审核流程：利用快速的内部模型来过滤那些显而易见的错误，通过大语言模型进行多维度评估以做出更细致的判断，并使用无代码工作流程来进行后续测试。了解这种架构设计是如何在保障安全性的同时，使系统能够处理每天数百万条消息的。
作者：Bruna Pereira相关文章
大规模产品实验：Airbnb、Netflix、Lyft和Uber是如何针对基于大语言模型的AI功能进行因果分析的
对于基于大语言模型的AI功能而言，因果推断已不再是理论上的概念。Airbnb、Netflix、Lyft和Uber都发布了详细的工程博客文章，详细说明了他们是如何衡量产品变更对用户行为的因果影响的。 他们所使用的技术方法（如差异分析法、回归不连续性分析以及双重稳健估计等）都是标准工具。 值得关注的是，这些团队是如何在大规模应用中运用这些技术的：在哪些情况下这些方法在实际操作中会失效，他们又是如何通过补充措施来确保估算结果的可靠性，以及他们是如何将这些数据与实际的产品决策联系起来的。 如果你正在开发基于大语言模型的功能，并且是根据用户点赞率和会话时长来做出产品决策的，那么这些文章一定会改变你对测量
阅读全文
在大型语言模型应用中，当你的两个模型都出现错误时，如何通过双重鲁棒性估计方法来进行产品测试与优化？
六个月前，你们推出的这款人工智能产品开始采用“用户主动选择参与”的模式。你们进行了倾向性分析，并考虑了用户的参与程度以及查询的准确性等因素，最终发现任务完成率确实提高了8个百分点。这一数据被纳入了季度业务报告中，大家都对此感到满意。 然而，严谨的数据科学家难免会提出一些棘手的问题：你们有多确定这个倾向性模型已经考虑到了所有可能影响结果的因素？如果遗漏了某些因素，那么逻辑回归模型得出的选择概率就会不准确；又或者，如果结果回归模型的设定本身就有误——因为任务完成率与查询准确性之间的关系并非线性的，线性模型根本无法准确反映这一关系——那又会怎样呢？ 你们有两个模型，但并不确定哪个是正确的，而这两个模
阅读全文
如何利用SFT和QLoRA技术为AI代理定制大型语言模型
在本教程中，我将向您展示如何使用QLoRA进行有监督微调，从而优化大型语言模型，使其能够用于AI代理中。这种方法使我们能够对预训练模型进行定制，使其表现出我们期望的行为。我们将采用一种轻量级的训练流程，仅更新模型中的少量参数。 我们会利用Unsloth以及Hugging Face生态系来下载Qwen 1.5B基础模型，然后应用基于QLoRA的有监督微调方法，并将优化后的LoRA适配器权重保存在本地，以便后续进行推理使用。所有操作都在本地完成，因此您无需支付任何模型API的使用费用。 目录 背景知识 什么是有监督微调？ 什么是LoRA？ 动机与架构 步骤1：安装Python相关依赖库 步骤2：训
阅读全文
如何利用提示工程与上下文工程来开发人工智能代理
在这个教程中，我将向您展示提示工程和上下文工程如何提升人工智能模型的性能。 我们将构建一个简单的本地模型，从基础输入开始，然后通过使用更合适的提示语和更丰富的上下文信息来改进它，这样您就能看到每一项改变对最终输出结果的影响。 我们将会使用LangChain v1、Ollama、Qwen以及Python。所有操作都在您的个人电脑上完成，因此您无需支付任何API费用。 目录 背景知识 什么是提示工程？ 什么是上下文工程？ 为什么提示工程和上下文工程对人工智能模型如此重要 动机与架构 步骤1：安装Ollama并下载模型 步骤2：安装Python相关依赖库 步骤3：编写代理代码 示例输出结果 提示语优
阅读全文