演讲主题：那些质量较高的300个代币，远胜那些数量众多但质量低劣的10万个代币——这就是“情境工程”的架构所在。
Baruch Sadogursky和Patrick Debois探讨了为什么编码代理会因为过大的上下文窗口以及过于冗长的提示信息而失效。他们介绍了一些实用的解决方案，包括延迟加载技能、为上下文数据添加版本标识、使用外部存储系统来保存数据，以及利用大语言模型来进行评估。软件架构师与工程团队负责人将了解到如何将原始的Markdown文件转化为高效、可靠的代理工作流程。 作者：Patrick Debois, Baruch Sadogursky
Baruch Sadogursky和Patrick Debois探讨了为什么编码代理会因为过大的上下文窗口以及过于冗长的提示信息而失效。他们介绍了一些实用的解决方案，包括延迟加载技能、为上下文数据添加版本标识、使用外部存储系统来保存数据，以及利用大语言模型来进行评估。软件架构师与工程团队负责人将了解到如何将原始的Markdown文件转化为高效、可靠的代理工作流程。
作者：Patrick Debois, Baruch Sadogursky相关文章
在你们解决数据问题之前，医疗领域的人工智能技术是无法正常运行的。
为临床环境开发人工智能其实比看起来要困难得多。这不仅仅意味着需要选择一个合适的模型或调整正确的参数。 当工程师们进入医院这个生态系统时，他们会很快发现：那些在其他行业中被他们广泛使用的工具，在这里往往无法正常使用。临床数据杂乱无章、极其敏感，而且分散在许多不同的系统中。妥善处理这些数据并非可有可无，而是整个系统能否正常运行的基础。 临床数据有多种形式。其中一部分是结构化的数据，比如存储在表格中的实验室检测结果；另一部分则是非结构化数据，比如医生手写的病历被扫描成PDF文件。所有这些数据都受到严格的隐私保护规定的约束，而且每一条数据都可能直接影响患者的诊疗效果。 与电子商务或广告领域不同，在这些
阅读全文
如何使用Python和依赖关系图来检测公共数据集中隐藏的目标泄露现象
不久前，我给一个机器学习模型提供了来自公共CDC数据集的五列数据，让它尝试预测同一文件中的第六列数据。该模型的R²值为0.998，这个数值已经非常接近完美了。 虽然这个结果看起来很成功，但实际上该模型对现实世界的认知几乎没有任何提升——因为CDC本身就是根据其他五列数据计算出了第六列数据的，所以该模型实际上只是机械地应用了CDC的计算方法而已。 数据科学家将这种问题称为 目标信息泄露 ，当输入给模型的数据本身就已经包含了答案的某些信息时，就会发生这种情况。 在公共数据中，这类问题很容易被隐藏起来，因为大量的公共数据都是通过其他公共数据计算得出的。例如，一个政府指数可能是根据调查数据构建的，而另
阅读全文
如何使用TypeScript从零开始构建一个AI代理程序
许多关于AI代理的教程都是从语言模型开始讲起，为它提供一些工具，然后让它运行循环直到产生答案。这样的做法确实足以展示这些工具的使用方法，但却没有回答那些有趣的工程学问题。 当某个工具出现故障时会发生什么？谁来验证这些操作的结果？是什么机制能防止代理无限期地运行、执行不安全的命令，或者耗尽其上下文信息？又如何在不依赖模型不可预测的响应的情况下测试这些功能呢？ 这些职责都属于 代理框架 ——也就是位于语言模型与其所运行的环境之间的那层软件。 在本次教程中，我们将使用TypeScript来构建一个小型且与具体工具提供商无关的代理框架，并以编码代理作为示例进行讲解。我们会从基本的执行循环开始，逐步添加
阅读全文
当怀孕改变了用户的正常生理状态时，可穿戴设备该如何做出相应的调整？
你的智能手环或手表具备许多实用功能，比如能够记录你平时的生理数据，并在这些数据发生变化时及时提醒你。 静息心率、心率变异性、体温以及呼吸频率等因素都能帮助形成这些生理数据的画像，不过不同的设备会对这些测量结果进行不同的解读。 在怀孕之前，这些指标通常会保持稳定的状态，但怀孕会改变其中一些指标的正常范围。 我每天早上第一个打开的应用程序就是Oura，因此我很清楚一个评估结果的准确性会对我的一天产生多大的影响。如果“准备程度得分”过低，我会觉得自己做错了什么，但实际上并没有。现在想象一下，在你的身体正在经历一系列正常的生理变化期间，连续几周都看到这样的评估结果会是什么感觉…… 这就是我想在这里讨论
阅读全文