演讲主题：快速行动，切勿辜负信任：与人携手共进，持续推动发展
Suhail Patel介绍了Monzo是如何构建其软件工程组织架构及技术体系的，这些机制使得系统能够每天安全地运行数百次。他还分享了自己对于微服务抽象模型、基于租户环境的测试环境配置、静态代码分析工具以及持续性能监控工具的看法，说明了一个强大的内部技术平台如何帮助工程师和大型语言模型快速进行迭代开发，同时确保系统的可靠性不受影响。 作者：Suhail Patel
Suhail Patel介绍了Monzo是如何构建其软件工程组织架构及技术体系的，这些机制使得系统能够每天安全地运行数百次。他还分享了自己对于微服务抽象模型、基于租户环境的测试环境配置、静态代码分析工具以及持续性能监控工具的看法，说明了一个强大的内部技术平台如何帮助工程师和大型语言模型快速进行迭代开发，同时确保系统的可靠性不受影响。
作者：Suhail Patel相关文章
如何使用TypeScript从零开始构建一个AI代理程序
许多关于AI代理的教程都是从语言模型开始讲起，为它提供一些工具，然后让它运行循环直到产生答案。这样的做法确实足以展示这些工具的使用方法，但却没有回答那些有趣的工程学问题。 当某个工具出现故障时会发生什么？谁来验证这些操作的结果？是什么机制能防止代理无限期地运行、执行不安全的命令，或者耗尽其上下文信息？又如何在不依赖模型不可预测的响应的情况下测试这些功能呢？ 这些职责都属于 代理框架 ——也就是位于语言模型与其所运行的环境之间的那层软件。 在本次教程中，我们将使用TypeScript来构建一个小型且与具体工具提供商无关的代理框架，并以编码代理作为示例进行讲解。我们会从基本的执行循环开始，逐步添加
阅读全文
在你们解决数据问题之前，医疗领域的人工智能技术是无法正常运行的。
为临床环境开发人工智能其实比看起来要困难得多。这不仅仅意味着需要选择一个合适的模型或调整正确的参数。 当工程师们进入医院这个生态系统时，他们会很快发现：那些在其他行业中被他们广泛使用的工具，在这里往往无法正常使用。临床数据杂乱无章、极其敏感，而且分散在许多不同的系统中。妥善处理这些数据并非可有可无，而是整个系统能否正常运行的基础。 临床数据有多种形式。其中一部分是结构化的数据，比如存储在表格中的实验室检测结果；另一部分则是非结构化数据，比如医生手写的病历被扫描成PDF文件。所有这些数据都受到严格的隐私保护规定的约束，而且每一条数据都可能直接影响患者的诊疗效果。 与电子商务或广告领域不同，在这些
阅读全文
如何在Kubernetes环境中诊断并解决AI推理过程中的延迟问题
现在是星期四，大约两点二十分。两周前，你们的团队推出了一款内部辅助工具。测试效果还不错，以至于财务部门的某个人询问这种工具是否能够阅读合同文件。消息很快传开了，今天，所有人第一次同时使用这款工具。 支持渠道收到了同样的投诉，但这些投诉是以六种不同的方式表达的。是系统出现故障了吗？我的设备只是一直在循环加载中……今天早上它还能正常工作啊。有人发了一张显示加载指示器的截图，但没有附上任何说明文字，看来他们觉得这样挺有意思的。 于是你打开了控制面板。 所有节点都已准备就绪，容器也在运行中，CPU使用率仅为20%。没有发生重启现象，也没有进入崩溃循环状态，也没有任何警报被触发。根据Kubernetes
阅读全文
如何使用Next.js、Supabase以及TypeSafe Jev来构建一个用于筛选人工智能相关简历的工具
每当我们发布一份工程招聘启事时，一周内就会收到300到400份简历。仔细阅读每一份简历大约需要两分钟的时间。因此，仅仅为了处理一个职位空缺，我们在开始任何面试之前就已经要花费11个小时来处理这些简历了。 但实际上，并没有人会真的去阅读每一份简历。相反，人力资源部门会进行快速的筛选工作。他们会快速浏览应聘者的职位名称、工作经验年限以及所掌握的技术框架，然后在大约15秒的时间内，将简历分为“需要进一步查看”和“可能不符合要求”两类。当他们看到第40份简历时，他们对这份简历的关注程度就已经远远低于对第4份简历时的关注了。 我们的目标就是取代这种快速筛选的过程，而不是放弃阅读简历这一环节。当阅读简历确
阅读全文