← 返回蜂巢洞察

演讲主题:在边缘设备上运行人工智能技术:直接在浏览器中执行实际工作负载

詹姆斯·霍尔探讨了将人工智能相关工作负载从云服务提供商迁移至本地边缘设备的战略意义与技术可行性。他介绍了如何利用WebGPU、Transformers.js以及DuckDB等工具,在JavaScript环境中实现接近原生应用的性能表现。通过实际案例分析,他还说明了如何有效降低数据隐私风险、优化浏览器中的推理流程,并构建完善的评估体系。 作者:詹姆斯·霍尔

詹姆斯·霍尔探讨了将人工智能相关工作负载从云服务提供商迁移至本地边缘设备的战略意义与技术可行性。他介绍了如何利用WebGPU、Transformers.js以及DuckDB等工具,在JavaScript环境中实现接近原生应用的性能表现。通过实际案例分析,他还说明了如何有效降低数据隐私风险、优化浏览器中的推理流程,并构建完善的评估体系。

作者:詹姆斯·霍尔

相关文章

技术实践

没有屏幕是否意味着数据质量更高?关于无屏幕可穿戴设备的基础知识

智能手表让人们更轻松地获取健康数据。只需快速看一下手腕,就能知道自己的心率、步数、睡眠时长,甚至还能估算出身体的恢复情况。 但显示这些信息仅仅是健康监测的一部分。更重要的是要准确且持续地收集这些数据,而且通常不能干扰人们的日常活动。 正是这一区别使得无屏幕的可穿戴设备得以进入消费市场。智能手环和无屏幕健身追踪器能够在不显示通知或不断要求用户查看手腕的情况下,记录各种健康数据和活动指标。它们会在后台收集信息,而最详细的数据分析结果则可以通过配套的智能手机应用程序获取。 然而,去掉屏幕并不会自动让可穿戴设备变得更准确。如果设备的传感器在应对运动、皮肤接触不良等因素时存在问题,即使它收集了数千次数据

阅读全文
技术实践

Dropbox阐述了如何通过提升现有基础设施的效率来为人工智能技术的发展创造更多发展空间。

Dropbox说明了在过去十年中,通过不断优化基础设施,它是如何应对日益增长的人工智能需求,而并未将增加数据中心的容量作为解决问题的唯一途径。它的这些优化措施涵盖了预测分析、设备利用率管理、存储密度优化、硬件生命周期管理以及机架级别的电力分配系统改进等方面,其中许多措施在当前人工智能发展热潮出现之前就已经开始实施了。 作者:Matt Foster

阅读全文
技术实践

英伟达个人AI路由器能够将人工智能任务分配到本地计算设备中进行处理。

NVIDIA个人AI路由器(PAIR)现已进入测试阶段。该工具可让你利用本地网络中多台计算机的推理能力,自动将AI请求分配给这些计算机进行处理。它主要适用于那些需要多个独立模型协同运行的场景——因为在这些情况下,如果仅使用一台GPU进行处理,系统很可能会不堪重负。 作者:Sergio De Simone

阅读全文
技术实践

OpenAI Codex速成课程

OpenAI Codex是现代软件开发中非常有用的工具,但要真正发挥它的作用,关键在于了解其正确的使用方法。为了帮助开发者掌握它的核心功能,我们刚刚在 freeCodeCamp.org 的YouTube频道上发布了一门针对初学者的完整实践课程。 这门教程会从基础开始,逐步引导你了解所有相关内容,包括安装方法、定价方案以及界面的使用技巧。你将学习如何运行定时的后台自动化任务,如何利用Notion和Supabase等工具管理外部数据,以及如何在开发环境中直接处理GitHub的拉取请求。此外,课程还会讲解Codex最强大的两种操作模式:计划模式(在这种模式下,系统会反复验证各种假设并规划整体架构)和

阅读全文