跳到正文

技术方向

端侧 AI 最新动态

直接跑在手机、电脑等设备上的 AI:小模型、在本机运行模型的工具与端侧芯片。

3 条精选近 30 天 3 条共收录 9 条

更新

端侧 AI的精选

11月13日周五第 1–3 条
  1. Hugging Face Blog71

    llama.cpp 与 ggml 发布 v1.0.0 稳定版本

    llama.cpp 发布 v1.0.0 库版本,与机器学习张量库 ggml v1.0.0 一同确立公共 C API、ABI 与主版本升级规则。项目通过量化、优化后端和可移植的 C/C++ 实现支持跨平台本地 AI 推理,目前支持超过 150 种模型架构变体及主流推测解码方法,并继续扩展 Linux、macOS、Windows、Android 和 iOS 等发行渠道。

    推荐理由:llama.cpp v1.0.0 明确了 API 与 ABI 的版本边界,并延续跨平台、跨硬件的本地推理定位,为依赖其库接口的下游项目提供了可追踪的升级依据。

11月11日周三
  1. Hugging Face Blog72

    Tether AI Research 发布 0.8B 端侧智能体模型 BotPsy

    Tether AI Research 发布 BotPsy,一款基于 Qwen3.5-0.8B、面向工具调用和智能体工作流的 0.8B 模型,适合在端侧部署个人助手任务。

    推荐理由:文章详述了 BotPsy 的训练方法、端侧定位与基准结果,也明确列出开放搜索和多步任务等限制,便于判断其适用场景。

11月6日周五
  1. Google Research64

    Google Research 发布 AI-PPG-ACC-HTN 智能手表高血压检测研究

    Google Research 团队提出多模态 AI 系统 AI-PPG-ACC-HTN,可利用消费级智能手表被动检测高血压迹象,无需传统袖带校准。研究通过 5 个美国临床点、196 名参与者,并以 24 小时动态血压监测为金标准验证;初筛敏感度为 65.8%、特异度为 90.0%,复检敏感度为 78.4%、特异度为 90.9%、阳性预测值为 96.7%。

    推荐理由:研究以临床金标准验证了无需袖带校准的智能手表高血压筛查方案,并提供两阶段模型与关键指标。