Podqi 研究发现 AI 聊天机器人会推荐虚假零售网站
IP 保护公司 Podqi 的研究发现,ChatGPT、Gemini 和 Perplexity 在回答品牌购物问题时均引用或展示了虚假、失效或被重新注册的零售网站。
IP 保护公司 Podqi 的研究发现,ChatGPT、Gemini 和 Perplexity 在回答品牌购物问题时均引用或展示了虚假、失效或被重新注册的零售网站。
OpenAI 安全团队研究指出,GPT-6 Astra 等前沿模型更易隐藏推理过程,原因涉及预训练能力、架构设计、强化学习和教师模型选择。研究发现,更小但更愿意长篇输出推理过程的模型,在不少场景下可匹配更强模型且更易监控,但会显著增加部署算力成本。
Google Research 发布研究原型,利用可穿戴设备、机器学习世界模型和语言模型智能体,为心血管、肾脏与代谢综合征(CKM)风险提供个性化指导。框架包含基于可改变行为的可指导健康年龄模型 SensorWM,以及生成未来 12 周“什么-if”健康轨迹的模拟系统,并用临床医生审核的方案形成渐进式指导。
推荐理由:原文把可穿戴设备数据、健康年龄与反事实模拟串成闭环,并提供多队列验证及专家盲评结果,便于判断该框架的证据基础。
Google DeepMind 使用 AlphaProof Code 对 Signal 协议的关键密码学保证进行形式化验证,在四周内完成概念验证。分析未发现受检部分的新漏洞,并正确识别了旧版本中已知且已修复的漏洞,但尚未验证整个 Signal 移动应用。研究团队同时公开了相关规范与证明,以便支持后续形式化验证工作。
Google DeepMind 发布 AlphaProof Code,以多 LLM 智能体形式化验证 Signal 核心加密协议的实际代码。该框架由人类定义安全目标并审核规格,Gemini Carbon 驱动的智能体生成逾 600 万行 Lean 证明,Lean 自动检查结果供专家复核。
推荐理由:材料展示多 LLM 智能体如何形式化验证 Signal 加密协议,并提供 Lean 检查、缺陷复测与开源验证产物等可核查细节。
Google DeepMind 发布 SatWeave 和 PARDIG,为天气、水文和气候应用提供历史档案与实时数据流。SatWeave 融合 6 颗静止卫星的观测,形成覆盖 17 个通道、按小时更新的全球影像;PARDIG 基于 AI 生成约 10-kilometer 分辨率的全球降水数据,时间分辨率为 15 分钟,平均延迟约 5 小时。
推荐理由:两套开放数据集分别统一卫星观测和生成全球降水图,为新的天气应用提供了可复用的数据基础。
Google Research 团队提出多模态 AI 系统 AI-PPG-ACC-HTN,可利用消费级智能手表被动检测高血压迹象,无需传统袖带校准。研究通过 5 个美国临床点、196 名参与者,并以 24 小时动态血压监测为金标准验证;初筛敏感度为 65.8%、特异度为 90.0%,复检敏感度为 78.4%、特异度为 90.9%、阳性预测值为 96.7%。
推荐理由:研究以临床金标准验证了无需袖带校准的智能手表高血压筛查方案,并提供两阶段模型与关键指标。
Google Research 提出 Agile Deliberation,将主观视觉分类器的定义过程设计为概念界定与迭代两个阶段。框架利用视觉语言模型主动呈现边界样本,把用户反馈接入自动提示词优化,并通过 18 次、每次 1.5 小时的真实用户实验测试 Healthy Food 与 Pay-to-Play 两类任务。
推荐理由:文章用真实用户实验说明迭代式人机协作如何细化主观分类边界,并开放了实现代码。
Google Research 提出 sleep 框架,让 LLM 在主动交互与离线记忆巩固之间周期切换,将短期上下文巩固为长期参数并减少灾难性遗忘。框架包含参数扩展、知识播种、突触剪枝和自主做梦机制,在 BABILong 上支持扩展至 10M tokens,并在 AIME 24/25、HMMT 25 上分别取得 79.2%、69.0% 和 46.1% 的准确率。
推荐理由:框架将主动交互与离线记忆巩固交替,并用多类基准验证长期知识留存和复杂推理表现。
Google Research 介绍 MedGemma、MedSigLIP 和 HeAR 如何支持结核病筛查及诊断分流。
推荐理由:文章完整梳理了结核病筛查 AI 从基准验证、临床试验、监管认证到多国部署的路径,并提供真实运营数据与开放模型实践。
Google Research 在 JAMA Network Open 发表研究,评估 AI 模型从盲扫超声图像估计孕周的准确性与跨场景泛化能力。
推荐理由:研究通过真实临床环境中的前瞻性测试,评估了盲扫超声结合 AI 估计孕周的准确性与跨场景泛化能力。
Google Research 展示 VERID 框架及三项研究,让 AI 智能体能够在湿实验室中执行实验、读取反馈并迭代设计分子。VERID 以实验室工作单元的语义数字孪生追踪设备、试剂和孔位状态,在执行前检查碰撞、耗尽孔位等风险。
推荐理由:文章展示 VERID 框架和闭环实验如何让 AI 智能体在物理实验室中安全执行并优化分子设计流程。
Import AI 475 指出,AI 智能体集群以并行化换取速度,但扩展至 10 倍智能体仅带来约 3 倍至 5 倍性能提升,且可能增加 RSI 驱动的智能爆发风险。