跳到正文
  1. Microsoft Research73

    Microsoft Research 揭示 Lazarus 智能体模型后门技术

    Microsoft Research 提出 Lazarus 后门技术,少于 10 个休眠神经元被重编程后,无需重新训练即可让 LLM 在隐藏触发条件出现时执行恶意命令。

    推荐理由:文章说明少量休眠神经元即可植入无需训练的后门,并给出模型来源、权重完整性和分层防护建议。

  1. Google DeepMind86

    Google DeepMind 发布 AlphaProof Code 深度验证 Signal 加密协议

    Google DeepMind 发布 AlphaProof Code,以多 LLM 智能体形式化验证 Signal 核心加密协议的实际代码。该框架由人类定义安全目标并审核规格,Gemini Carbon 驱动的智能体生成逾 600 万行 Lean 证明,Lean 自动检查结果供专家复核。

    推荐理由:材料展示多 LLM 智能体如何形式化验证 Signal 加密协议,并提供 Lean 检查、缺陷复测与开源验证产物等可核查细节。

  1. Microsoft Research71

    Microsoft Research 用 PDD Kit 形式化验证智能体编写的全栈 Web 应用

    Microsoft Research 与 GitHub Next 推出研究原型 PDD Kit,将用户意图转换为 Verus 形式化规范,约束编码智能体生成的代码,并在无法证明的部分回退到测试。

    推荐理由:文章以完整登录流程展示形式化验证如何约束智能体生成代码,并明确区分可证明部分、信任边界与测试覆盖。

  1. Google Research77

    Google Research 提出面向自主湿实验室的 AI 智能体研究框架

    Google Research 展示 VERID 框架及三项研究,让 AI 智能体能够在湿实验室中执行实验、读取反馈并迭代设计分子。VERID 以实验室工作单元的语义数字孪生追踪设备、试剂和孔位状态,在执行前检查碰撞、耗尽孔位等风险。

    推荐理由:文章展示 VERID 框架和闭环实验如何让 AI 智能体在物理实验室中安全执行并优化分子设计流程。

已经到底了