XYBench发布:评测AI助手识别用户错误前提与真实目标的能力
Hugging Face发布包含8,115个真实问题的XYBench,测试模型能否识别用户基于误解提出的请求,并转向解决其实际目标。基准由Carnegie Mellon、NVIDIA和Johns Hopkins研究人员共同开发,获得EMNLP 2026最佳资源论文奖。
Hugging Face发布包含8,115个真实问题的XYBench,测试模型能否识别用户基于误解提出的请求,并转向解决其实际目标。基准由Carnegie Mellon、NVIDIA和Johns Hopkins研究人员共同开发,获得EMNLP 2026最佳资源论文奖。
Microsoft Research 提出 Lazarus 后门技术,少于 10 个休眠神经元被重编程后,无需重新训练即可让 LLM 在隐藏触发条件出现时执行恶意命令。
推荐理由:文章说明少量休眠神经元即可植入无需训练的后门,并给出模型来源、权重完整性和分层防护建议。
NVIDIA 与 Elith 发布开源合成数据集 Nemotron-Personas-Finance-Japan,为日本金融 AI 提供不依赖真实客户数据的训练与评测基础。