NVIDIA NeMo Switchyard 为 Amazon Bedrock 上的 coding agent 请求选择合适模型
NVIDIA NeMo Switchyard 是一个开源库,可按 Stage 或 Random 策略为 Claude Code、OpenAI Codex CLI 等 coding agent 选择模型。
NVIDIA NeMo Switchyard 是一个开源库,可按 Stage 或 Random 策略为 Claude Code、OpenAI Codex CLI 等 coding agent 选择模型。
Amazon Bedrock 可将每次推理调用归因到发起请求的 IAM principal,并通过 CUR 2.0、Cost Explorer 和组织标签提供用户、团队及成本中心级成本视图。
推荐理由:文章提供从身份传播、权限集到成本报表和用量控制的完整配置路径,便于评估多款 AI 工具共用 Bedrock 时的治理方案。
AWS 汇总了 2026 年 10 月面向 AI 开发者的产品更新,覆盖 Amazon Bedrock 模型扩展、AgentCore 智能体运维与成本治理,以及 Strands 的语音、本地沙箱和评测能力。
Amazon Bedrock Managed Knowledge Base 可通过请求拦截器、ACL awareness、Policy in AgentCore 和资源策略实现 MCP 工具的细粒度访问控制。
推荐理由:文章用可部署的 AWS CDK 示例说明如何在共享智能体和知识库中实施用户级检索隔离,并覆盖身份注入、策略校验与绕过防护。
AWS 演示了如何用 A2A 协议连接两个独立 AWS 账户中的多智能体系统,LangChain 编排器可通过 Agent Card 发现并调用基于 Strands Agents SDK 构建的 SaaS 智能体,双方无需依赖彼此的框架或 SDK。
推荐理由:文章提供跨框架、跨组织智能体协作的完整 AWS 参考架构,并展示身份隔离、双向回调与信任边界测试的实现方式。
Amazon Bedrock 的缓存 TTL、服务层级、推理努力程度和 maxTokens 可在模型与提示词不变时影响推理成本。文章通过对照测试说明各参数的成本与质量权衡,并建议每次只改一个设置,再结合响应元数据、CloudWatch、调用日志和计费数据验证效果。
推荐理由:文章以实测和账单数据拆解四类请求级参数如何影响成本,并给出验证缓存命中、服务层级与任务质量的方法。
AWS 展示了如何将 LiteLLM 部署在 AWS Fargate 上,通过 OpenAI 兼容 API 为 Claude Code、Continue 和 Cursor 提供统一的 Amazon Bedrock 接入,并支持按用户成本控制、API key 自助签发和可观测性。
推荐理由:文章提供完整架构与 AWS CDK 片段,并总结数百名开发者规模下的延迟、成本和权限配置经验。
Microsoft Research 提出 Lazarus 后门技术,少于 10 个休眠神经元被重编程后,无需重新训练即可让 LLM 在隐藏触发条件出现时执行恶意命令。
推荐理由:文章说明少量休眠神经元即可植入无需训练的后门,并给出模型来源、权重完整性和分层防护建议。