Octave 如何基于 Amazon Bedrock 构建安全的多租户 AI 基础平台
Octave 在 Amazon Bedrock 上用 Cohere Embed v4 构建三层多租户 AI 基础平台,将每个用例的部署时间缩短 50%。
Octave 在 Amazon Bedrock 上用 Cohere Embed v4 构建三层多租户 AI 基础平台,将每个用例的部署时间缩短 50%。
Eon 基于 Amazon Bedrock AgentCore 搭建统一的 MCP Gateway,把原先分散在各云平台的逐工具凭证和本地 MCP 进程替换为单一认证网关,让开发者和自主智能体统一访问 AWS、GCP、Azure 三朵云上的调查工具。
AWS 与 Keyfactor 联合发布参考架构,用 Keyfactor EJBCA 的 X.509 PKI 为基于 MCP 的 AI 智能体建立可验证、可撤销的加密身份。
英国数字健康公司 Numan 用 LangGraph 构建 AI 健康教练 Nu,由 supervisor 模型调度多个领域子智能体,并以 LangSmith 支撑评测。团队发现单轮固定用例和预写多轮脚本都会误判教练行为,改为按类别由 LLM judge 打分,且所有评测都跑在生产同一张 LangGraph 图上。评测套件可跨模型供应商复用,使一次前沿模型迁移从数周手动测试缩短到一天。
Deepgram 与 AWS 团队将 Nova-3 语音转文字模型移植到 AWS Trainium2,用于联络中心分析、医疗转写等离线批处理场景,最终配置在单台 Amazon EC2 trn2.3xlarge 实例上运行 8 个模型副本。
AWS SMGS 团队基于 Amazon Bedrock AgentCore Evaluations 搭建了覆盖从首次提交到生产运行的九阶段智能体评测框架,用于其面向全球销售团队的多智能体系统。
Atlassian 在 Databricks 上构建了基于 OCSF 的安全湖仓,以应对其全球规模下积累二十年的日志噪声问题。该方案旨在降低安全数据噪声,提升日志分析效率。
vLLM 团队借助智能体辅助的 CuTe DSL 优化,加速 Kimi K3 在 NVIDIA GB300 上的解码。团队通过限定范围的改动、正确性测试和可复现基准,确保这些优化能够负责任地上线。
Databricks 以内部应用 Slide Hub(约 700 份演示文稿、2.3 万条幻灯片)为基准,实测 Lakebase Postgres 内置搜索在 1M 到 4M 行公开语料下的表现。
Tamnoon 基于 Amazon Bedrock 构建了智能体云修复编排器 Tami,可自主调查 CNAPP 与云原生来源的安全发现并评估修复安全性,再生成带护栏与治理的修复方案。该方案在 90 天内将关键云暴露减少超过 90%,且未出现生产问题。Tami 由调查、安全评分、修复和代码生成四类专用智能体组成,通过单一 API 调用最适合各任务的基础模型。
用 Python 3.15 内置的 profiling.sampling 对未修改的 web-edit 应用做采样剖析,发现混合换行符保留是编辑负载的主要开销:preserve_endings 出现在 15,296 个 CPU 栈的 64.8% 中,SequenceMatcher.find_longest_match 占叶子样本的 38.3%。
LangChain 借助 Deep Agents CLI 与 docs-code-samples 技能,把文档中的内联代码示例迁移为可测试的独立文件,并自动加上 :snippet-start: / :snippet-end: 标记、运行测试、生成 Mintlify 片段。
LangChain 通过 harness engineering 将其编码智能体在 Terminal Bench 上的排名从 Top 30 提升至 Top 5,核心手段包括自我验证、追踪和上下文优化。
GitHub 为密钥扫描训练了专用的 ModernBERT 分类器,替代此前的 LLM 流水线,在保持正则候选召回的基础上结合文件路径、变量名和上下文判断是否为真实凭据。该方案使推送后扫描中位执行时间缩短 86%、服务成本降低逾 98%,用户对告警的接受度提升 11.5%,并让通用密钥检测得以扩展到推送保护阶段。
Orca Security 与 AWS 合作,基于 Amazon Bedrock 构建了自然语言查询智能体 Discovery AI,可将自然语言问题转换为 Sonar 查询。相比最初基线,查询成本降低 90%、输入 token 减少 93%、延迟降低 75%,目前每天处理数千次查询,响应时间 15 秒。
针对 MoE 模型在解码阶段因 token 行数过薄导致的 GPU 利用率瓶颈,团队通过 Swap-AB 转置让专家维度 N=8192 进入 WGMMA 首个操作数位置,在 H200 上实现端到端输出吞吐提升 2–4%,该优化已合入 vLLM 0.24.0 及更高版本。
Postman 的 Agent Mode 运行在 Amazon Bedrock 上,为 4000 万开发者提供跨 API 测试、文档、发现与实现的 AI 原生工作方式。
Simon Willison 用 ChatGPT 桌面版 Codex 标签页的语音对话模式,在做饭的约半小时里几乎全程靠语音为博客开发出 Newsletters 页面,模型为 GPT-6 Astra High。
Ai2 用 GPU 时间预算、分层公平分配和时间切片契约替换了原有的优先级调度器,把各研究项目该分多少 GPU 时间的争论从逐案运维操作转为透明的行政预算流程。
Token Security 联合创始人兼 CTO Ido Shlomo 提出,AI 智能体越权使用凭证的根源在于 AWS 等系统只校验签名而不校验持钥者身份,因此管控应落在工具调用层。他列举托管智能体设置、运行时钩子、网关、沙箱和端点管控五种执行点,并指出推理检查属概率性控制,无法替代能实际阻断操作的缓解措施。
Hugging Face 作者借助 HuggingChat 中的 ML Intern,用提示词驱动完成六个模型的训练、评测与发布,总计算花费约 103 美元。其中把 Qwen-Image 2.1 的 9B 提示词改写器蒸馏成 0.8B 版本,可在 CPU 上运行,输出有效率 99.7%,token 用量约为教师模型的四分之一。
推荐理由:作者用六个真实项目复盘了如何用提示词驱动 ML Intern 完成训练、评测与发布,可迁移到自己的模型定制流程。
Amazon SageMaker HyperPod 推出基于 EKS 的多租户参考架构,让多个团队共享同一 GPU 集群并保持隔离与资源公平。
AWS 发文解读国际标准 ISO/IEC 42005:2025,指导企业将 AI 系统影响评估纳入整体风险管理体系。该标准覆盖评估全生命周期,Annex D 提供与现有评估流程整合的方法以避免重复,Annex E 提供独立评估模板。
Parseable 是一款兼容 OpenTelemetry 的全新可观测性工具,提供 AGPL 开源 Rust 实现(单个约 180MB 二进制文件)、企业版和云托管选项。
AWS 提出 Agentic Value Model,用于替代为 RPA 设计的传统 ROI 模型,从时间节省、异常处理、决策质量和变更韧性四个维度衡量智能体自动化的价值。
AWS 提出一套六周结构化培养方案,让非工程背景的业务人员用 Amazon Bedrock、AgentCore 和 Strands Agents SDK 构建可运行的 AI 原型。
Cornerstone OnDemand 基于 Amazon Bedrock 和 Strands Agents 构建多智能体系统 Orion AI,将数据库诊断时间从 45 分钟降至 10 分钟,减少 78%。该系统由三人团队在六个月内交付,同时把 10 步以上手动生命周期操作压缩为一次交互,并将冗余告警中位数削减 65%。