在 Amazon SageMaker AI 上用 llama.cpp 部署决策模型
AWS 发布 llama.cpp 专用深度学习容器(DLC),可在 Amazon SageMaker AI 上以 CPU 或 GPU 托管量化模型,并通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions。
AWS 发布 llama.cpp 专用深度学习容器(DLC),可在 Amazon SageMaker AI 上以 CPU 或 GPU 托管量化模型,并通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions。
GitHub Copilot 可通过四种方式定制项目上下文:用 .github/copilot-instructions.md 定义仓库级规范,用 .github/instructions 配合 applyTo 字段做路径级指引,用 .github/skills 下的 SKILL.md 封装可复用流程,用 .github/agents 创建专用自定义智能体。
Postman 的 Agent Mode 运行在 Amazon Bedrock 上,为 4000 万开发者提供跨 API 测试、文档、发现与实现的 AI 原生工作方式。
Ai2 用 GPU 时间预算、分层公平分配和时间切片契约替换了原有的优先级调度器,把各研究项目该分多少 GPU 时间的争论从逐案运维操作转为透明的行政预算流程。
Hugging Face 作者借助 HuggingChat 中的 ML Intern,用提示词驱动完成六个模型的训练、评测与发布,总计算花费约 103 美元。其中把 Qwen-Image 2.1 的 9B 提示词改写器蒸馏成 0.8B 版本,可在 CPU 上运行,输出有效率 99.7%,token 用量约为教师模型的四分之一。
推荐理由:作者用六个真实项目复盘了如何用提示词驱动 ML Intern 完成训练、评测与发布,可迁移到自己的模型定制流程。
Amazon SageMaker HyperPod 推出基于 EKS 的多租户参考架构,让多个团队共享同一 GPU 集群并保持隔离与资源公平。
AWS 发文解读国际标准 ISO/IEC 42005:2025,指导企业将 AI 系统影响评估纳入整体风险管理体系。该标准覆盖评估全生命周期,Annex D 提供与现有评估流程整合的方法以避免重复,Annex E 提供独立评估模板。
基于 Amazon Bedrock AgentCore、Amazon Nova 2.5 Sonic 与 Amazon Bedrock Knowledge Bases,可搭建一套航空语音旅行助手,让旅客通过语音查询行程、改座位、更新餐食偏好并转接人工客服。
Amazon SageMaker HyperPod 通过 SageMaker Unified Studio 连接项目后,需在组织、项目、集群、工作负载四层保留底层治理控制。集群的 IAM、Amazon EKS RBAC 或 Slurm 控制不会被项目连接取代,应集中在一个容量账户中管理加速器容量,并用 IAM 角色和资源策略控制对 Amazon S3、AWS KMS 等资源的访问。
AWS 官方博客介绍如何在 Amazon Bedrock AgentCore runtime 上运行开源智能体系统 OpenClaw,构建带长期记忆的个人助手。
AWS 提出 Agentic Value Model,用于替代为 RPA 设计的传统 ROI 模型,从时间节省、异常处理、决策质量和变更韧性四个维度衡量智能体自动化的价值。
AWS 提出一套六周结构化培养方案,让非工程背景的业务人员用 Amazon Bedrock、AgentCore 和 Strands Agents SDK 构建可运行的 AI 原型。
Cornerstone OnDemand 基于 Amazon Bedrock 和 Strands Agents 构建多智能体系统 Orion AI,将数据库诊断时间从 45 分钟降至 10 分钟,减少 78%。该系统由三人团队在六个月内交付,同时把 10 步以上手动生命周期操作压缩为一次交互,并将冗余告警中位数削减 65%。
针对 AWS DevOps Agent 只诊断不改动生产资源的问题,该方案用 Amazon EventBridge、AWS Lambda Durable Functions 和 Amazon Bedrock 搭建自动修复工作流,把调查摘要转为预验证的修复动作。