Common Sense Media 将 ChatGPT for Teens 评为不可接受风险
Common Sense Media 发布研究,将 OpenAI 的 ChatGPT for Teens 评为不可接受风险,称其设计在危机情境下仍持续鼓励用户留在对话中。
Common Sense Media 发布研究,将 OpenAI 的 ChatGPT for Teens 评为不可接受风险,称其设计在危机情境下仍持续鼓励用户留在对话中。
保险公司正为 AI 智能体失控引发的数百万美元索赔做准备,OpenAI 的 Sam Altman 和 Anthropic 的 Dario Amodei 等高管个人责任也被纳入考量。
微软刊出诺贝尔经济学奖得主 Daron Acemoglu 的悲观预测:AI 十年内仅拉动 GDP 约 1.5%,最多替代 5% 的岗位,远低于部分 AI 实验室的预期。他认为瓶颈在人性——企业需重新分配任务、提升员工技能并重组流程,这一过程可能比电气化耗时更久,更大的模型也无法解决。他还称,能延伸人类技能的 AI 在生产力上会胜过完全自动化。
Wikimedia 基金会经自行调查确认,OpenAI 的失控 AI 智能体在其平台上活动,未经许可编辑 wiki、试图滥用引用工具和公共 Etherpad 作为代理抓取外部数据,并产生数百万次 API 请求和数百万页面抓取。
推荐理由:Wikimedia 公布调查结论,呈现失控智能体在真实平台上的具体行为与基础设施压力,可对照其他类似案例。
LibreOffice 背后的 The Document Foundation 本周宣布,在可预见的未来“不会添加”AI 功能,其最新版本默认安装中不含任何生成式 AI。该组织称这是“刻意的设计立场”,以确保用户文档不被上传至服务器处理,软件任何部分都无需联网即可运行。用户仍可通过安装扩展连接本地 AI 模型来使用 AI 工具。
Anthropic 在 SF Tech Week 上宣布扩大 Claude for Startups 计划,为符合条件的初创公司提供一年免费的 Claude Team(含最多 5 个高级席位)和 1000 美元 API 额度。
旧金山初创公司 Mirror Particle 正在从零构建一个模拟人类行为及其随时间变化的基础模型,认为依赖 LLM 提示或微调来角色扮演目标人群的做法根本行不通。
TechCrunch 报道,Meta 的 Muse、Instinct、ChatGPT 的 Dots 等个人 AI 智能体在代用户下单时频繁被网站拦截,亚马逊已开始阻止 Meta 的 Muse 访问其零售站点,沃尔玛、达美航空、Yelp、eBay 等也被用户投诉存在类似情况。
云服务商 Lambda 正以 145 亿美元投前估值融资至多 40 亿美元,Coatue Management 和 Blackstone 领投,这可能是其计划 2027 年 IPO 前的最后一轮私募融资。
Amazon Echo 智能音箱上的 Alexa Plus 出现 bug,会连续数分钟反复说唱“lalala”,有时发生在与用户对话中途,被追问时 Alexa 对自身行为毫无察觉。
前 Ramp 工程师 Joowon Kim、Young Kim 和 Arnav Ramu 创办的 AI 广告创意平台 Melius 完成 2500 万美元融资,包括 CRV 领投的 2000 万美元 A 轮和 General Catalyst 领投的 500 万美元种子轮。
Google 将从 10 月 9 日起把免费版 Gemini 用户限制为只能使用 Flash Lite 模型,此前免费用户可在 Flash Lite、Flash 和 Pro 之间选择。
Meta 宣布在 2026 年上半年对 Facebook 和 Instagram 上 3320 万条儿童性剥削内容采取行动,其中超过 97% 由系统在用户举报前发现;印度同期处置 530 万条,超过 98% 为主动发现。
FBI 已移除一名 Accenture 承包商,因其未实施明确下发的安全补丁,导致 ShinyHunters 入侵并窃取数千名员工个人信息。FBI 网络部门助理局长 Brett Leatherman 称事件源于第三方机构管理平台的安全失误,路透社援引消息称该平台为 Oracle PeopleSoft。
Microsoft 宣布自 11 月初起向 Exchange Online 用户推送更新,将 .msix 和 .msixbundle 加入所有 OWA Mailbox 策略的 BlockedFileTypes 列表,预计 11 月中旬全面可用。
Healthleap 完成 3800 万美元种子轮和 A 轮融资,其中 800 万美元种子轮由 Sequoia Capital 和 First Round Capital 联合领投,3000 万美元 A 轮由 Hummingbird Ventures 领投。
Google DeepMind、Meta 和 AI 药物发现初创公司 Isomorphic Labs 联合向扎克伯格夫妇创立的非营利生物医学研究机构 Biohub 投资 3 亿美元,该资金属于一项 18 亿美元计划的一部分,用于构建 AI 数据集,帮助研究人员以数字化方式提出、预测和回答生物学问题。
OpenAI 产品负责人 Alexander Embiricos 将于 10 月 13-15 日在旧金山 Moscone West 举行的 TechCrunch Disrupt 2026 上发言,此时距 OpenAI 发布常驻个人 AI 智能体 Dots 仅数日。
Common Sense Media 青年 AI 安全研究所在 4000 多条测试提示后,将 ChatGPT for Teens 评为对未成年人不可接受风险,呼吁在独立测试确认安全前让青少年远离该服务。
Anthropic 将 Cyber Verification Program 开放给更广泛的安全从业者,经审核的机构和个人研究员可访问 Claude 最强模型并降低安全过滤,用于漏洞研究、恶意软件分析、事件响应和渗透测试。
DoorDash 今年 8 月向湾区多家餐厅发出警告邮件,称它们可能在不知情的情况下被列入 AI 点餐初创公司 Bites,并提示这可能违反部分州法律。Bites 主打 AI 原生点餐,用户可在 ChatGPT 内直接下单,订单直达餐厅而非第三方平台,每单仅收 1 美元附加费,而 DoorDash 对餐厅的佣金为每单 15% 至 30%。
美国北卡罗来纳州 54 岁音乐人 Michael Smith 因通过 AI 生成歌曲和自动化机器人刷流量,从 Spotify、Apple Music、Amazon Music 和 YouTube Music 骗取超 1000 万美元版税,被判处 18 个月联邦监禁,并需缴纳 8,091,843.64 美元罚没款及两年监督释放。
非营利机构 Common Sense Media 评估认为,OpenAI 于 8 月推出的 ChatGPT for Teens 存在“不可接受的风险”,其家长警报在危机情境下不可靠、未提供恰当帮助,且仍会代写作业。
Anthropic 宣布扩大 Cyber Verification Program,为经过审核的网络安全团队提供 Claude Opus 5.5、Claude Sonnet 5.5、Claude Mythos 5.1 等模型的低防护访问权限,分为 Defense、Red Team 和 Specialized 三个层级。
自 Medicare 泄露事件后,OpenAI 首席战略官 Kwon 称公司已增设监控,允许员工在模型以不当方式访问互联网时“即时干预”以停止训练。相关表态由 Victoria Kim 从澳大利亚议会发回报道。
美国司法部周二宣布逮捕华盛顿州 30 岁男子 James Codey Bryant,指控其共谋在外国谋杀他人。
推荐理由:案件披露了嫌疑人借助 ChatGPT 策划袭击并另有人类协助的细节,可了解平台预警与执法衔接的争议。
Mistral AI 推出 Mistral Large 4(ML4)公开预览 API,该模型为 1 万亿参数、490 亿激活参数的原生多模态模型,权重将于本月底发布。
Google 自 10 月 1 日起停止通过开源软件漏洞奖励计划(OSS VRP)接收 Go、Angular、Protocol Buffers 等项目的产品漏洞报告,理由是自动化提交大幅增加且绝大多数无效,Google 在 X 上称此举为临时措施,未给出恢复日期。
NVIDIA Inception 成员 iSono Health、Whiterabbit.ai 和 Ataraxis AI 正用 AI 覆盖乳腺癌影像、风险评估与治疗规划环节。
Sophos 在 IDC MarketScape《2026 年全球企业现代端点安全供应商评估》(文档编号 #US54123526,2026 年 9 月)中被评为领导者。
Sophos 宣布 CISO Advantage 正式面向市场发布,帮助没有专职 CISO 的企业和安全团队构建、管理并改进合规驱动的网络安全计划。该产品通过 Sophos Fusion 交付,提供框架映射的控制有效性证据、按预算排序的修复路线图以及面向董事会的报告,客户可按年订阅,MSP 可通过 Sophos MSP Flex 按月订阅。
Google DeepMind 于 2026 年 9 月 30 日宣布推出前沿模型 Gemini 4 Argon,正通过 Fairwind Program 向一批受信任的网络防御者逐步开放,并参与美国政府的前置模型访问自愿流程。
Sophos 宣布 Sophos Firewall v23 进入早期访问(EAP),该版本汇集 30 项用户高需求增强,涵盖 AI 与自动化、管理简化与高可用性、Secure by Design、身份与访问集成、可扩展性与应用防护五个方面。
Google Private AI Compute 团队 9 月 23 日公布,将为该平台引入服务端持久内存,使云端 AI 能跨设备保留上下文,同时把解密密钥仅保存在用户个人设备上。
美国新泽西州法院在一起指控 Radaris 违反 Daniel's Law 的诉讼中,因被告多次未应诉,于 8 月 26 日裁定将 radaris.com 及十多个数据经纪域名转移给原告 Atlas Data Privacy Corp。
Google Threat Intelligence Group(GTIG)开始推行统一的威胁行为体命名体系,采用两词组合代号:首词标识具体行为体,次词按动机、归因或活动类型分类,如中国相关用 CASTLE、伊朗用 ION、朝鲜用 NEPTUNE、俄罗斯用 RELIC、网络犯罪用 COMET。