跳到正文
MIT Technology Review · AI· Tim Rausch·· 3 小时前AI 评分22

AI 推理留下的隐性存储账单:后端数据为何被低估

AI’s hidden storage bill: What inference leaves behind

AI 导读

AI 推理每次响应都会留下大量后端数据,WD 内部测量显示一段 8 秒视频(用户拿到的是 3.97MB 720p 文件)在后端留下超 500MB 关联数据,是输出文件体积的 130 倍。

来源:MIT Technology Review · AI · technologyreview.com