MarkTechPost· Asif Razzaq·· 3 小时前AI 评分58
Liquid AI 发布实时推理引擎 RIPL,称 LFM 端到端延迟低于 50 ms
Liquid AI Launches RIPL, a Real-Time Inference Engine for Sub-50 ms LFMs
AI 导读
Liquid AI 发布实时推理引擎 RIPL(Real-time Inference Pipeline),用于在实时请求路径中服务 LFM2.5 系列模型,官方称端到端完整响应可低于 50 ms。
来源:MarkTechPost · marktechpost.com