Prefill-as-a-Service：次世代モデルのKV Cacheはクロスデータセンター化へ

· top-stories · Source ↗

原文（英語）: Prefill-as-a-Service:KVCache of Next-Generation Models Could Go Cross-Datacenter