Prefill-as-a-Service：次世代モデルのKVキャッシュはデータセンター間を越えるか

· top-stories · Source ↗

原文（英語）: Prefill-as-a-Service:KVCache of Next-Generation Models Could Go Cross-Datacenter