Apple Silicon上でWebAssemblyからゼロコピーGPU推論

記事

• WebAssemblyのリニアメモリをApple SiliconのGPUと直接共有するテクニック。
• AppleのUnified Memory Architecture（CPU・GPUが同一メモリを共有する設計）により、CPU-GPU間のコピーオーバーヘッドをゼロに。
• WASMモジュールからゼロコピー・ゼロシリアライゼーションの推論パイプラインが実現。
• 現時点ではwasmtimeのみ対応。ブラウザ上では動作しない。

ディスカッション

• fulafel: Unified Memoryは Apple独自ではない。x86 iGPUや旧Intel Macでも同様の仕組みは存在していた。
• jedisct1 と saagarjha: 特定のヘッドレスランタイム・特定アーキテクチャでしか動かないなら、WASMを使う意義は何か、と疑問視。
• nl: 本質は「WASMでメモリ制御ができる」というだけで、Apple Silicon固有の話は本筋ではないと指摘。
• pjmlp: WASMのメモリ分離をバイパスすることによるセキュリティリスクを懸念。

HNで議論を見る

原文（英語）: Zero-Copy GPU Inference from WebAssembly on Apple Silicon