Posted in

大语言模型Go服务冷启动耗时超8s?——揭秘模型权重mmap预加载+lazy-init JIT编译的200ms级优化实践

第一章:大语言模型Go服务冷启动 … 大语言模型Go服务冷启动耗时超8s?——揭秘模型权重mmap预加载+lazy-init JIT编译的200ms级优化实践Read more

Posted in

Golang模型训练冷启动优化:预加载权重mmap+lazy page fault+prefetch hint,首epoch耗时缩短64%

第一章:Golang模型训练冷启 … Golang模型训练冷启动优化:预加载权重mmap+lazy page fault+prefetch hint,首epoch耗时缩短64%Read more