高性能推理框架

Posted in

• Go语言基础和工具链

【Golang飞桨融合开发实战指南】：从零构建高性能AI推理服务的7大关键步骤

第一章：Golang飞桨融合开发 … 【Golang飞桨融合开发实战指南】：从零构建高性能AI推理服务的7大关键步骤Read more

by 性能优化专家|2026年3月18日|AI推理服务端, Go语言AI开发, 高性能推理框架, PaddlePaddle性能优化, Golang飞桨

Posted in

• Go语言基础和工具链

Golang+ONNX Runtime高性能集成：绕过CGO开销的纯Go ONNX解析器实测对比（吞吐+62%，P95延迟-31%）

第一章：Golang大模型开发的 … Golang+ONNX Runtime高性能集成：绕过CGO开销的纯Go ONNX解析器实测对比（吞吐+62%，P95延迟-31%）Read more

by Go语言日常|2026年3月14日|golang-go包弃用, runtime.iface结构体, ONNX解析器, CGO优化方案, Go语言部署ONNX模型, 高性能推理框架

Posted in

• 其他

【Golang大模型开发实战指南】：从零搭建高性能LLM推理服务的7个关键步骤

第一章：Golang大模型开发概 … 【Golang大模型开发实战指南】：从零搭建高性能LLM推理服务的7个关键步骤Read more

by 代码诗人|2026年3月14日|LLM推理服务, Go语言AI开发, 高性能推理框架, 大模型部署Checklist, Golang大模型开发

Posted in

• Go语言基础和工具链

【Go语言大模型开发实战指南】：20年专家亲授从零构建高性能LLM推理引擎

第一章：Go语言大模型开发全景概 … 【Go语言大模型开发实战指南】：20年专家亲授从零构建高性能LLM推理引擎Read more

by Golang修行笔记|2026年2月4日|大模型实战指南, LLM推理引擎, Go语言AI开发, 高性能推理框架, Go语言大模型开发

Posted in

• 其他

vLLM是Go语言编写的呐（但这才是它真正强大的原因）

第一章：vLLM是Go语言编写的 … vLLM是Go语言编写的呐（但这才是它真正强大的原因）Read more

by Go语言狂热者|2025年10月15日|Go语言编程实践, 大模型推理加速, AI推理优化, vLLM性能优化, 高性能推理框架

Posted in

• 其他

vLLM性能逆天的原因找到了：竟是用Go语言重构的核心模块！

第一章：vLLM是Go语言编写的 … vLLM性能逆天的原因找到了：竟是用Go语言重构的核心模块！Read more

by 架构思考者|2025年10月15日|Go语言重构技巧, 核心模块升级, vLLM性能优化, 高性能推理框架, 大模型加速