大模型推理性能测试

Posted in

• 其他

Golang ONNX模型分片推理（Model Sharding）：将12GB大模型拆解为8个微服务的生产实践

第一章：Golang ONNX模 … Golang ONNX模型分片推理（Model Sharding）：将12GB大模型拆解为8个微服务的生产实践Read more

by 代码诗人|2026年3月30日|ONNX模型优化, Go语言部署ONNX模型, golang-go包弃用, 跨境微服务部署, 大模型推理性能测试, 模型分片加载

Posted in

• 问题排查与答疑

【独家首发】Go+LLM生产事故TOP5复盘报告：从Token截断错误到context-length越界，每例均含修复补丁

第一章：Go+LLM生产事故复盘 … 【独家首发】Go+LLM生产事故TOP5复盘报告：从Token截断错误到context-length越界，每例均含修复补丁Read more

by 容器守护者|2026年3月20日|Go语言编程实践, 生产事故复盘, 大模型推理性能测试, Token截断, context-length越界

Posted in

• Go语言基础和工具链

【边缘AIoT编译新范式】：Go+TinyGo双模编译策略（大模型推理用标准Go，传感器驱动用TinyGo，共享同一套API契约）

第一章：工业物联网go语言编译 … 【边缘AIoT编译新范式】：Go+TinyGo双模编译策略（大模型推理用标准Go，传感器驱动用TinyGo，共享同一套API契约）Read more

by Go语言修行者|2026年3月19日|Go语言编译加速, TinyGo工具链, 传感器驱动, 大模型推理性能测试, 边缘AIoT

Posted in

• Go语言基础和工具链

Go语言在教育AI时代的第三曲线：学而思LLM推理服务框架GopherInfer架构首曝（仅限首批200名开发者）

第一章：学而思GopherInf … Go语言在教育AI时代的第三曲线：学而思LLM推理服务框架GopherInfer架构首曝（仅限首批200名开发者）Read more

by 后端小能手|2026年3月19日|教育AI, GopherInfer, 学而思LLM, Go语言编程实践, 大模型推理性能测试

Posted in

• Go语言基础和工具链

大连Golang工程师转型AI工程化路径：用Go+ONNX Runtime部署大模型推理服务的轻量级方案

第一章：大连Golang工程师转 … 大连Golang工程师转型AI工程化路径：用Go+ONNX Runtime部署大模型推理服务的轻量级方案Read more

by 异步行者|2026年3月17日|Go语言部署ONNX模型, 轻量级部署, golang-go包弃用, AI工程化避坑指南, 大模型推理性能测试, runtime.iface结构体

Posted in

• 其他

【Go语言大模型推理加速秘籍】：CPU/GPU混合调度下延迟降低63%的5个关键优化

第一章：Go语言大模型推理加速的 … 【Go语言大模型推理加速秘籍】：CPU/GPU混合调度下延迟降低63%的5个关键优化Read more

by 架构思考者|2026年3月13日|GPU混合调度, 大模型推理加速, CPU左移指令, gopls延迟优化, 大模型推理性能测试, Go语言大模型推理

Posted in

• 其他

Go调用ONNX Runtime进行人脸比对，性能提升3.7倍，准确率99.82%——来自金融级身份核验系统的压测报告

第一章：人脸比对Go语言怎么写 … Go调用ONNX Runtime进行人脸比对，性能提升3.7倍，准确率99.82%——来自金融级身份核验系统的压测报告Read more

by 并发世界漫游者|2026年3月11日|Go语言部署ONNX模型, 大模型推理性能测试, runtime.iface结构体, Go语言人脸比对, 金融级身份核验, Go语言编程实践

Posted in

• Web开发实战

为什么Hugging Face正在将Inference API底层迁移至Go？核心工程师GitHub Discussion原始讨论链溯源

第一章：Hugging Face … 为什么Hugging Face正在将Inference API底层迁移至Go？核心工程师GitHub Discussion原始讨论链溯源Read more

by Gopher的成长日记|2026年2月19日|Go语言编程实践, Golang调用系统API, TypeInferencer, Discussion英语表达, 大模型推理性能测试, GitHub库安全检查, runtime.iface结构体, Golang调用Hugging

Posted in

• 其他

飞桨golang工程化实践：从单机推理到K8s Operator编排的6阶段演进路径

第一章：飞桨golang工程化实 … 飞桨golang工程化实践：从单机推理到K8s Operator编排的6阶段演进路径Read more

by 并发编程爱好者|2026年2月17日|golang-go包弃用, 大模型推理性能测试, Gin工程化实践, Operator认证, K8s故障排查, 飞桨v3.0

Posted in

• Go语言基础和工具链

Go语言调用ONNX Runtime的终极姿势：零拷贝内存共享实现（实测吞吐提升4.2倍）

第一章：Go语言可以搞AI Go … Go语言调用ONNX Runtime的终极姿势：零拷贝内存共享实现（实测吞吐提升4.2倍）Read more

by 技术布道者|2026年2月16日|张量内存共享, 大模型推理性能测试, runtime.iface结构体, Go语言编程实践, Go语言部署ONNX模型, Linux零拷贝技术