大模型推理性能测试

Posted in

• Go语言基础和工具链

Go语言在AI基础设施中的隐秘崛起：支撑LLM推理服务的8个关键模块解析

第一章：Go语言在AI基础设施中 … Go语言在AI基础设施中的隐秘崛起：支撑LLM推理服务的8个关键模块解析Read more

by 架构思考者|2026年5月13日|Go语言编程实践, LLM推理服务, 大模型推理性能测试, 成都AI基础设施, Go语言高性能模块

Posted in

• 其他

Go语言在讯飞星火大模型推理服务中的真实压测报告（含QPS 47K、P99<86ms原始日志）

第一章：科大讯飞Go语言技术栈演 … Go语言在讯飞星火大模型推理服务中的真实压测报告（含QPS 47K、P99<86ms原始日志）Read more

by 架构思考者|2026年4月26日|讯飞星火, Go语言编程实践, 大模型推理性能测试, 点击压测报告, QPS雪崩

Posted in

• Go语言基础和工具链

Go语言生态AI工程化实战：Llama.cpp绑定性能不及Python 62%，但llm-go推理框架实测吞吐提升4.1倍

第一章：Go语言生态怎么样 Go … Go语言生态AI工程化实战：Llama.cpp绑定性能不及Python 62%，但llm-go推理框架实测吞吐提升4.1倍Read more

by Go语言日常|2026年4月24日|Go语言编程实践, AI工程化避坑指南, llm-go, 大模型推理性能测试, Llama.cpp对比

Posted in

• Go语言基础和工具链

Go语言在AI Infra爆发临界点（2024.06实测）：Llama.cpp Go binding性能提升3.2倍，附完整集成手册

第一章：Go语言在AI Infr … Go语言在AI Infra爆发临界点（2024.06实测）：Llama.cpp Go binding性能提升3.2倍，附完整集成手册Read more

by 后端小能手|2026年4月24日|Go语言编程实践, binding必填字段, Go动态加载, 基础设施适配器Infrastructure, 大模型推理性能测试, Air/Refresh弃用原因, Llama.cpp对比

Posted in

• 其他

【20年AI基础设施老兵坦白局】：我们为何将Python推理服务重构为Go——节省47%服务器成本的真实复盘

第一章：Go语言能做人工智能么 … 【20年AI基础设施老兵坦白局】：我们为何将Python推理服务重构为Go——节省47%服务器成本的真实复盘Read more

by 程序员老李|2026年4月23日|成都AI基础设施, Python推理服务, 服务器成本优化, 抖音Go语言重构, 大模型推理性能测试

Posted in

• 其他

Golang ONNX模型分片推理（Model Sharding）：将12GB大模型拆解为8个微服务的生产实践

第一章：Golang ONNX模 … Golang ONNX模型分片推理（Model Sharding）：将12GB大模型拆解为8个微服务的生产实践Read more

by 代码诗人|2026年3月30日|Go语言部署ONNX模型, golang-go包弃用, 跨境微服务部署, 大模型推理性能测试, 模型分片加载, ONNX模型优化

Posted in

• 问题排查与答疑

【独家首发】Go+LLM生产事故TOP5复盘报告：从Token截断错误到context-length越界，每例均含修复补丁

第一章：Go+LLM生产事故复盘 … 【独家首发】Go+LLM生产事故TOP5复盘报告：从Token截断错误到context-length越界，每例均含修复补丁Read more

by 容器守护者|2026年3月20日|Go语言编程实践, 生产事故复盘, 大模型推理性能测试, Token截断, context-length越界

Posted in

• Go语言基础和工具链

【边缘AIoT编译新范式】：Go+TinyGo双模编译策略（大模型推理用标准Go，传感器驱动用TinyGo，共享同一套API契约）

第一章：工业物联网go语言编译 … 【边缘AIoT编译新范式】：Go+TinyGo双模编译策略（大模型推理用标准Go，传感器驱动用TinyGo，共享同一套API契约）Read more

by Go语言修行者|2026年3月19日|TinyGo工具链, 传感器驱动, 大模型推理性能测试, 边缘AIoT, Go语言编译加速

Posted in

• Go语言基础和工具链

Go语言在教育AI时代的第三曲线：学而思LLM推理服务框架GopherInfer架构首曝（仅限首批200名开发者）

第一章：学而思GopherInf … Go语言在教育AI时代的第三曲线：学而思LLM推理服务框架GopherInfer架构首曝（仅限首批200名开发者）Read more

by 后端小能手|2026年3月19日|Go语言编程实践, 大模型推理性能测试, 教育AI, GopherInfer, 学而思LLM

Posted in

• Go语言基础和工具链

大连Golang工程师转型AI工程化路径：用Go+ONNX Runtime部署大模型推理服务的轻量级方案

第一章：大连Golang工程师转 … 大连Golang工程师转型AI工程化路径：用Go+ONNX Runtime部署大模型推理服务的轻量级方案Read more

by 异步行者|2026年3月17日|AI工程化避坑指南, 大模型推理性能测试, runtime.iface结构体, Go语言部署ONNX模型, 轻量级部署, golang-go包弃用