LLM推理延迟

Posted in

• 其他

【独家拆解】某头部自动驾驶公司NN感知模块Go化改造：从Python 32s→Go 217ms推理延迟

第一章：用go语言搭建神经网络 … 【独家拆解】某头部自动驾驶公司NN感知模块Go化改造：从Python 32s→Go 217ms推理延迟Read more

by 代码咖啡馆|2026年4月29日|Python性能优化, Go语言编程实践, LLM推理延迟, 自动驾驶技术规范, NN感知模块

Posted in

• 问题排查与答疑

GoCV+TensorFlow Lite推理延迟突增？——模型输入Tensor形状对齐错误导致隐式内存拷贝的隐蔽陷阱

第一章：GoCV+TensorF … GoCV+TensorFlow Lite推理延迟突增？——模型输入Tensor形状对齐错误导致隐式内存拷贝的隐蔽陷阱Read more

by 程序员老李|2026年4月15日|SQLite数据库迁移, TensorFlow模型部署, 隐式内存拷贝, LLM推理延迟, gocv图像识别, Tensor形状对齐

Posted in

• 其他

边缘视频分析Pipeline重构实录：从Python转Go后CPU占用下降64%，推理延迟稳定<83ms

第一章：边缘视频分析Pipeli … 边缘视频分析Pipeline重构实录：从Python转Go后CPU占用下降64%，推理延迟稳定<83msRead more

by 低调的Gopher|2026年3月5日|单核CPU优化, LLM推理延迟, 边缘计算Go框架, Go语言编程实践, 音视频分析

Posted in

• Go语言基础和工具链

golang构建AI沙箱环境：WasmEdge运行时隔离LLM推理，杜绝任意代码执行风险

第一章：golang接入ai G … golang构建AI沙箱环境：WasmEdge运行时隔离LLM推理，杜绝任意代码执行风险Read more

by Go语言实验室|2026年2月4日|Go语言编程实践, WasmEdge, LLM推理延迟, AI沙箱, WebAssembly隔离

Posted in

• 其他

LLM推理延迟从2.8s压至127ms，Go语言内存池与量化调度器实战，深度解读性能跃迁关键路径

第一章：LLM推理延迟优化的工程 … LLM推理延迟从2.8s压至127ms，Go语言内存池与量化调度器实战，深度解读性能跃迁关键路径Read more

by Go语言日常|2026年2月4日|LLM推理延迟, 量化调度器, 本地大模型性能优化, Go语言内存池, AI推理加速