AI推理优化

Posted in

• Go语言基础和工具链

Golang做AI到底行不行？实测对比Python/Go/C++在实时推理场景的QPS、内存、启动延时（附12组Benchmark）

第一章：Golang能做人工智能 … Golang做AI到底行不行？实测对比Python/Go/C++在实时推理场景的QPS、内存、启动延时（附12组Benchmark）Read more

by 程序员老李|2026年9月23日|golang-go包弃用, C/C++编程, Go语言机器学习外包合同, 实时AI推理性能, Python开发效率, Go动态加载, AI推理优化, VSCode配置Go测试, QPS基准测试

Posted in

• 其他

为什么PyPy提速不适用于AI推理？而Go+WasmEdge却成边缘部署新宠——解释器IR层抽象能力对比白皮书

第一章：PyPy解释器的JIT机 … 为什么PyPy提速不适用于AI推理？而Go+WasmEdge却成边缘部署新宠——解释器IR层抽象能力对比白皮书Read more

by 并发世界漫游者|2026年9月21日|Go语言编程实践, AI推理优化, 移动边缘计算, WASI+WasmEdge运行时, PyPy

Posted in

• Web开发实战

Go原生支持WebAssembly AI推理：浏览器端实时语音识别的3种零依赖实现方案

第一章：Go原生支持WebAss … Go原生支持WebAssembly AI推理：浏览器端实时语音识别的3种零依赖实现方案Read more

by 高并发玩家|2026年9月16日|Go语言编程实践, AI推理优化, Go零依赖实现, WebAssembly嵌入式, 浏览器语音识别

Posted in

• Web开发实战

Go WebAssembly迎来分水岭：Go 1.23正式支持WASI-NN接口，AI推理模型可直接跑在浏览器端

第一章：Go WebAssemb … Go WebAssembly迎来分水岭：Go 1.23正式支持WASI-NN接口，AI推理模型可直接跑在浏览器端Read more

by Golang修行笔记|2026年9月16日|WebAssembly嵌入式, WASI-NN, 1.23模块路径, Go动态加载, AI推理优化, 浏览器端AI

Posted in

• 问题排查与答疑

Go AI推理服务参数漂移：ONNX Runtime输入tensor shape动态校验缺失，导致GPU kernel launch失败的紧急热修复方案

第一章：Go AI推理服务参数漂 … Go AI推理服务参数漂移：ONNX Runtime输入tensor shape动态校验缺失，导致GPU kernel launch失败的紧急热修复方案Read more

by Golang修行笔记|2026年8月23日|runtime.iface结构体, ONNX模型加密, TensorRT引擎缓存污染, GC参数漂移, GPU加速代码渲染, shape校验, kernel失败, Go动态加载, AI推理优化

Posted in

• Go语言基础和工具链

Golang鸿蒙AI推理加速实践：YOLOv8模型通过GO-NNAPI桥接调用NPU，端侧推理延迟压降至17ms（实测HiSilicon Kirin9000S）

第一章：Golang鸿蒙AI推理 … Golang鸿蒙AI推理加速实践：YOLOv8模型通过GO-NNAPI桥接调用NPU，端侧推理延迟压降至17ms（实测HiSilicon Kirin9000S）Read more

by Go实战派|2026年8月18日|AI推理优化, InputSystem补丁, HiSilicon, Golang鸿蒙AI推理, YOLOv8端侧加速, GO-NNAPI桥接, 麒麟9000S

Posted in

• 问题排查与答疑

Go微服务调用AI推理so库时OOM频发？——mmap替代malloc分配大块显存的零拷贝实践

第一章：Go微服务调用AI推理s … Go微服务调用AI推理so库时OOM频发？——mmap替代malloc分配大块显存的零拷贝实践Read more

by Go语言笔记|2026年8月16日|AI推理优化, syscall.Mmap内存映射, OOM问题

Posted in

• Go语言基础和工具链

Golang读取多路RTSP流并做AI推理：TensorRT-Go+video.Reader流水线设计（端到端延迟<180ms）

第一章：Golang读取视频流 … Golang读取多路RTSP流并做AI推理：TensorRT-Go+video.Reader流水线设计（端到端延迟<180ms）Read more

by 加密骑士|2026年8月16日|golang-go包弃用, RTSP流处理, TensorRT-Go绑定, video.Reader视频解码, 低延迟AI流水线, 端到端实时视频分析, AI推理优化

Posted in

• Go语言基础和工具链

Go WASM组件突围战：TinyGo生态中唯一通过WASI-NN规范的AI推理组件——性能碾压Node.js同类方案

第一章：Go WASM组件突围战 … Go WASM组件突围战：TinyGo生态中唯一通过WASI-NN规范的AI推理组件——性能碾压Node.js同类方案Read more

by 代码咖啡馆|2026年8月11日|TinyGo工具链, Go动态加载, AI推理优化, WebAssembly嵌入式, WASI-NN, std/wasm

Posted in

• Go语言基础和工具链

物联网边缘AI推理服务部署难题破解：Golang调用TinyML模型的零拷贝内存共享方案（实测吞吐提升3.7倍）

第一章：Golang在物联网中应 … 物联网边缘AI推理服务部署难题破解：Golang调用TinyML模型的零拷贝内存共享方案（实测吞吐提升3.7倍）Read more

by Go语言进阶之路|2026年8月8日|TinyML模型优化, 物联网边缘AI, AI推理优化, 零拷贝内存共享, 南京Golang开发