TensorRT

Posted in

• 其他

Go调用CUDA/C++ TensorRT模型推理：零拷贝GPU内存共享实现（含CUDA Context跨goroutine安全方案）

第一章：Go调用CUDA/C++ … Go调用CUDA/C++ TensorRT模型推理：零拷贝GPU内存共享实现（含CUDA Context跨goroutine安全方案）Read more

by Go实战派|2026年4月3日|Go语言编程实践, Context正确使用方法, TensorRT, CUDA与Go结合, GPU内存共享

Posted in

• 其他

Go语言调用TensorRT加速换脸推理：INT8量化+层融合+引擎缓存，吞吐提升5.2倍

第一章：Go语言调用Tensor … Go语言调用TensorRT加速换脸推理：INT8量化+层融合+引擎缓存，吞吐提升5.2倍Read more

by 低调的Gopher|2026年4月2日|TensorRT, 正则引擎缓存, 换脸推理, INT8量化, Go语言编程实践

Posted in

• Go语言基础和工具链

实时人脸比对延迟低于83ms：Go+TensorRT轻量化推理引擎落地详解，附GitHub万星代码库

第一章：实时人脸比对延迟低于83 … 实时人脸比对延迟低于83ms：Go+TensorRT轻量化推理引擎落地详解，附GitHub万星代码库Read more

by 分布式系统探索者|2026年3月31日|Go语言编程实践, TensorRT, LoRA轻量化推理, GitHub开源项目改造, Go语言人脸比对

Posted in

• 其他

Go+TensorRT视频推理加速：单节点QPS从23→186的7.8倍跃迁（含CUDA 12.2适配避坑清单）

第一章：Go+TensorRT视 … Go+TensorRT视频推理加速：单节点QPS从23→186的7.8倍跃迁（含CUDA 12.2适配避坑清单）Read more

by 低调的Gopher|2026年3月24日|QPS性能优化, v3.12.2, 视频推理加速, Go语言编程实践, TensorRT, CUDA与Go结合

Posted in

• 其他

YOLOv5s + Golang + TensorRT：端侧行人检测延迟压至17ms的终极调优路径（仅限内部技术白皮书级披露）

第一章：YOLOv5s + Go … YOLOv5s + Golang + TensorRT：端侧行人检测延迟压至17ms的终极调优路径（仅限内部技术白皮书级披露）Read more

by 高并发玩家|2026年3月24日|模型推理优化, TensorRT, golang-go包弃用, YOLOv5s异常检测, 端侧行人检测

Posted in

• Go语言基础和工具链

Go语言正在接管AI Infra底层：vLLM、llama.cpp Go binding、TensorRT-Go已全部进入生产环境（附Benchmark对比）

第一章：未来go语言才是趋势 G … Go语言正在接管AI Infra底层：vLLM、llama.cpp Go binding、TensorRT-Go已全部进入生产环境（附Benchmark对比）Read more

by 技术布道者|2026年3月19日|Go语言编程实践, TensorRT, vLLM性能优化, Llama.cpp对比, AI基础设施工程师

Posted in

• Web开发实战

PT加Go语言在AI推理服务编排中的奇效：用PT做请求路由+Go做TensorRT绑定，端到端P99<47ms

第一章：PT加Go语言在AI推理 … PT加Go语言在AI推理服务编排中的奇效：用PT做请求路由+Go做TensorRT绑定，端到端P99<47msRead more

by 异步行者|2026年3月17日|Go语言编程实践, TensorRT, AI推理服务端, 请求路由路径, 日文Prompt防护

Posted in

• 其他

边缘AI推理加速实践（Go+TensorRT轻量化部署全链路）

第一章：边缘AI推理加速实践（G … 边缘AI推理加速实践（Go+TensorRT轻量化部署全链路）Read more

by 异步行者|2026年3月5日|Go语言编程实践, AI推理加速, TensorRT, Whisper.cpp轻量化部署, Golang边缘AI推理

Posted in

• 其他

Go+TensorRT轻量化部署实战：单卡A10部署ResNet50+SSD模型，吞吐达382FPS（含Docker多阶段构建脚本）

第一章：Go+TensorRT轻 … Go+TensorRT轻量化部署实战：单卡A10部署ResNet50+SSD模型，吞吐达382FPS（含Docker多阶段构建脚本）Read more

by Go语言实验室|2026年3月1日|TensorRT, CPU内存SSD黄金比例, ResNet50压缩, Face模型部署, Go语言编程实践

Posted in

• 问题排查与答疑

实时AI流处理架构失效了？Go+Apache Kafka+TensorRT流水线重建指南，含故障注入复现脚本

第一章：实时AI流处理架构失效了 … 实时AI流处理架构失效了？Go+Apache Kafka+TensorRT流水线重建指南，含故障注入复现脚本Read more

by 分布式系统探索者|2026年2月19日|Go语言编程实践, Kafka实战技巧, TensorRT, Apache整合, godaemon故障注入, AI流处理