TensorRT

Posted in

• Go语言基础和工具链

实时人脸比对延迟低于83ms：Go+TensorRT轻量化推理引擎落地详解，附GitHub万星代码库

第一章：实时人脸比对延迟低于83 … 实时人脸比对延迟低于83ms：Go+TensorRT轻量化推理引擎落地详解，附GitHub万星代码库Read more

by 分布式系统探索者|2026年3月31日|Go语言编程实践, TensorRT, LoRA轻量化推理, GitHub开源项目改造, Go语言人脸比对

Posted in

• 其他

Go+TensorRT视频推理加速：单节点QPS从23→186的7.8倍跃迁（含CUDA 12.2适配避坑清单）

第一章：Go+TensorRT视 … Go+TensorRT视频推理加速：单节点QPS从23→186的7.8倍跃迁（含CUDA 12.2适配避坑清单）Read more

by 低调的Gopher|2026年3月24日|Go语言编程实践, TensorRT, CUDA与Go结合, QPS性能优化, v3.12.2, 视频推理加速

Posted in

• 其他

YOLOv5s + Golang + TensorRT：端侧行人检测延迟压至17ms的终极调优路径（仅限内部技术白皮书级披露）

第一章：YOLOv5s + Go … YOLOv5s + Golang + TensorRT：端侧行人检测延迟压至17ms的终极调优路径（仅限内部技术白皮书级披露）Read more

by 高并发玩家|2026年3月24日|golang-go包弃用, YOLOv5s异常检测, 端侧行人检测, 模型推理优化, TensorRT

Posted in

• Go语言基础和工具链

Go语言正在接管AI Infra底层：vLLM、llama.cpp Go binding、TensorRT-Go已全部进入生产环境（附Benchmark对比）

第一章：未来go语言才是趋势 G … Go语言正在接管AI Infra底层：vLLM、llama.cpp Go binding、TensorRT-Go已全部进入生产环境（附Benchmark对比）Read more

by 技术布道者|2026年3月19日|Go语言编程实践, TensorRT, vLLM性能优化, Llama.cpp对比, AI基础设施工程师

Posted in

• Web开发实战

PT加Go语言在AI推理服务编排中的奇效：用PT做请求路由+Go做TensorRT绑定，端到端P99<47ms

第一章：PT加Go语言在AI推理 … PT加Go语言在AI推理服务编排中的奇效：用PT做请求路由+Go做TensorRT绑定，端到端P99<47msRead more

by 异步行者|2026年3月17日|请求路由路径, 日文Prompt防护, Go语言编程实践, TensorRT, AI推理服务端

Posted in

• 其他

边缘AI推理加速实践（Go+TensorRT轻量化部署全链路）

第一章：边缘AI推理加速实践（G … 边缘AI推理加速实践（Go+TensorRT轻量化部署全链路）Read more

by 异步行者|2026年3月5日|Go语言编程实践, AI推理加速, TensorRT, Whisper.cpp轻量化部署, Golang边缘AI推理

Posted in

• 其他

Go+TensorRT轻量化部署实战：单卡A10部署ResNet50+SSD模型，吞吐达382FPS（含Docker多阶段构建脚本）

第一章：Go+TensorRT轻 … Go+TensorRT轻量化部署实战：单卡A10部署ResNet50+SSD模型，吞吐达382FPS（含Docker多阶段构建脚本）Read more

by Go语言实验室|2026年3月1日|Face模型部署, Go语言编程实践, TensorRT, CPU内存SSD黄金比例, ResNet50压缩

Posted in

• 问题排查与答疑

实时AI流处理架构失效了？Go+Apache Kafka+TensorRT流水线重建指南，含故障注入复现脚本

第一章：实时AI流处理架构失效了 … 实时AI流处理架构失效了？Go+Apache Kafka+TensorRT流水线重建指南，含故障注入复现脚本Read more

by 分布式系统探索者|2026年2月19日|Kafka实战技巧, TensorRT, Apache整合, godaemon故障注入, AI流处理, Go语言编程实践

Posted in

• 其他

【医疗AI边缘推理网关】：Go+TensorRT轻量化部署，单节点支撑23类影像实时分析

第一章：医疗AI边缘推理网关的架 … 【医疗AI边缘推理网关】：Go+TensorRT轻量化部署，单节点支撑23类影像实时分析Read more

by 异步行者|2026年2月7日|轻量化部署, TensorRT, CT影像分析, 医疗AI平台, 边缘计算Go框架

Posted in

• 其他

Go语言开发工业AI推理服务端：ONNX Runtime + TensorRT Go绑定实战（支持RK3588/NVIDIA Jetson边缘部署）

第一章：Go语言开发工业软件 工 … Go语言开发工业AI推理服务端：ONNX Runtime + TensorRT Go绑定实战（支持RK3588/NVIDIA Jetson边缘部署）Read more

by 写代码的猫|2026年2月4日|runtime.env解析, RK3588, 边缘AI部署, Go语言编程实践, TensorRT, Go语言部署ONNX模型