多模型推理

Posted in

• Go语言基础和工具链

Go语言在边缘AI爆发前夜（2024Q3预测）：树莓派5上运行TinyGo模型推理延迟仅23ms，附部署流水线

第一章：Go语言有前景吗现在 G … Go语言在边缘AI爆发前夜（2024Q3预测）：树莓派5上运行TinyGo模型推理延迟仅23ms，附部署流水线Read more

by 代码咖啡馆|2026年4月24日|TinyGo工具链, 树莓派5, Golang边缘AI推理, 多模型推理, Go语言编程实践

Posted in

• 其他

为什么TensorFlow Lite不推荐Go部署？——Go原生ONNX Runtime集成避坑指南（含v0.8.0兼容补丁）

第一章：TensorFlow L … 为什么TensorFlow Lite不推荐Go部署？——Go原生ONNX Runtime集成避坑指南（含v0.8.0兼容补丁）Read more

by 并发世界漫游者|2026年4月24日|SQLite数据库迁移, Go语言部署问题, TensorFlow模型部署, runtime.iface结构体, 多模型推理, ONNX模型加密, v0.8.0兼容

Posted in

• 其他

Go调用ONNX不支持动态shape？——手写TensorShape推导引擎，300行代码破解限制

第一章：Go调用ONNX不支持动 … Go调用ONNX不支持动态shape？——手写TensorShape推导引擎，300行代码破解限制Read more

by 写代码的猫|2026年3月30日|TensorShape推导, Go语言编程实践, Go语言部署ONNX模型, 多模型推理, 动态shape调度

Posted in

• 其他

模型加载慢、上下文丢失、GPU资源争抢？Go编排Runtime的3个隐藏GC陷阱与修复补丁

第一章：模型编排Runtime的 … 模型加载慢、上下文丢失、GPU资源争抢？Go编排Runtime的3个隐藏GC陷阱与修复补丁Read more

by 分布式系统探索者|2026年3月22日|Go语言编程实践, runtime性能优化, GC调优技术, GPU资源管理, 多模型推理

Posted in

• 其他

Go构建边缘AI视觉网关：ARM64设备上运行多模型协同推理（YOLO+NMS+ReID），功耗降低63%实测

第一章：Go构建边缘AI视觉网关 … Go构建边缘AI视觉网关：ARM64设备上运行多模型协同推理（YOLO+NMS+ReID），功耗降低63%实测Read more

by 架构思考者|2026年3月1日|Go语言编程实践, ARM64嵌入式部署, Golang边缘AI推理, 视觉网关, 多模型推理