Go语言模型量化

Posted in

• 其他

Go+TensorFlow Lite端侧OCR集成实战：在安卓自动化中实时识别验证码/弹窗文本（模型量化后仅1.2MB）

第一章：Go+TensorFlo … Go+TensorFlow Lite端侧OCR集成实战：在安卓自动化中实时识别验证码/弹窗文本（模型量化后仅1.2MB）Read more

by 分布式日记|2026年3月28日|Go语言模型量化, 端侧OCR, 安卓自动化脚本, Go语言编程实践, SQLite数据库迁移, TensorFlow模型部署

Posted in

• 其他

Go行人检测模型量化全流程：FP32→INT8→TinyML部署到ESP32-S3的7步实操（含tflite-go适配补丁）

第一章：Go行人检测模型量化全流 … Go行人检测模型量化全流程：FP32→INT8→TinyML部署到ESP32-S3的7步实操（含tflite-go适配补丁）Read more

by 写代码的猫|2026年3月24日|Go语言模型量化, ESP32-S3, INT8推理, Go语言行人检测, TinyML部署

Posted in

• Web开发实战

Go分支在AI推理服务中的动态路由：根据GPU显存余量+模型精度阈值实时选择量化分支（含nvidia-smi联动代码）

第一章：Go分支在AI推理服务中 … Go分支在AI推理服务中的动态路由：根据GPU显存余量+模型精度阈值实时选择量化分支（含nvidia-smi联动代码）Read more

by 并发世界漫游者|2026年3月23日|GPU显存监控, Go语言编程实践, Go语言模型量化, AI推理服务端, 动态路由匹配

Posted in

• 其他

Go调用ONNX Runtime的生产级封装（支持动态batch、量化模型与CUDA上下文复用）

第一章：Go调用ONNX Run … Go调用ONNX Runtime的生产级封装（支持动态batch、量化模型与CUDA上下文复用）Read more

by 写代码的猫|2026年3月18日|Go语言模型量化, Go语言部署ONNX模型, runtime.iface结构体, 动态Batch技术, CUDA上下文复用, Go语言编程实践

Posted in

• Go语言基础和工具链

验证码识别准确率99.2%的背后：Go+ONNX Runtime量化推理实战（INT8模型体积减少76%，FPS提升2.4x）

第一章：验证码识别准确率99.2 … 验证码识别准确率99.2%的背后：Go+ONNX Runtime量化推理实战（INT8模型体积减少76%，FPS提升2.4x）Read more

by Go语言日常|2026年2月26日|Go语言编程实践, 验证码识别, Go语言模型量化, Go语言部署ONNX模型, runtime.iface结构体, INT8推理

Posted in

• 其他

Go语言OCR模型量化实战（FP32→INT8，体积压缩76%，精度损失<0.8%，含TensorRT加速验证）

第一章：Go语言OCR模型量化实 … Go语言OCR模型量化实战（FP32→INT8，体积压缩76%，精度损失<0.8%，含TensorRT加速验证）Read more

by Go语言笔记|2026年2月20日|FP32转INT8, OCR精度优化, Go语言模型量化, Go语言OCR, TensorRT加速推理

Posted in

• Go语言基础和工具链

Go语言写AI边缘设备软件的临界点在哪？树莓派5实测：ResNet-18推理吞吐达23.6 FPS（量化模型+内存池优化）

第一章：Go语言可以写软件吗 当 … Go语言写AI边缘设备软件的临界点在哪？树莓派5实测：ResNet-18推理吞吐达23.6 FPS（量化模型+内存池优化）Read more

by 分布式日记|2026年2月16日|Go语言编程实践, AI边缘计算, Go语言模型量化, 树莓派5, ResNet-18

Posted in

• Web开发实战

从零部署LLM推理API，Go语言实操全链路：模型加载、量化、流式响应、GPU绑定，一步到位

第一章：从零部署LLM推理API … 从零部署LLM推理API，Go语言实操全链路：模型加载、量化、流式响应、GPU绑定，一步到位Read more

by 性能优化专家|2026年2月15日|GPU绑定失败, Go语言部署问题, Go语言模型量化, LLM推理API, 流式响应中断

Posted in

• Go语言基础和工具链

【Go视觉识别进阶必修课】：手写OCR引擎从模型量化、ONNX转换到低延迟C-API封装

第一章：Go视觉识别技术栈全景与 … 【Go视觉识别进阶必修课】：手写OCR引擎从模型量化、ONNX转换到低延迟C-API封装Read more

by Go语言笔记|2026年2月13日|Go语言模型量化, Go语言视觉识别, 手写OCR引擎, ONNX转换, C-API封装

Posted in

• Go语言基础和工具链

从BERT到Phi-3，Go语言模型加载器演进史（支持12种格式/7类量化/4级精度自动降级）

第一章：Go语言大模型加载器的演 … 从BERT到Phi-3，Go语言模型加载器演进史（支持12种格式/7类量化/4级精度自动降级）Read more

by Go语言日常|2026年2月4日|Go语言模型量化, BERT嵌入, Phi-3, Go语言模型加载器, 精度自动降级