第一章:大模型轻量化微调落地指南 … 大模型轻量化微调落地指南(Go+LoRA+FP16量化全链路实录)Read more
FP16量化
Go语言编写AI推理引擎:手把手实现支持FP16量化、动态批处理、热加载模型的工业级框架
第一章:Go语言AI推理引擎的设 … Go语言编写AI推理引擎:手把手实现支持FP16量化、动态批处理、热加载模型的工业级框架Read more
第一章:大模型轻量化微调落地指南 … 大模型轻量化微调落地指南(Go+LoRA+FP16量化全链路实录)Read more
第一章:Go语言AI推理引擎的设 … Go语言编写AI推理引擎:手把手实现支持FP16量化、动态批处理、热加载模型的工业级框架Read more