第一章:Go语言生成式AI工程化 … Go语言生成式AI工程化:用Go调用Llama3/Phi-3本地推理,实测吞吐达128 tokens/secRead more
Phi-3
从BERT到Phi-3,Go语言模型加载器演进史(支持12种格式/7类量化/4级精度自动降级)
第一章:Go语言大模型加载器的演 … 从BERT到Phi-3,Go语言模型加载器演进史(支持12种格式/7类量化/4级精度自动降级)Read more
第一章:Go语言大模型加载器的演 … 从BERT到Phi-3,Go语言模型加载器演进史(支持12种格式/7类量化/4级精度自动降级)Read more