ggml教程|mnist手写体识别量化推理

本文介绍了使用ggml进行MNIST手写体识别模型的量化推理教程。首先用PyTorch训练一个简单的全连接神经网络，然后使用ggml进行模型量化，最后使用ggml进行模型推理。教程详细介绍了模型结构、量化过程、推理过程，并提供了代码示例。量化后模型大小显著减小。教程还包括了如何读取图片和运行推理的说明。