GGMLSharp and Two Demos: 1. magika; 2. mnist_cnn
原文英文,约1600词,阅读约需6分钟。发表于: 。GGML GGML全称是Georgi Gerganov Machine Learning,是由Georgi Gerganov开发的一个张量库(tensor library)github地址:https://github.com/ggerganov/ggmlGGML特性 1、用C语言编写:GGML是用C语言开发的,这意味着它可能具有高性能和低资源消耗的特点。2、支持16位浮点:GGML支持16位浮点...
GGML是由Georgi Gerganov开发的高性能张量库,支持16位浮点数和整数量化,具有自动微分功能和内置优化算法。GGML针对苹果芯片进行了优化,并在x86架构上利用AVX/AVX2内置函数提升性能。它可以通过WebAssembly在Web环境中运行,无第三方依赖,无内存分配。GGMLSharp是对GGML的C#包装。