刘悦

刘悦 -

苹果AppleMacOs系统Sonoma本地部署无内容审查(NSFW)大语言量化模型Causallm

最近Mac系统在运行大语言模型(LLMs)方面的性能已经得到了显著提升,尤其是随着苹果M系列芯片的不断迭代,本次我们在最新的MacOs系统Sonoma中本地部署无内容审查大语言量化模型Causallm。这里推荐使用koboldcpp项目,它是由c++编写的kobold项目,而MacOS又是典型的Unix操作系统,自带clang编译器,也就是说MacOS操作系统是可以直接编译C语言的。首先克隆koboldcpp项目:gitclonehttps://github.com/LostRuins/koboldcpp.git随后进入项目:cdkoboldcpp-1.60.1输入make命令,开始编译:ma...

None

apple macos 苹果

相关推荐 去reddit讨论

热榜 Top10

Dify.AI
Dify.AI
eolink
eolink
观测云
观测云
LigaAI
LigaAI

推荐或自荐