原文中文,约1800字,阅读约需5分钟。
📝
内容提要
作者在CSDN时期希望有自己的AI工作环境,但资源有限。离职后用补偿买了一台高配MacBook Pro,能运行常规AI算法。目标是建立一套脱离外部服务的私人AI系统,能完成一些常规软件应用无法做到的事情。经过尝试,使用llama.cpp和ollama运行模型,llama.cpp泛用性更好,ollama性能更好。发布了词法分析器工具,用于微调模型。最不满意的是客户端,用Python写了一个命令行工具Blue Shell。已开始用AI为Jaskell项目生成单元测试代码。
🏷️