💡
原文中文,约1800字,阅读约需5分钟。
📝
内容提要
作者在CSDN时期希望有自己的AI工作环境,但资源有限。离职后用补偿买了一台高配MacBook Pro,能运行常规AI算法。目标是建立一套脱离外部服务的私人AI系统,能完成一些常规软件应用无法做到的事情。经过尝试,使用llama.cpp和ollama运行模型,llama.cpp泛用性更好,ollama性能更好。发布了词法分析器工具,用于微调模型。最不满意的是客户端,用Python写了一个命令行工具Blue Shell。已开始用AI为Jaskell项目生成单元测试代码。
🎯
关键要点
-
作者在CSDN时期希望有自己的AI工作环境,但资源有限。
-
离职后用补偿买了一台高配MacBook Pro,能够运行常规AI算法。
-
目标是建立一套脱离外部服务的私人AI系统,完成常规软件应用无法做到的事情。
-
尝试使用llama.cpp和ollama运行模型,llama.cpp泛用性更好,ollama性能更佳。
-
发布了词法分析器工具,用于微调模型,支持多种编程语言。
-
最不满意的是客户端,开发了命令行工具Blue Shell以满足需求。
-
已开始用AI为Jaskell项目生成单元测试代码,期望未来能实现更智能的编程工作。
🏷️
标签
➡️