个人版 AI 辅助系统的尝试

个人版 AI 辅助系统的尝试

💡 原文中文,约1800字,阅读约需5分钟。
📝

内容提要

作者在CSDN时期希望有自己的AI工作环境,但资源有限。离职后用补偿买了一台高配MacBook Pro,能运行常规AI算法。目标是建立一套脱离外部服务的私人AI系统,能完成一些常规软件应用无法做到的事情。经过尝试,使用llama.cpp和ollama运行模型,llama.cpp泛用性更好,ollama性能更好。发布了词法分析器工具,用于微调模型。最不满意的是客户端,用Python写了一个命令行工具Blue Shell。已开始用AI为Jaskell项目生成单元测试代码。

🎯

关键要点

  • 作者在CSDN时期希望有自己的AI工作环境,但资源有限。

  • 离职后用补偿买了一台高配MacBook Pro,能够运行常规AI算法。

  • 目标是建立一套脱离外部服务的私人AI系统,完成常规软件应用无法做到的事情。

  • 尝试使用llama.cpp和ollama运行模型,llama.cpp泛用性更好,ollama性能更佳。

  • 发布了词法分析器工具,用于微调模型,支持多种编程语言。

  • 最不满意的是客户端,开发了命令行工具Blue Shell以满足需求。

  • 已开始用AI为Jaskell项目生成单元测试代码,期望未来能实现更智能的编程工作。

➡️

继续阅读