作者在开发Glama时尝试了多种AI代码补全工具，最终选择了本地托管的LLM。使用macOS，安装Ollama和VSCode扩展continue.dev后，选用starcoder2:3b模型，因其速度和实用性平衡。优点包括离线使用、隐私保护和无订阅费用，但需一定硬件和手动更新。作者认为本地模型在无网络时表现出色，值得尝试。