便携移动工作站,端侧 AI 大模型设备折腾笔记:ROG 幻 X 和 4090 扩展坞

💡 原文中文,约6300字,阅读约需15分钟。
📝

内容提要

最近入手了ROG幻X Z13和ROG XG Mobile 4090扩展坞,搭建了Windows x WSL2 x CUDA的开发环境,选择Nvidia的N卡生态,配置为Intel 13900H + Nvidia 4060移动版(8G)+ Nvidia 4090移动版(16G)。成功验证了系统和基础环境,运行了模型应用。

🎯

关键要点

  • 最近入手ROG幻X Z13和ROG XG Mobile 4090扩展坞,搭建Windows x WSL2 x CUDA开发环境。
  • 选择Nvidia的N卡生态,配置为Intel 13900H + Nvidia 4060移动版(8G)+ Nvidia 4090移动版(16G)。
  • 新设备用于本地开发模型应用和验证模型基础能力,提升出行阶段的开发体验。
  • 设备选型考虑主要包括硬件计算能力、生态和显存容量,选择Nvidia生态以获得更好的开发体验。
  • 选择ROG XG Mobile RTX 4090显卡坞,满足移动场景的便携性和性能需求。
  • 系统环境选择Windows WSL 2,便于驱动和软件的兼容性。
  • 升级Windows系统至专业版以获得更好的开发功能,确保驱动更新到最新版本。
  • 安装CUDA Toolkit和Docker环境,确保能够顺利进行开发和测试。
  • 通过Nvidia官方Docker镜像验证基础环境配置是否正常。
  • 成功连接4090移动显卡,进行模型应用的验证,使用Stable Diffusion XL LCM-LoRA模型进行测试。
  • Windows的Copilot功能在生成过程中提供了优化建议,提升了使用体验。
➡️

继续阅读