使用搭载骁龙 8 Gen 3 的安卓手机运行 AI 大模型
原文中文,约4100字,阅读约需10分钟。发表于: 。本篇文章聊聊,在 Android 手机上简单运行 AI 大模型的方法,来体验英文语言模型(Llama2 7B、Mistral 7B、RedPajama 3B、Google Gemma 2B、Microsoft PHI 2B);中文语言模型(面壁 MiniCPM、多模态模型);Stable Diffusion。
本文介绍了在Android手机上运行AI大模型的方法,包括英文和中文语言模型。文章提供了两种不需要解锁手机和获取Root权限的方案,并介绍了模型应用程序和运行设备的准备工作。作者推荐使用骁龙8 Gen 2和8 Gen 3芯片的手机来运行模型。此外,还介绍了安卓调试工具(ADB)的安装和使用方法。文章还提供了英文和中文语言模型的使用示例,并介绍了图片模型的下载和初始化方法。下一篇文章将介绍在手机原生环境中直接运行模型的方法。