本文介绍了一种名为NetGPT的云边协同方法,旨在优化异构分布式通信和计算资源,以提供个性化生成服务。文章探讨了在边缘设备上部署大型语言模型的挑战及解决方案,包括EdgeMoE和Confidant框架,强调了在6G网络中实现高效推理和训练的潜力,研究表明这些方法在内存和计算效率上具有显著优势。
完成下面两步后,将自动完成登录并继续当前操作。