Llamba是一种高效的循环语言模型，源自Llama-3.x，旨在克服变压器模型在推理吞吐量和大批量处理上的局限。该模型通过跨架构蒸馏，优化了速度、内存效率和性能，特别适用于智能手机和边缘平台。