商汤推出的LazyLLM开发平台，用户只需10行代码即可构建复杂AI应用，降低开发门槛，支持可视化操作，适用于多行业，助力企业实现AI能力转化。
LazyLLM是一种新方法，通过动态选择重要的提示令牌来加速长上下文大语言模型的推理过程。与静态剪枝不同，LazyLLM在预填充和解码阶段灵活计算KV缓存，从而显著提高生成速度，同时保持准确性。在多文档问答任务中，LazyLLM使LLama 2 7B模型的预填充阶段加速了2.34倍。
完成下面两步后，将自动完成登录并继续当前操作。
