BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 ·

Attention Pruning: Automatically Mitigating Fairness in Language Models through Proxy Simulated Annealing

💡 原文英文，约100词，阅读约需1分钟。
📝

内容提要

本文探讨了通过剪枝注意力头来减轻大型语言模型的偏差问题，提出了一种随机模拟退火的方法，有效识别需剪除的偏差贡献大的注意力头，实验表明可减少多达40%的性别偏差。

🏷️

标签

models 偏差 剪枝 性别偏差 注意力头 随机模拟退火
➡️

继续阅读

  1. Kimi K3 模型结构（4）：深度维度，Attention Residuals
    本文解析Kimi K3模型中的Attention Residuals（注意力残差）结构。该机制将残差连接视为深度方向上的RNN，通过可学习伪query对e...
  2. Kimi K3 模型结构（7）：结构决定系统
    本文总结Kimi K3模型结构对训练与推理系统的影响。KDA采用三种执行形态（FlashKDA、设备内上下文并行、状态回滚）处理固定大小状态；上下文并行通...
  3. Kimi K3 模型结构（6）：输入端与零件，MoonViT-V2、MTP、Per-Head Muon
    Kimi K3模型采用从零训练的MoonViT-V2视觉编码器，27层、patch14结构，支持高分辨率图像token化；MTP层预训练后微调为EAGLE...
  4. EP224：MCP与RAG及AI代理的对比
    An AI agent is kind of an AI system where the agent performs the task autonom...
  5. Kimi K3 模型结构（5）：宽度维度，Stable LatentMoE
    Kimi K3模型采用Stable LatentMoE作为FFN，基于NVIDIA LatentMoE改进，将输入压缩至半宽latent空间，增加RMSN...
  6. Claude Fable 5.1 对比 Fable 5：在实际工作中，我无法区分它们。
    Anthropic launched Claude Fable 5.1 this week, calling it “our most advanced ...
👤 个人中心
在公众号发送验证码完成验证