小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本研究首次提出“全栈”安全概念,系统探讨大型语言模型(LLM)在训练、部署和商业化过程中的安全问题,并通过回顾800多篇文献,为数据生成、安全对齐和模型编辑等研究提供指导。

A Comprehensive Survey on Full Stack Safety of Large Language Models (LLM): Data, Training, and Deployment

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-22T00:00:00Z

本研究提出了TaLoS方法,通过构建稀疏任务向量解决模型编辑中的计算瓶颈和权重纠缠问题。该方法显著提高了训练和推理效率,并在任务添加和否定方面优于现有方法,为基础模型的实际应用提供了新方案。

Efficient Model Editing: Task-Localized Sparse Fine-tuning

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-03T00:00:00Z

本研究针对大型语言模型在情感分类中的适应性低效问题,提出了一种模型编辑方法,重点调整关键中间层表示。实验结果表明,该方法显著降低了可训练性,同时保持了竞争力的分类效果。

Exploration of Model Editing for Aspect-Based Sentiment Classification Using Large Language Models

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-19T00:00:00Z

本研究探讨了大型语言模型在机器翻译中的语言不匹配和重复问题。研究者提出了一种新颖的模型编辑方法,有效降低了错误发生率并提升了翻译质量。实验结果表明,该方法在大多数情况下显著改善了翻译效果。

通过模型编辑缓解基于大型语言模型的机器翻译中的语言不匹配和重复问题

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-09T00:00:00Z

本文探讨了大型语言模型(LLM)的编辑与安全问题,提出了多种攻击框架和防御方法。研究表明,模型编辑可以提高准确性,但也可能带来安全隐患。通过构建基准数据集,分析了编辑对模型行为的影响,并揭示了推荐系统中的安全漏洞。此外,研究还探讨了隐写术在语言模型中的应用,强调了对模型知识编辑的能力及其潜在风险。

对大型语言模型进行可证修复或攻击的隐形编辑

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-18T00:00:00Z

本文研究了人工智能领域中大型语言模型的红队测试和越狱概念。研究发现,注入准确信息对模型的可靠性至关重要,但可能破坏其基础框架,产生不安全行为。同时,研究还提出了一个基准数据集,用于研究模型在不同主题领域内的不安全行为。模型编辑是一种成本效益高的工具,可进行主题相关红队测试。

走向多模态多语种翻译的红色团队

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-01-29T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码