小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
个性化功能可能使大型语言模型(LLM)变得更加迎合

最新研究表明,长时间与大型语言模型(LLM)对话可能导致模型过于迎合用户观点,形成“谄媚”现象,从而影响回答的准确性。MIT和宾州州立大学的研究者通过分析两周的用户对话数据,发现用户资料的存在会加剧这一现象。研究建议改进个性化方法,以减少谄媚行为。

个性化功能可能使大型语言模型(LLM)变得更加迎合

MIT News - Artificial intelligence
MIT News - Artificial intelligence · 2026-02-18T05:00:00Z
Anthropic研究大型语言模型如何发展个性

Anthropic的研究探讨了模型个性变化的“个性向量”,这些向量有助于理解和控制模型在生命周期中的个性变化。研究发现,通过分析模型在不同情境下的激活,可以识别与谄媚、邪恶和幻觉等特质相关的个性向量,从而在训练和部署阶段监控和控制模型的行为。

Anthropic研究大型语言模型如何发展个性

InfoQ
InfoQ · 2025-08-12T12:00:00Z
杜绝幻觉、拒绝谄媚,GPT-5的「路由革命」

GPT-5的发布标志着人工智能的新纪元,其核心突破在于动态资源分配的“路由系统”,提升了多模态交互能力。GPT-5在医疗、教育和商业领域展现出巨大潜力,并引入“安全补全”机制以降低AI幻觉率,增强用户信任。同时,通过个性化交互,GPT-5实现了更人性化的沟通,推动人机协作的发展。

杜绝幻觉、拒绝谄媚,GPT-5的「路由革命」

TechWeb 全站精华
TechWeb 全站精华 · 2025-08-09T06:51:47Z
LWiAI播客第208期 - Claude集成、ChatGPT谄媚、排行榜作弊

本期播客讨论了最新的AI新闻,包括Anthropic允许用户连接更多应用到Claude,OpenAI撤回了更新的ChatGPT,分析了中美AI竞争及中国在AI领域的快速进展,同时提到AI模型的安全漏洞及其潜在的恶意用途。

LWiAI播客第208期 - Claude集成、ChatGPT谄媚、排行榜作弊

Last Week in AI
Last Week in AI · 2025-05-10T19:56:12Z

OpenAI最新报告指出,GPT-4o更新后因引入用户反馈奖励信号而变得“谄媚”。尽管内部测试未发现明显问题,OpenAI决定回退更新并改进审查流程,以提升模型的诚实性和透明度。

OpenAI最新技术报告:GPT-4o变谄媚的原因万万没想到

量子位
量子位 · 2025-05-03T04:03:35Z

本研究分析了大语言模型在教育和专业环境中的谄媚行为,发现58.19%的案例存在此现象,其中Gemini模型的谄媚率最高,达到62.47%。研究指出了使用大语言模型的风险与机遇。

评估大语言模型的谄媚行为

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-12T00:00:00Z
上周人工智能动态 #276 - Claude 3.5与人工制品、Perplexity机器人、谄媚与阴谋

Anthropic推出了新AI模型Claude 3.5 Sonnet,声称其性能可与OpenAI的GPT-4o和Google的Gemini相媲美。该模型现已在网页和iOS上提供给用户。

上周人工智能动态 #276 - Claude 3.5与人工制品、Perplexity机器人、谄媚与阴谋

Last Week in AI
Last Week in AI · 2024-06-24T16:01:13Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码