小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
Meta任命保守派活动家为AI偏见顾问,因诉讼而生

保守活动家Robby Starbuck将担任Meta顾问,协助解决公司AI聊天机器人的意识形态和政治偏见问题。此决定源于Starbuck对Meta的诉讼,指控其AI错误地将他与国会大厦骚乱联系在一起。Meta表示,自与Starbuck合作以来,AI准确性已有显著提升。

Meta任命保守派活动家为AI偏见顾问,因诉讼而生

The Verge
The Verge · 2025-08-11T17:04:37Z

本研究探讨大型语言模型中的政治偏见,提出基于政治科学理论的测量方法。分析了88,110个响应,发现指令调优模型通常偏向左翼,并且测量存在不稳定性问题。

Slightly to the Left: The Application of Theory-Based Political Bias Measurement in Large Language Models

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-03-20T00:00:00Z

本研究探讨了大型语言模型(LLMs)在政治偏见分析中的局限性,特别是角色提示对其政治导向的影响。通过合成角色和政治坐标测试,发现模型对不同意识形态的响应存在偏见不对称性。

Mapping and Influencing the Political Ideology of Large Language Models using Synthetic Personas

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-12-19T00:00:00Z

本研究探讨大型语言模型在生成德国公众意见时的算法忠诚度。结果显示,Llama模型在反映德国内部亚群体意见方面表现优于其他模型,尤其在意见多样性较低时,对左翼党派支持者的意见更为准确。这提示需减少政治偏见,以提高公众意见建模的多样性。

Algorithmic Fidelity of Large Language Models in Generating Synthetic German Public Opinions: A Case Study

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-12-17T00:00:00Z
研究:某些语言奖励模型表现出政治偏见

大型语言模型(LLMs)在生成AI应用中迅速发展,但常表现出政治偏见。麻省理工学院的研究发现,即使使用“真实”数据,奖励模型仍显示左倾偏见,尤其在气候和劳动等话题上。这表明实现真实与无偏见模型之间存在矛盾,未来研究需探讨解决方案。

研究:某些语言奖励模型表现出政治偏见

MIT News - Artificial intelligence
MIT News - Artificial intelligence · 2024-12-10T20:20:00Z

该研究提出了一种新颖的语义传播图神经网络(SProp GNN),旨在解决情感分析中的政治和性别偏见问题。该模型利用句法结构和情感线索进行情感预测,表现优于传统方法,并增强了可解释性。

无偏见情感分析

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-19T00:00:00Z

本文探讨了新闻文章中的政治偏见检测,提出了多头分层注意力模型和知识注入的深度学习模型,以提高政治倾向预测的准确性。研究显示现有模型受政治偏见影响,并提出了减轻不公平的未来方向,同时开发了BiasScanner应用程序,帮助用户识别新闻中的偏见。

平衡透明度与准确性:基于规则与深度学习模型在政治偏见分类中的比较分析

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-11-07T00:00:00Z

本研究分析了ChatGPT的政治偏见和个性特征,比较了GPT-3.5与GPT-4的表现。结果显示,两者均存在进步主义和自由主义偏见,但GPT-4的偏见有所减弱,且更擅长模仿政治观点。

GPT-4的政治偏见是否比GPT-3.5更少?对ChatGPT政治偏见的再调查

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-28T00:00:00Z

本文探讨了大规模语言模型(LLMs)的崛起及其带来的伦理和社会挑战,提出了三层审计方法以评估LLMs的风险。研究指出,LLMs在处理政治偏见时存在系统性问题,尤其在政治内容分析中表现出明显偏见。强调建立标准化评估指标的重要性,以确保人工智能系统的公平性和责任感。

PRISM:审计大型语言模型偏差的方法论

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-24T00:00:00Z

本研究探讨了通过长期网络互动评估新闻源的事实报道和政治偏见,提出了一种扩展的媒体可靠性估计方法,利用强化学习策略在新闻媒体超链接图上进行分类,显示出显著提升。研究表明,分析媒体链接互动可以有效描绘媒体环境的演变。

Mapping the Media Landscape: Predicting Factual Reporting and Political Bias Through Web Interactions

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-23T00:00:00Z

本文探讨了大型语言模型(LLMs)在政治辩论和社交媒体分析中的应用,强调其在预测政治偏见和评估辩手表现方面的有效性。研究发现,LLMs在捕捉情绪和道德细微差别上表现良好,但在立场检测上存在挑战,并显示出固有的社会偏见,需进一步研究以改善其模拟人类互动的能力。

LLM-POTUS评分:利用大型语言模型分析总统辩论的框架

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-12T00:00:00Z

本文研究了利用CompRes数据集进行新闻叙述结构的自动检测,提出了新的故事要素和分析框架,并通过有监督模型训练实现了高达0.7的F1得分。研究还探讨了政治实体在事件中的内在议程,提出了描述新闻类型的非离散框架,并总结了900多篇相关研究的趋势与挑战。此外,利用大型语言模型分析文本结构与框架信息的提取,揭示了政治偏见的检测及其影响。

利用大语言模型和叙事结构文本嵌入映射新闻叙事

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-10T00:00:00Z

本文探讨了大型语言模型(LLMs)中的政治偏见,提出了度量标准和减轻偏见的方法。研究发现,LLMs在生成文本时常表现出左倾观点,且其偏见与训练数据密切相关。通过案例研究,分析了模型在政治立场分类中的表现差异,强调了对LLMs进行严格评估的重要性,以确保其在政治敏感环境中的应用公平性。

语言模型中真相与政治偏见的关系研究

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-09T00:00:00Z

本文探讨了大型语言模型(LLMs)中的政治偏见,并提出了减轻偏见的方法和框架。研究发现,GPT-2等模型在处理政治问题时存在显著偏见,尤其在不同模型中表现出不同的情感和态度。通过实证实验,强调了对LLMs进行严格评估的重要性,以确保其在政治敏感环境中的应用公平性和完整性。

通过输出语言变异识别GPT模型中的意识形态偏见来源

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-09-09T00:00:00Z

本研究探讨了大型语言模型(LLMs)中的社会和政治偏见,发现这些模型在处理政治性任务时存在显著偏见,尤其在情感和道德细微差别方面。研究提出了减轻偏见的方法,并强调了对LLMs进行严格评估的重要性,以确保其在社会应用中的公平性。

大型语言模型作为标注者的偏见:政党提示对标注决策的影响

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-28T00:00:00Z

本研究探讨了大型语言模型(LLMs)在生成虚假信息和谣言检测中的应用,提出了“以毒攻毒”策略,利用LLMs对抗虚假信息。研究发现,LLMs在生成内容时对情感提示敏感,但在识别假新闻方面存在局限性。同时,评估了LLMs在政治偏见和社会影响中的角色,强调了对其进行严格评估的重要性。

大型语言模型能持续生成高质量选举虚假信息内容

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-13T00:00:00Z

本研究评估了大型语言模型(LLMs)在政治问题上的偏见,发现较大模型倾向于左翼观点,而小模型较为中立。研究强调了对LLMs进行严格评估的重要性,以确保其在社会应用中的公平性。模型在处理政治表态时表现出阿谀奉承倾向,可能放大误导信息,需谨慎使用。

GermanPartiesQA:商用大型语言模型在政治偏见和奉迎方面的基准测试

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-25T00:00:00Z

该论文提出了一种自动化流程,用于抓取和检测大学报纸档案中的偏见,生成了包含23,154个条目的数据集。通过比较语言模型摘要与原文情绪,计算偏见。研究发现现有自动模型在偏见检测上能力不足,需改进。提出的DocNet模型在资源有限环境中表现优越,能有效检测政治偏见。未来研究应整合最新机器学习进展,提升偏见评估策略。

BiasScanner:自动检测和分类新闻偏见以加强民主

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-15T00:00:00Z

本文探讨了大型语言模型(LLMs)在调查中的应用,包括缺失数据插补和预测。研究表明,LLMs在个体偏好预测中表现良好,但在整体偏好预测和零-shot任务中存在局限。模型在捕捉公众态度变化方面具有潜力,但也显示出政治偏见和对特定群体观点的低估,强调了对LLMs的评估和偏差处理的重要性。

用语言模型估计德国公众舆论

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-07-11T00:00:00Z

本研究评估了大型语言模型(LLMs)在政治问题上的偏见,发现较大模型倾向于左翼观点,而较小模型则较为中立。研究强调了对LLMs进行严格评估的重要性,以确保其在社会应用中的公平性,并提出了衡量政治偏见的框架。

以多样的政治观点对齐大型语言模型

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-20T00:00:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码