哈佛-麻省理工健康科学与技术项目的博士生瑞秋·萨瓦获得“计算未来展望奖”,她的获奖作品《超智能,超亲密》探讨了神经植入物监控思想的风险,并强调在技术进入市场时需加强监管。萨瓦的研究受到她在IBM实习经历的启发,呼吁关注技术的社会伦理影响。
艺术院校正在调整课程以适应生成性人工智能(AI)工具,尽管许多学生和教师对此表示反对。学校鼓励学生了解AI的使用及其伦理和法律影响,以应对未来的职业挑战。教育者认为掌握AI工具将帮助学生在行业中保持竞争力。
本研究探讨人类反馈强化学习(RLHF)在生成AI聊天机器人中的伦理与社会技术影响,特别是对语言规范和人际关系的重塑。通过程序性修辞的视角,揭示RLHF增强的语言模型在说服机制中的运作,推动AI伦理研究,关注语言使用和偏见的延续。
本研究探讨了提升大型语言模型在自然语言理解、对话连贯性和情感智能方面的表现。通过优化数据集和模型设计,研究表明这些改进增强了用户体验,并为AI应用开辟了新可能。未来将关注人性化属性的伦理影响及潜在偏见问题。
本研究针对K-12教育中学生人工智能素养不足的问题,建议将基于项目的学习(PBL)AI工具包融入各学科。教师认可AI工具在促进创造力和批判性思维方面的潜力,但对AI生成内容的准确性和伦理影响表示担忧。
本研究探讨用户对大型语言模型(LLMs)虚假回答的偏好,发现大多数用户更倾向于未标记且自信的虚假信息,提示需关注其伦理和实际影响。
研究提出了一种新方法,通过“学生-教师”对抗模型测试AI系统的安全性。学生模型尝试规避教师模型的检测,揭示系统漏洞,类似红队测试。此方法旨在提高AI模型的可靠性,但其可扩展性、效率和伦理影响需进一步研究。
本文探讨了通过强化学习实现人工智能系统的价值对齐,提出了多目标强化主动学习(MORAL)和GALAD代理体系,以提高代理的规范性和安全性。研究评估了大规模语言模型的道德性,并分析了强化学习反馈(RLxF)的局限性,强调了人工智能开发中的伦理和社会影响。
本文探讨了信息论在游戏设计中的应用,利用自动规划代理模拟不同技能水平的玩家,以评估游戏设计缺陷。研究还涉及基于人类决策的数据构建AI引擎,优化游戏特征,并通过机器学习预测玩家行为,强调AI与人类在游戏中的差异及其伦理影响。
研究评估了大型语言模型在临床决策中的社会偏差,发现不同模型间存在偏见,提示设计影响偏差。提出DeLLMa框架以优化决策过程,提升准确率40%。强调需评估模型的道德特性,确保公平医疗,并探讨模型在道德判断中的表现,揭示其与人类偏好的差异,呼吁关注模型的伦理影响。
本文探讨了人工智能在设计和环境中的应用,特别是机器学习如何预测海岸环境变量。研究分析了AI的能力与局限性,提出了设计未来AI系统的重要考虑因素,并讨论了AI与人类互动的伦理和社会影响。通过引入新框架和实践,旨在帮助设计师在技术与人类关切之间取得平衡。
本文研究了大型语言模型(LLMs)在模拟人格特质方面的能力,发现其对个性测试的反应与人类存在系统偏差,影响评估结果。同时探讨了LLMs在社会科学中的应用及其潜在的伦理影响,强调需谨慎使用心理测量工具以确保有效性。
本文探讨智能家教系统中的个性化,认为个性化问题问法能提升学生学习成果。研究显示,利用大型语言模型(LLM)模拟学生行为,分析学习与测试问题的关系,支持更具适应性的课程设计。同时,研究量化LLM输出中的人格特质及其伦理影响,强调个性化对话模型的优势。
多项研究综述指出,用心理测量测试评估大语言模型人格的可靠性存疑:模型常同时肯定正反向题目,与人类反应存在系统偏差,轻微扰动即显著降低问答一致性。模型普遍表现为高开放性、低外向性,参数越多越开放尽责,并可通过提示动态切换人格类型。研究强调需改进测试方法、审慎解释结果并关注伦理影响。
本文综述多项研究,探讨大语言模型的人格特质。研究发现,GPT、BERT等模型可通过语境控制人格表现,普遍呈现高开放性、低外向性,参数越多越开放尽责。研究者提出人格对齐、个性编辑及无监督词典调整等方法,并关注其伦理影响与负责任使用。
本文综述多项研究,探讨用心理测量测试评估大语言模型人格特质的可靠性。研究发现,LLM对人格测试的反应与人类存在系统偏差,常同时肯定正反向题目,提示词变化也不符合人类五因素结构。研究还尝试通过词典调整、角色扮演等方法操控模型个性,并指出从数字足迹推断人格存在偏差,强调应关注测试有效性及伦理影响。
完成下面两步后,将自动完成登录并继续当前操作。