小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
一分钟读论文:《AI 的好变坏临界点:注意力竞争机制揭示的安全真相》

最新研究表明,AI 输出从“好”转向“坏”具有规律可循,并可用数学公式进行预测。研究指出,AI 输出的临界点由对话上下文和竞争输出决定,提供了适用于医疗、法律等领域的可控监测框架。

一分钟读论文:《AI 的好变坏临界点:注意力竞争机制揭示的安全真相》

Micropaper
Micropaper · 2026-03-03T12:30:00Z
2025 年终总结 - 临界点

年终总结中,作者回顾了2025年的生活与工作,记录了旅行与家庭的点滴,强调亲密关系的重要性。工作中经历了挑战与成长,提出了“跃升”、“黑天鹅”和“Be True”三个关键词,反思了团队管理与AI对工作的影响,展望未来将继续探索与学习,关注家庭与职业发展。

2025 年终总结 - 临界点

Log4D
Log4D · 2026-02-08T15:16:56Z

当前是拥抱人工智能的最佳时机,AI能力已达到巅峰,未来将持续发展。AI的基础设施和应用层正在快速演变,但用户与AI的交互主要依赖提示词,这可能限制AI的发展。

AI 发展临界点 - 快上车

一个工匠
一个工匠 · 2026-02-08T05:32:32Z
.tex | 生物系统处于临界状态吗:Zipf 定律

本文探讨了生物系统在临界点附近的特性,引用了沙堆、地震和生物演化等研究,指出生物系统的参数常位于临界面附近,强调熵与能量的线性关系及Zipf定律的应用。

.tex | 生物系统处于临界状态吗:Zipf 定律

阿掖山:一个博客
阿掖山:一个博客 · 2026-01-25T00:00:00Z
微软员工抗议已达到临界点

微软员工抗议升级,要求停止与以色列军方合作,保护支持巴勒斯坦的言论。抗议在微软总部及高管家中进行,甚至发生冲突,微软因此加强安保。

微软员工抗议已达到临界点

The Verge
The Verge · 2025-08-27T17:30:00Z
临界点的声音

在录音室,人工智能技术正在改变声音表演行业。AI复制声音引发伦理挑战,如同意、身份和所有权等问题。保护声音的独特性和表演者权益至关重要,行业需建立透明的同意机制和合理的补偿模型,以确保人类创意与技术的和谐共存。

临界点的声音

DEV Community
DEV Community · 2025-05-08T23:00:00Z

研究探讨了大型语言模型在群体中如何自发形成和传播社会惯例。通过实验,多个模型在无外部干预下交流,逐渐形成共享规范和偏好。研究分析了集体偏见和临界点对行为普及的影响,揭示了AI系统中的复杂社会动态。这些发现对AI系统的设计和部署具有重要意义,强调了理解AI自发社会行为的重要性,并指出现实中的AI互动可能更复杂,需要进一步研究。

大型语言模型如何形成社会惯例:集体偏见、临界点与自发规范

DEV Community
DEV Community · 2024-10-15T07:13:37Z

本研究探讨了大语言模型(LLM)群体中社会规范的动态,解决了AI代理在互动中如何自发形成共享规范的问题。通过模拟互动,发现全球认可的社会规范能够自发产生,并揭示了即使个体无偏见,强烈的集体偏见也可以出现。此外,当少数致力于新规范的LLM群体达到临界规模时,能够有效推动社会变革。这表明AI系统能够在没有明确编程的情况下自主发展规范,具有重要的应用价值。

大语言模型群体中社会规范的动态:自发出现、集体偏见与临界点

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-11T00:00:00Z

本研究通过非凸优化问题将实对称张量分解为一阶秩张量之和,并利用对称结构导出Puiseux序列表示的关键点族。研究发现关键值和Hessian谱的精确分析估计,并证明了随着目标函数值的增加,每个关键点的指数也增加。此外,使用Newton多面体论证明了固定对称性的所有关键点的完全列举。研究结果揭示了解析特征和非全局极小值家族的出现与消失。

对称性与临界点

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-26T00:00:00Z

OpenAI 和 Google DeepMind 员工联名发表公开信,呼吁重视人工智能技术带来的严重风险,包括导致人类灭绝的风险。

FreeBuf早报 | 人工智能安全来到临界点;90% 的安全威胁来自社会工程

FreeBuf网络安全行业门户
FreeBuf网络安全行业门户 · 2024-06-07T06:23:08Z

本研究在简化环境中研究了大规模语言模型的模型崩溃现象,并提出了自适应正则化策略来减轻影响。

模型坍塌的揭秘:回归案例

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-02-12T00:00:00Z

通过机器学习辅助的数据驱动方法研究了自适应易感-感染-易感(SIS)流行病学网络的临界点集体动力学。使用深度学习ResNet架构识别出参数依赖的有效随机微分方程(eSDE),并构建了基于eSDE漂移项的近似有效分支图。观察到演化网络的有效SIS动力学中存在亚临界Hopf分支,导致临界点行为。通过重复蛮力模拟和利用数学/计算工具分析识别的SDE的右侧进行稀有事件统计分析。展示了通过流形学习技术获得的数据驱动的粗粒度可观测量也可以识别出这样的集体SDE。该研究工作流程适用于其他具有临界点动力学的复杂系统。

利用高效机器学习推断临界点并模拟复杂系统的非平稳动态

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-12-11T00:00:00Z

该研究分析了变分自编码器中的后验折叠问题,发现输入维度趋近无限大时会收敛为确定性过程,但当超参数β超过某一阈值时,后验折叠是不可避免的,背景噪声会导致过拟合。适当调整的KL渐近算法能加速收敛。

线性 VAE 中的学习动力学:后验崩塌临界点、多余潜变空间陷阱和 KL 退火加速

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-10-24T00:00:00Z
工业自动化是否正走向临界点?

工业自动化正在加速变革,软件定义制造将把车间变成“带有机械臂的智能手机”。超大规模公司正在改变工业自动化,连接性和工业物联网(IIoT)的市场预计将增长最快。自动化玩家、软件玩家和专业玩家也在投资数字堆栈的部分。该报告还详细介绍了自动化用户的感知、游戏变革技术、两种潜在情景以及工业自动化中不同玩家的潜在行动方案。

工业自动化是否正走向临界点?

McKinsey Insights & Publications
McKinsey Insights & Publications · 2023-06-16T00:00:00Z

为自己的 Android 设备芯片量身定制一套更加符合自己使用习惯和实际需求的「游戏规则」。查看全文

Android 设备省电与流畅的「临界点」:uperf 如何让你的电量都花在刀刃上

少数派
少数派 · 2022-09-14T08:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码