麻省理工学院的助理教授Pat Pataranutaporn及其研究生开发了一种名为“神经透明”的工具，帮助用户在与聊天机器人互动前了解其神经网络的内部行为。这项研究指出，用户在设计个性化AI时常常高估其积极特质而低估潜在风险，呼吁开发更透明的AI工具，以便更好地理解和管理AI行为。

塞巴斯蒂安·马拉比的新书《无限机器》探讨了人工智能的超级智能竞赛及其潜在风险。他指出，未来的机器可能比人类更聪明，具备生存欲望和欺骗能力，因此我们必须认真对待这一挑战。马拉比认为，2028年将是技术进步迅速加速的关键时刻。

Ring的超级碗广告引发了对监控隐私的担忧，节目讨论了监控摄像头的意义及其对安全的影响。同时，AI行业动荡，OpenAI和Anthropic的高管辞职，警告AI的潜在风险。

Redis 创始人 Salvatore Sanfilippo 对 AI 发展进行了反思，提出八个观点。他认为大语言模型（LLM）已超越“随机鹦鹉”的阶段，思维链和强化学习推动了模型能力的提升。程序员对 AI 的态度发生了变化，尽管 LLM 的架构未变，但其能力已显著增强。未来 AI 面临的挑战在于如何避免潜在风险。

文章讨论了新兴减肥药物retatrutide（GLP-3）的市场现状，指出其尚未获得FDA批准，且许多网红在推广时未提及潜在风险。购买渠道缺乏监管，可能导致副作用和安全隐患，医生对此表示担忧，呼吁谨慎使用。

教皇利奥十四世与AGI研究者约翰-克拉克·莱文会面，旨在引起教廷对AGI潜在风险的关注。莱文组建了“AI复仇者”团队，推动教廷认真考虑AGI影响。尽管教廷对新技术反应缓慢，利奥已将AI视为其任期核心议题，并计划发布相关通谕。莱文希望教廷能启动正式的AGI科学咨询，以应对这一迅速发展的技术。

超过200位前国家元首、诺贝尔奖得主和AI专家呼吁制定国际AI“红线”协议，以防止AI冒充人类或自我复制。该倡议旨在2026年前达成全球共识，避免潜在的不可逆风险。专家强调，AI发展应在安全框架内进行，以确保经济发展与安全并存。

山姆·奥特曼在采访中谈到GPT-5的发布，强调AI人格化趋势及其对用户的影响。他指出，尽管GPT-5在解决复杂科技问题上更强，但用户对GPT-4o的怀念源于其个性化交流。未来AI将具备自我学习能力，推动医疗等领域的发展。奥特曼认为年轻人将适应新职业，但需谨慎对待AI的潜在风险。

深度伪造技术正在迅速发展，Captions公司的CEO Gaurav Misra表示，当前的深度伪造视频越来越逼真，令人担忧。他对AI的长期影响持乐观态度，但对深度伪造的潜在风险感到不安，强调未来的技术可能更加难以辨别。

OpenAI 联合创始人 Ilya Sutskever 指出，人工智能发展放缓，单靠规模化模型难以提升性能。尽管媒体关注这一趋势，OpenAI 新模型 o3 在多个技术基准上取得突破，显示出隐形进步。AI 在科研和编程领域的能力显著提升，但公众对此知之甚少，可能导致对 AI 发展的忽视，增加潜在风险。

AI风险管理是识别、减轻和解决与AI技术相关的潜在风险的过程，包括工具、实践和原则，强调部署正式的AI风险管理框架。其目标是最大限度减少AI的负面影响，最大化其益处。AI风险管理是AI治理的一部分，专注于识别和解决潜在威胁，确保AI系统安全。框架包括NIST AI风险管理框架、EU AI法案、ISO/IEC标准和美国AI行政命令。有助于增强安全性、改善决策、确保合规性、提高业务连续性、增加信任和透明度，并进行持续测试、验证和监控。