OpenAI推出了ChatGPT的锁定模式，以提高用户安全性。该模式阻止AI联网处理数据，但无法完全防止恶意提示词攻击。用户可以主动开启此模式，但会限制部分功能，如网页浏览和图片支持。最佳安全实践是避免向AI发送敏感数据。

本文讨论了设计安全的AI支持代理，采用优先升级的设计模式。通过实例展示如何处理敏感支持请求，确保在生成回答前进行风险评估和人工升级。强调结构分离的重要性，避免让语言模型决定升级，并介绍共识验证机制以确保回答准确性。最后分享了在比赛中的挑战和改进建议，强调在高风险领域中，AI代理设计应优先考虑用户安全。

谷歌在I/O开发者大会上发布了两个新AI模型：Gemini 3.5 Flash和Gemini Omni Flash。Gemini 3.5 Flash在多个基准测试中表现优于前代模型，特别是在长时间任务和编码方面。Gemini Omni专注于生成视频，未来将支持图像和音频。谷歌承诺负责任地开发AI，确保用户安全。

视频聊天应用的隐私问题常被忽视，但一旦出现问题，用户决策会受到影响。社交视频平台需在身份认证与用户隐私之间取得平衡，特别是在年龄验证和数据保留方面。企业平台通常保留数据较长，而社交平台应缩短保留时间以降低风险。实时视频管理需结合人工智能与人工审核，确保用户安全。良好的隐私架构能赢得用户信任。

Sora 2模型和应用程序提供先进的视频生成，确保用户安全。用户需获得同意才能上传家庭和朋友的照片。青少年用户受到更严格的保护，过滤不当内容。此外，Sora还提供音频安全保障，用户可控制视频的分享和删除。

谷歌宣布将实施新的Android开发者验证流程，要求开发者提供个人信息。用户在安装未验证应用时需经历一次性24小时等待期，以防诈骗。此流程预计于今年8月生效，开发者对此表示强烈反对，认为此举威胁创新与用户自由。

维基百科因恶意JavaScript攻击暂时进入只读状态，调查发现是工作人员审查代码时意外激活了自2019年存在的休眠恶意代码。维基媒体基金会已移除该代码，确认用户安全，未泄露个人信息。

社交网站X/Twitter禁止KOL发布医药、博彩、减肥等敏感类别的付费推广内容，违规将面临封号。KOL需标记付费推广，未标记则视为违规。此举旨在保护用户安全，官方广告平台仍可投放此类广告。

布莱恩·博兰在Meta工作超过十年，指出公司优先考虑用户增长和利润，忽视用户安全。他认为扎克伯格推动了这种文化，导致算法追求参与度而非道德。博兰自称“吹哨人”，在法庭上表示Meta在处理安全问题时更关注媒体反应而非深入理解。他于2020年离职，尽管放弃了价值超过1000万美元的股票，仍感到发声困难。

随着AI系统承担更复杂的任务，提示注入攻击的风险增加。为此，OpenAI推出了“锁定模式”和“提升风险”标签，以增强用户安全。锁定模式为高风险用户提供额外保护，限制与外部系统的交互，防止敏感数据泄露；而提升风险标签则帮助用户识别潜在风险，确保安全使用。

1Password推出了一项新的钓鱼防护功能，当用户访问可疑网站时会发出警告。该功能在用户点击与保存的登录信息不匹配的网站时，浏览器扩展不会自动填写登录凭据，并显示警告提示。此功能旨在提高用户警惕性，减少钓鱼攻击风险，个人和家庭用户默认启用，企业用户需由管理员手动启用。

谷歌将允许经验丰富的用户从未验证的开发者处安装Android应用，尽管仍需开发者身份验证。此计划旨在保护用户安全，同时满足用户对风险的需求。开发者验证计划将于2026年在部分国家推出，2027年全球实施。此外，谷歌与Epic达成协议，可能降低开发者费用并放宽支付规则。

Tab Zen Chrome扩展的隐私政策说明，该扩展不收集、存储或处理用户的个人数据，不跟踪用户活动，也不使用分析工具或Cookies，确保用户隐私和安全。