上周AI动态 #278 - 苹果关注OpenAI董事会席位，OpenAI被曝明文存储聊天记录，Kyutai的Moshi等！
内容提要
苹果任命菲尔·席勒为OpenAI董事会观察员，以整合ChatGPT到其设备中。OpenAI的ChatGPT macOS应用更新加密对话以保护用户隐私。Kyutai开源了Moshi，一个实时本地多模态人工智能模型。
延伸解读
苹果与OpenAI的董事会观察员角色
苹果任命菲尔·席勒为OpenAI董事会观察员，此举旨在将ChatGPT整合到苹果设备中。观察员角色允许苹果参加董事会会议但无投票权，这有助于苹果在AI领域与OpenAI紧密合作，尽管与微软存在潜在竞争。这一安排凸显了苹果在AI战略上的务实态度，既获取技术整合的便利，又避免直接卷入OpenAI的内部治理。
OpenAI聊天记录存储漏洞的启示
OpenAI的ChatGPT macOS应用曾被曝以明文存储用户对话，存在隐私泄露风险。在安全研究人员演示漏洞后，OpenAI迅速更新加密了聊天记录。该事件提醒用户，即使知名AI公司的应用也可能存在安全疏忽，尤其是未使用苹果沙盒保护的应用。用户应关注应用更新，并谨慎分享敏感信息。
Kyutai开源Moshi：实时多模态AI的突破
Kyutai开源了Moshi，一个能同时听和说的实时多模态AI模型，其端到端延迟仅200毫秒，并经过10万次合成对话微调。Moshi能理解和表达情感，处理两个音频流，且有小尺寸版本可在消费级设备运行。开源策略和音频水印技术体现了对透明和负责任开发的承诺，可能推动本地AI应用的创新。
AI代理评估的不足与改进方向
当前AI代理的基准和评估实践存在缺陷，如过于关注准确性，导致代理复杂且成本高昂，且缺乏标准化评估。这阻碍了AI代理在实际应用中的有效性。Anthropic等公司倡导第三方评估，以全面衡量能力和风险。改进评估方法对于确保AI代理可靠、高效地服务于现实场景至关重要。
Q&A
苹果为何任命菲尔·席勒为OpenAI董事会观察员？
苹果任命菲尔·席勒为OpenAI董事会观察员，以整合ChatGPT到其设备中，强调其在人工智能领域的战略合作。
OpenAI的ChatGPT macOS应用更新了什么以保护用户隐私？
OpenAI的ChatGPT macOS应用更新了加密用户对话，以保护用户隐私，防止聊天记录被恶意访问。
Kyutai的Moshi模型有什么特点？
Moshi是一个实时本地多模态人工智能模型，能够同时听和说，理解和表达情感，并处理两个音频流。
Moshi模型是如何进行微调的？
Moshi经过100,000次合成对话的微调，具有200毫秒的端到端延迟，优化了其性能。
WhatsApp正在开发什么新功能？
WhatsApp正在开发生成AI功能，允许用户创建个性化头像，结合用户提供的图像和文本提示。
美国情报界对生成AI的态度是什么？
美国情报界正在接受生成AI，但对潜在风险保持谨慎，确保负责任的实施。
