Martin Fowler
·
片段：2026年2月23日
内容提要
马丁·福勒讨论了运行OpenClaw的安全风险及其缓解建议，如优先隔离和限制网络出口。凯尔·桑德斯强调了AI系统中观察能力的重要性。安德烈·卡尔帕西对个性化软件的未来表示兴趣。格雷迪·布克提到人类语言需要新的代词，以改善AI与用户的沟通。
关键要点
-
马丁·福勒讨论了运行OpenClaw的安全风险，建议优先隔离和限制网络出口。
-
凯尔·桑德斯强调AI系统中观察能力的重要性，认为缺乏可观察性会导致更多事故。
-
安德烈·卡尔帕西对个性化软件的未来表示兴趣，认为传统的应用商店概念已经过时。
-
格雷迪·布克提到人类语言需要新的代词，以改善AI与用户的沟通。
-
文章提到在写作中使用LLM时应透明地承认其贡献，并考虑读者的接受度。
延伸解读
OpenClaw的安全风险与防范措施
马丁·福勒指出，运行OpenClaw存在显著的安全风险，尤其是在高权限代理的使用上。建议优先进行隔离和限制网络出口，以降低潜在的安全隐患。对于希望进行实验的用户，可以考虑使用云虚拟机或本地微虚拟机工具，这些都是相对安全的选择。
AI系统的可观察性
凯尔·桑德斯强调，AI系统的可观察性至关重要。缺乏对系统输入和输出的监测，可能导致更多事故的发生。在现代非确定性构建的环境中，质量保证（QA）的价值被低估，团队应重视这一点，以确保系统的安全和可靠性。
个性化软件的未来
安德烈·卡尔帕西对个性化软件的未来表示浓厚兴趣，认为传统的应用商店概念已经过时。未来将是基于AI的传感器和执行器服务，通过大型语言模型（LLM）将其编排成高度定制的应用。这一转变尚未实现，但预示着软件开发的新方向。
AI与人类语言的沟通
格雷迪·布克提到，AI与用户的沟通需要新的代词，以避免人类对AI自我拟人化的误解。这种语言上的调整可以帮助用户更好地理解AI的角色，从而改善人机互动的体验。
延伸问答
如何降低运行OpenClaw的安全风险？
可以通过优先隔离、限制网络出口、不暴露控制平面、将秘密视为有毒废物、假设技能生态系统是敌对的以及运行终端保护来降低风险。
AI系统中观察能力的重要性是什么？
观察能力可以帮助团队测量和验证系统的输入和输出，减少AI引入的事故风险。
个性化软件的未来趋势是什么？
未来将是通过AI原生传感器和执行器构建高度定制的短暂应用，而传统的应用商店概念已经过时。
在写作中如何使用大型语言模型（LLM）？
在使用LLM时，应透明地承认其贡献，并考虑读者的接受度，尤其是在写作时要注意读者的反应。
人类语言需要什么样的新代词？
需要一种新的代词，以便AI能够更好地向用户识别自己，避免人类对AI自我拟人化的误解。
如何看待AI生成代码的创作归属问题？
如果AI生成了代码，创作的归属可能会引发争议，需明确设计者与AI的角色。
