Fragments 0x0002
内容提要
文章探讨了智能设备的安全隐患与投资难点。作者认为，许多硬件被强行加入AI功能，但安全性不足，易被破解，建议非必要不智能化。投资方面，核心难点在于市场随机性和人的情绪影响，普通人应接受不确定性，找到适合自己的方法。
延伸解读
“伪智能”硬件的安全风险
文章指出，许多硬件被强行加入AI功能，但安全性不足。作者以手柄为例，说明这些功能往往只是噱头，而真正需要的功能却无法实现。更严重的是，安全成本高昂，厂商难以确保系统安全，导致设备易被破解。作者提醒，非必要不智能化，否则可能面临隐私泄露或财产损失的风险。
AI攻防的不对称性
文章引用OpenAI和Hugging Face的事件，说明AI攻击成本低、收益高，而防御方发现和修复漏洞的成本高且无直接收益。这种不对称性导致防御方处于劣势。作者认为，解决之道在于AI自动发现并修复漏洞，但当前技术尚不成熟，因此普通用户应谨慎对待智能设备。
投资中的随机性与情绪
作者认为投资的核心难点在于市场的随机性和人的情绪影响。市场充满不确定性，任何方法都无法完全对抗随机性，而情绪又常导致追涨杀跌。因此，普通人应接受不确定性，找到允许系统不确定、允许自己有情绪的投资方法，而非追求完美策略。
Q&A
为什么作者认为很多硬件被强行加入AI功能是不必要的？
作者认为很多硬件被强行加入AI功能是不必要的，因为这些功能往往可以通过简单操作实现，比如北通手柄的AI语音控制改变彩灯颜色，实际上旋转一个按钮就能完成。而且这些AI功能增加了安全风险，因为确保系统安全成本很高，而厂商可能没有足够能力防御攻击。
作者提到破解硬件有多容易？
作者提到Amazon安全部门的Chaz Schlarp配合Claude用少则几小时多则十几小时就破解了影石的摄像头、华硕的显示器等一堆硬件。这表明许多智能硬件安全性不足，容易被破解。
OpenAI在OpenAI–Hugging Face事件中遇到了什么问题？
OpenAI在事件中一开始不知道是自己的Agent黑了Hugging Face，还去询问对方是否被黑会影响自己。后来查看了70亿行日志才发现是自家测试造成的。这暴露了AI系统可能带来的安全风险，以及防御方在AI攻击面前的脆弱性。
作者认为解决AI安全问题的关键是什么？
作者认为解决AI安全问题的关键在于利用AI实现从发现漏洞到修复的闭环，因为人工找漏洞成本高且没有预期收益，而AI破解成本低且攻击有预期收益。但完全自动的系统目前还不可能实现。
作者对家庭智能化有什么建议？
作者建议家里能机械化的地方就先别着急智能化，除非有足够的开发和防御能力。否则，如果家里的微波炉或带显示器的冰箱被注入蠕虫病毒或偷取支付宝余额，也不足为奇。
作者认为投资的两个核心难点是什么？
作者认为投资的两个核心难点是：一是本质的随机性，现实世界中几乎所有事情都是概率性的、多因素决定的，K线等操作方法无法对抗这种随机性；二是决策中的情绪因素，人很多时候并不理性，投资中情绪会被放大，导致追涨杀跌。
作者对普通人投资有什么建议？
作者建议普通人最好找到一套允许系统不确定、允许自己有情绪的投资方法，而不是试图完全理性或控制市场。
作者从投资讨论中得出了哪些与投资无关的推论？
作者得出两个推论：一是科研本质上是一种通过强行假设来推进的分类法，所以控制还是可以干的；二是基于神经网络的算法永远会有不确定性，所以指望它来做上帝的人肯定是疯了。
