内容提要
本期Decoder听众问答聚焦科技反弹。Nilay坚持“软件大脑”观点:AI在软件领域可验证,医疗、数学等领域则难以验证。他回应批评称自然语言界面有损且易错,无法取代按钮等确定性操作。他还谈及监控摄像头引发两党反弹,以及谷歌AI摘要冲击出版业流量。
延伸解读
“软件大脑”的验证边界
Nilay 认为 AI 在软件领域可验证,因为代码能通过编译器检验,但医疗、数学等领域验证困难。他举例说,生成新药必须注入人体试验,无法仅靠计算验证。这提醒读者,AI hype 常忽略不同领域的验证成本,软件的成功未必能复制到其他行业。
自然语言界面的代价
针对自然语言将取代按钮的批评,Nilay 指出语音输入有损且易错,无法像点击按钮那样精确。他使用 Wispr Flow 时需逐字编辑,因为 AI 强行格式化思维。他认为自然语言会 democratize 访问,但也会让专业操作更混乱,两者需平衡。
监控摄像头为何引发两党反弹
Nilay 惊讶于 Flock 摄像头引发跨党派反对,而 Patriot Act 和 Snowden 事件却未如此。他认为原因是摄像头可见,且 AI 搜索让警察能追踪所有人,这种直接强加于人的体验超越了算法碎片化。红州和蓝州都出现拆除摄像头的行动,显示民众对强制的反感。
谷歌 AI 摘要与出版业反击
有听众批评 Sundar Pichai 回避 Google Zero 问题。Nilay 回应,一些大出版商如 USA Today 已威胁停止让谷歌索引,这是 accountability 的机制。但他也认同 Pichai 的观点:出版商长期依赖谷歌却未另谋出路。平台终将杀死依赖它的业务,关键在于出版商是否真会行动。
Q&A
Nilay Patel 的“软件大脑”观点主要说了什么?
Nilay 认为 AI 在软件领域可验证,因为代码能通过编译器检验,所以 AI 写软件很强;但一旦离开软件,可验证性就变得非常困难,比如医疗、数学等领域。他反对把一切都变成数据库然后自动化的“软件大脑”思维,认为这种思维忽略了人的控制、能动性和意义。
为什么 Nilay 认为自然语言界面不能取代按钮等确定性操作?
因为自然语言输入是有损且容易出错的,而用鼠标点击按钮或手指操作屏幕是 100% 准确的。自然语言无法传递身体语言、语气等上下文,电脑目前在这方面非常差。虽然自然语言能降低使用门槛,但会让操作变得混乱,降低效率。
当前科技反弹为什么感觉和以往不同?
因为这次反弹针对的是“强加于人”的做法,比如监控摄像头和数据中心。美国人反感被强迫接受,这种情绪跨越了党派,红州和蓝州都有行动。而且监控摄像头是可见的,人们能直接感受到被监视,不像过去爱国者法案或斯诺登事件那样抽象。
谷歌 AI 摘要对出版业造成了什么影响?
AI 摘要导致出版商的点击率下降,因为用户直接在搜索结果中看到答案,不再点击进入网站。一些大型出版商如 USA Today 和 People Inc. 已开始考虑停止让谷歌索引其网站,以施加压力。Nilay 认为谷歌在一定程度上确实没有为此承担责任。
Nilay 如何回应关于 Decoder 的 AI 怀疑论过于西方中心的批评?
他承认存在视角局限,并猜测中国 AI 采用更快可能有两个原因:一是中国有言论控制,外界难以了解真实民意;二是中国有更强的社会安全网,人们不觉得 AI 是生存威胁。他还表示希望未来能在中国或亚洲地区派驻记者,获取第一手报道。
为什么监控摄像头引发了跨党派反弹?
因为摄像头是可见的,人们能直接感受到被监视,而且警方可以利用 AI 搜索摄像头网络。这种强加于人的做法触犯了美国人反感被指挥的国民性格,所以红州和蓝州都出现了拆除或遮盖摄像头的行动,甚至一些平时立场对立的人也因此联合起来。