大模型的发展凸显了推理数据的重要性，优质推理数据集支持复杂推理任务。HyperAI整理了多领域推理数据集，降低了使用门槛，促进科研与模型训练。

本文介绍了一种基于层次记忆的预训练方法，旨在提升小型语言模型的性能。该方法通过访问大型记忆库，有效存储和提取长尾知识，同时保持常识理解。实验结果表明，使用这种记忆增强架构的小模型在性能上可与参数更多的常规模型相媲美，并在资源受限的设备上表现优异。

杨乐坤在访谈中批评大语言模型，认为其智能水平不及狗，因缺乏与物理世界的关联。他提出的抽象世界模型（JEPA）强调抽象、分层、预测和最小消耗，以解决AI的局限性。杨乐坤计划创办AMI公司，专注于开源研究，支持自动驾驶和机器人技术。

摩尔线程上市后募集75亿资金，99%用于理财，引发公众愤怒和广泛批评，质疑其重理财轻研发。尽管有分析认为此举合规合理，但市场情绪和舆论压力依然显著。

达芬奇并非完美，他的成功源于复杂的故事和人们对阴谋论的偏爱。现代社会对偶像的崇拜反映了内心的空虚与不安。我们应承认达芬奇的不完美，以重拾勇气，面对不确定的世界。

许小年指出，经济学界和政策制定者缺乏常识，强调应尊重市场而非国家干预。他认为“常感”比“常识”更为重要，许多人缺乏基于常感的知识。通过历史案例，他说明政策失误源于短视。尽管户晨风学历不高，但在常感方面具有优势，反映出高智商人群常常缺乏常感。

软件开发的本质是解决问题。匈牙利数学家乔治·波利亚提出的思维方法对程序员有帮助，通过明确“未知”、“数据”和“条件”来有效调试和解决问题。他还强调实践和模仿，以提升问题解决能力。

文章讨论了GPU、NPU和TPU等计算单元的特点及其在AI计算中的应用。GPU专注于并行计算，而NPU和TPU则是为特定算法定制的计算单元。文章还提到算力的限制因素，如GPU算力、显存大小和速率。NvLink和NvSwitch技术提升了GPU间的通信效率，解决了大规模计算的瓶颈。英伟达的GH200架构通过整合CPU和GPU，降低了系统间通信延迟，适用于超大规模模型的训练和推理。

JdocQA是一个日本语的VQA数据集，包含四个回答，旨在测试常识，帮助减少LLM的幻觉。研究涉及OCR-VQA等模型和数据集，并通过多种指标进行评估。

人形机器人产业快速发展，受到广泛关注，但技术和市场仍需成熟。尽管部分公司取得进展，整体行业面临技术瓶颈和市场挑战。AGI的最佳载体尚无共识，轮式结构可能更具优势。人形机器人需关注空间智能和决策智能，目前仍在开发和验证阶段，未来应理性看待行业发展。

作者意外进入金融科技领域，发现金融与软件开发的假设常常相悖。金融专业人士重视截止日期，贷款的定义和利率存在许多误解，贷款可由个人或机构发放，利率也不一定固定。金融领域的灵活性和复杂性超出预期，许多常识在实际操作中并不成立。