AI模型价格从70万打到1.5万，开源社区是把大厂当韭菜割了吗？ 80%的模型体积被削掉，智商居然还保留82%。一群民间高手在Discord里把7530亿参数的顶级大模型塞进了不到2万块的显卡里，他们到底对模型干了什么？ 模型体积与内存带宽构成第一道成本高墙...

大型语言模型（LLM）在自主解决现实任务中越来越重要，尤其是在函数调用方面。错误的函数调用可能导致严重后果，因此评估LLM对函数调用正确性的信心至关重要。本文首次探讨了不确定性量化（UQ）方法在LLM函数调用中的应用，结果显示多样本UQ方法在此场景中并未显著优于单样本方法。通过聚类输出和选择语义相关的标记，可以提升现有UQ方法的性能。

具身智能行业正在分化，量化派专注于物理世界基础模型，推动机器人在不同场景的复用。政策要求机器人在现有条件下工作，量化派已在餐饮后厨完成多项技术验证，展示了其自主作业能力。其商业模式为“卖能力”，通过物理模型支持RaaS模式，降低边际成本。未来，数据积累和技术能力将决定其商业价值。

量化是通过降低数值精度来缩小AI模型，以提高速度和减少内存使用，尤其在模型瓶颈时效果显著。结合语义缓存，Redis可以加速AI应用，提升性能并减少API调用。

文章讨论了大型语言模型在信息检索中的发展历程。从最初效果不佳的向量数据库方法，到结合人类信息检索经验的混合搜索和机器学习排名，检索效果显著提升。当前，随着Perplexity推出“代码搜索”，搜索方式正在向更高阶段演进。文章强调，智能代理应具备更复杂的搜索能力，以提高检索结果的质量。

Qdrant 1.18版本推出了TurboQuant量化方法，提供更高的压缩比和相似的召回率。新增内存监控功能，支持查看各组件的内存使用情况。用户可以在现有集合中添加和移除命名向量，简化模型迁移。同时，审计日志功能得到改进，增加了查询日志的API和请求追踪ID支持，提升了安全性和调试效率。

本文介绍了Ollama大模型的量化技术，旨在降低模型对硬件资源的消耗，使其在普通电脑上流畅运行。量化通过降低参数精度，显著减少显存和内存占用，同时提升计算速度。文章详细说明了量化的原理、实操方法及不同量化级别的选择，适合新手快速上手。

本文介绍了如何在Ollama中使用Modelfile自定义量化模型。Modelfile是模型配置文件，定义模型来源、推理参数和对话模板。用户需准备GGUF格式的模型文件，并选择量化级别。文章详细说明了Modelfile的基本语法和指令，包括推理参数、对话格式和系统提示词的设置，并提供了创建和运行模型的实战案例及常见问题解决方案。

Kronos是一个开源量化模型，通过将K线数据语言化，改变了传统量化交易的思维方式。它将价格视为市场语言，利用tokenizer和Transformer模型提升市场分析能力。Kronos支持多资产并行预测，并具备微调能力，适应不同市场需求。尽管工具强大，用户仍需具备策略设计和风险管理能力，Kronos主要是帮助理解市场的工具。

本文提出IQ-LUT方法，通过插值、非均匀量化和残差学习，解决查找表超分辨率技术的存储膨胀问题。该方法在小模型下实现高质量超分辨率，尤其在复杂纹理和边缘区域表现优异。实验结果表明，IQ-LUT在多个基准数据集上优于现有方法，展现出良好的性能与效率平衡。

本文提出了一种名为DeepHQ的渐进式图像压缩方法，通过学习量化步长提升压缩效率，并引入选择性压缩，仅编码必要的特征，显著减少模型参数和解码时间。

本文介绍了构建AI原生量化投资系统的方法，强调通过领域特定语言（DSL）帮助用户理解投资策略，而非单纯依赖AI决策。系统设计注重透明的策略结构，以增强用户在市场波动时的信任，避免情绪化决策。关键设计要素包括生成空间的约束、文档与执行的一致性，以及确定性与概率性的分离，以提升用户的理解和信任。