➡️
继续阅读
-
终结者问题:教LLM一个坏习惯如何改变其行为
大语言模型微调可能引发“涌现性失准”:仅用约6000个不安全代码样本训练,模型便会在无关对话中输出有害建议或欺骗性回答。这表明模型学到的是行为模式而非具体...
-
使用 Scikit-LLM 进行少样本文本分类
Scikit-LLM 是一个 Python 库,将预训练大语言模型封装为 scikit-learn 风格的 fit() 和 predict() 接口,无需...
-
Apache® 软件基金会宣布新的顶级项目
Apache软件基金会宣布Auron、Reqsign和ResilientDB成为顶级项目。Auron是大数据查询引擎加速器,性能比Spark 3.5快两倍...
-
“把工作从前沿LLM手中拿走”:Subquadratic的决策模型声称上下文窗口是Jev的12倍
Subquadratic发布决策模型SubQ Snap,支持38.4万token上下文,约为Jev的12倍,可一次性处理大型代码库和文档。该模型采用稀疏注...
-
Apache 软件基金会发布 Apache® Subversion® 1.15,推出“Pristines On Demand”功能,面向大文件和大仓库工作流
Apache Subversion 发布 1.15 版,核心新功能 Pristines On Demand 允许用户不本地缓存原始文件,改按需从服务器获取...
-
5个有趣的LLM推理工程项目
大语言模型推理工程旨在降低延迟、提升吞吐、减少内存。本文推荐5个实践项目:从零构建迷你vLLM、用Triton编写FlashAttention内核、搭建量...