标签

 llm 

相关的文章：

本列表汇集了关于大语言模型（LLM）的最新研究与应用，涵盖其在学习、信息处理及跨平台技术等领域的潜力与挑战。

项目提供本地部署与在线服务能力，支持通过 OpenAI 兼容接口对外提供推理服务，并包含交互式终端、在线服务与多种示例以便快速上手。• 高性能：通过重用前缀缓存（Radix Cache）、分块预填（Chunked Prefill）、重叠调度（Overlap Scheduling）与张量并行等技术优化吞吐与延迟。• 多场景部署：支持本地 GPU（依赖...

轻量高性能的 LLM 推理框架，试试 Mini-SGLang
dotNET跨平台
dotNET跨平台 ·
LLM的弱点——不能很好的讲笑话？

LLM的弱点——不能很好的讲笑话？
Est's Blog
Est's Blog ·
Weekly Issue-LLM可以提高我的学习速度么？

Weekly Issue-LLM可以提高我的学习速度么？
Yiran's Blog
Yiran's Blog ·
Cactus v1：跨平台移动设备上的零延迟和完全隐私的LLM推理

Cactus v1：跨平台移动设备上的零延迟和完全隐私的LLM推理
InfoQ
InfoQ ·
可解释的AI代理：使用Spring AI捕获LLM工具调用推理

可解释的AI代理：使用Spring AI捕获LLM工具调用推理
Spring
Spring ·
Meta详细介绍了GEM广告模型，采用大规模LLM训练、混合并行和知识转移

Meta详细介绍了GEM广告模型，采用大规模LLM训练、混合并行和知识转移
InfoQ
InfoQ ·
BED-LLM：基于贝叶斯实验设计的LLM智能信息收集

BED-LLM：基于贝叶斯实验设计的LLM智能信息收集
Apple Machine Learning Research
Apple Machine Learning Research ·
高性能LLM应用的五大向量数据库

高性能LLM应用的五大向量数据库
MachineLearningMastery.com
MachineLearningMastery.com ·
Osaurus - 一款兼容OpenAI和Anthropic API的macOS LLM服务器，提供MCP功能…

Osaurus - 一款兼容OpenAI和Anthropic API的macOS LLM服务器，提供MCP功能…
云原生
云原生 ·
TornadoVM 2.0为Java带来自动GPU加速和LLM支持

TornadoVM 2.0为Java带来自动GPU加速和LLM支持
InfoQ
InfoQ ·
不与 LLM 同乐

不与 LLM 同乐
KAIX.IN
KAIX.IN ·

Intel的AutoRound算法已集成至LLM Compressor，支持低位宽量化，提升模型准确性并简化工作流程。该算法优化了多种数据类型的量化，旨在加速推理，未来将扩展支持更多格式和模型，以促进实际部署。

推动LLM的低位宽量化：AutoRound与LLM Compressor的结合
vLLM Blog
vLLM Blog ·
五大开源大型语言模型（LLM）评估平台

五大开源大型语言模型（LLM）评估平台
KDnuggets
KDnuggets ·

LLM强化学习不稳定之谜，被Qwen团队从「一阶近似」视角解开
机器之心
机器之心 ·

两个LLM互相对线，推理能力起飞：康奈尔团队发布大模型版类GAN训练法
机器之心
机器之心 ·
一首诗竟让25款大模型集体“越狱”？成功率飙升8倍，谷歌Gemini Pro 100%沦陷｜Adversarial Poetry、Jailbreak、LLM、AI Safety

一首诗竟让25款大模型集体“越狱”？成功率飙升8倍，谷歌Gemini Pro 100%沦陷｜Adversarial Poetry、Jailbreak、LLM、AI Safety
硕鼠的博客站
硕鼠的博客站 ·
穿越噪音：为LLM驱动的代理提供更智能的上下文管理

穿越噪音：为LLM驱动的代理提供更智能的上下文管理
The JetBrains Blog
The JetBrains Blog ·
DeepTeam - 一个针对大型语言模型和LLM系统的开源红队框架，…

DeepTeam - 一个针对大型语言模型和LLM系统的开源红队框架，…
云原生
云原生 ·
AAAI 2026｜MARS：基于多模态检索和选择增强的对话LLM语音识别

AAAI 2026｜MARS：基于多模态检索和选择增强的对话LLM语音识别
实时互动网
实时互动网 ·

AntSK 是一个基于 .NET 9 和 Blazor 技术栈构建的企业级AI知识库和智能体平台，集成了 Semantic Kernel 和 Kernel Memory，提供完整的AI应用开发解决方案。简化了 .NET 与 Ollama...

精选 8 个基于 .NET 开源、功能强大的 AI 和 LLM 相关项目框架
dotNET跨平台
dotNET跨平台 ·