小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
沉浸式翻译 immersive translate
LM Studio为AI命令打造了裁判。随后,裁判开始认同被告。

LM Studio为AI编程助手Bionic开发了Shell Judge安全层,通过解析命令语法树和跟踪变量来评估命令风险,拦截危险操作,如git diff被变量篡改。它覆盖11,651个测试案例,处理工具参数差异。未通过的命令交由Shell Reviewer在对话上下文中评分,但仍有盲点,如假设可执行文件未被篡改,且提示注入风险存在。

LM Studio为AI命令打造了裁判。随后,裁判开始认同被告。

The New Stack The New Stack · 2026-08-28T18:31:38Z

一直以来,交叉熵(Cross Entropy)都是LLM预训练和微调的标准损失函数。那这个“标准”可以改吗?如果想改,那又有哪些选择呢?改完之后又会带来什么影响呢?可能很多读者从未认真推敲过这些...

除了交叉熵,LM Loss还有什么选择?

科学空间|Scientific Spaces 科学空间|Scientific Spaces · 2026-08-09T09:18:00Z
Ollama vs. LM Studio vs. llama.cpp:2026年你应该使用哪个本地AI运行时?

本文比较了Ollama、LM Studio和llama.cpp三种本地AI运行时。LM Studio适合初学者,提供图形界面和可视化量化控制;Ollama适合开发者,提供简洁CLI和API集成;llama.cpp适合追求极致控制的生产工程师,支持手动量化。三者共享同一推理引擎,用户可按需从LM Studio迁移至Ollama再至llama.cpp。

Ollama vs. LM Studio vs. llama.cpp:2026年你应该使用哪个本地AI运行时?

MachineLearningMastery.com MachineLearningMastery.com · 2026-07-29T12:00:13Z
使用 lm-evaluation-harness 评估 Amazon Bedrock 模型:以 HumanEval 为例

本文介绍在Amazon Bedrock上使用lm-evaluation-harness框架评估LLM编程能力的方法,以HumanEval基准测试为例。通过LiteLLM适配层集成,对GPT-5.6 Sol、Claude Opus 4.8和Claude Sonnet 5进行测试,三者pass@1均达97-98%。同时利用Bedrock Prompt Caching技术,在批量评估中实现84%以上的输入token成本节省,并支持配置扫描优化参数。

使用 lm-evaluation-harness 评估 Amazon Bedrock 模型:以 HumanEval 为例

亚马逊AWS官方博客 亚马逊AWS官方博客 · 2026-07-24T09:40:53Z
本地模型终于能打了:Gemma+LM Studio+Pi智能体实战笔记

本文探讨了本地AI模型在编程辅助和智能体工作流中的应用,使用Gemma-4-12b-qat模型,结合LM Studio和Pi框架,在Docker中构建开发环境。记录了本地模型从不可用到基本可用的演变,并提供了具体的配置和部署方案。

本地模型终于能打了:Gemma+LM Studio+Pi智能体实战笔记

极道 极道 · 2026-06-16T22:01:00Z

本文探讨了大模型训练中的开源框架,包括Megatron-LM、DeepSpeed和FSDP2。Megatron-LM专注于张量并行,适合超大模型;DeepSpeed通过ZeRO优化显存使用,易于集成;FSDP2提供简洁的API,支持与其他并行策略结合。文章分析了不同框架的优缺点及适用场景,帮助工程师选择合适的训练框架。

【大模型基础设施工程】07:Megatron-LM 与 DeepSpeed

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-04-22T00:00:00Z
在Windows通过LM Studio使用Zotero MCP

本文介绍如何在Windows上安装和配置Zotero MCP,以便本地使用大语言模型。需要安装Zotero、LM Studio和Python,并启用Zotero本地API。安装Zotero MCP后,需配置LM Studio以支持本地全文检索,最后通过LM Studio加载模型并进行测试。

在Windows通过LM Studio使用Zotero MCP

山月 山月 · 2026-02-02T13:48:53Z

微软成功拦截AI生成的钓鱼攻击,NVIDIA修复高危漏洞,Linux内核曝出HID漏洞,思科修复零日漏洞,毒蛇组织运营恶意广告网络,LNK攻击绕过Windows安全,恶意Rust组件窃取加密货币密钥,PyPI维护者遭钓鱼攻击,GitLab修复DoS漏洞,朝鲜黑客针对加密货币开发者。

FreeBuf早报 | AI对抗AI:微软拦截LLM网络钓鱼攻击;NVIDIA修复Megatron-LM高危漏洞

FreeBuf网络安全行业门户 FreeBuf网络安全行业门户 · 2025-09-26T05:27:04Z

NVIDIA发布安全更新,修复Megatron-LM中的四个高危漏洞,CVSS评分为7.8,可能导致代码执行和数据篡改。受影响版本为0.13.1及以下,建议用户立即更新。

NVIDIA修复Megatron-LM AI框架中的高危代码注入漏洞

FreeBuf网络安全行业门户 FreeBuf网络安全行业门户 · 2025-09-25T16:12:36Z
LM Studio 0.3.17 增加了对工具集成的语言模型(LLMs)支持的模型上下文协议(MCP)

LM Studio发布0.3.17版本,支持模型上下文协议(MCP),允许语言模型访问外部工具和数据源。用户可通过配置文件或一键集成添加MCP服务器,强调安全性并可确认工具调用。MCP服务器可访问Hugging Face API,增强本地模型功能。社区对此项目表现出兴趣,但部分用户报告早期问题。

LM Studio 0.3.17 增加了对工具集成的语言模型(LLMs)支持的模型上下文协议(MCP)

InfoQ InfoQ · 2025-07-05T13:30:00Z
TiC-LM:一个用于时间连续大型语言模型预训练的网络规模基准

本文探讨了如何评估和更新大型语言模型(LLMs),以解决历史数据过时的问题。我们引入了基于114个Common Crawl数据集的时间连续预训练数据集,并设计了时间分层评估方法。研究表明,自回归元调度结合固定比例的旧数据重放,可以在计算上显著节省,同时保持与从头训练相当的效果。不同领域对新旧数据的平衡需求各不相同。

TiC-LM:一个用于时间连续大型语言模型预训练的网络规模基准

Apple Machine Learning Research Apple Machine Learning Research · 2025-06-30T00:00:00Z

NVIDIA 宣布其开源语言模型框架 Megatron-LM 存在两个高危漏洞(CVE-2025-23264 和 CVE-2025-23265),CVSS 评分为 7.8,可能导致远程代码执行和数据篡改。漏洞源于 Python 组件处理不当,影响 0.12.0 之前版本,已在 0.12.1 中修复。

NVIDIA Megatron-LM 存在双重注入风险:v0.12.1 版本修复代码执行漏洞

FreeBuf网络安全行业门户 FreeBuf网络安全行业门户 · 2025-06-24T17:53:37Z
如何在本地安装Meta Perception LM 8B?

Perception-LM-8B是Meta FAIR团队开发的多模态模型,具备深度理解图像和视频的能力。它结合了轻量级语言解码器和高效视觉编码器,支持视觉问答和视频推理等任务,使用开放数据训练,确保透明性。该模型在图像和视频理解方面表现优异,适合研究和应用。

如何在本地安装Meta Perception LM 8B?

DEV Community DEV Community · 2025-05-13T08:35:09Z
LM Studio通过NVIDIA GeForce RTX GPU和CUDA 12.8加速大型语言模型性能

LM Studio 0.3.15更新提升了RTX GPU性能,支持本地运行大型语言模型(LLM)。新增“tool_choice”参数和改进的系统提示编辑器,增强开发者灵活性。该应用适用于文档问答和多轮对话,确保用户快速、私密地进行AI交互。

LM Studio通过NVIDIA GeForce RTX GPU和CUDA 12.8加速大型语言模型性能

NVIDIA Blog NVIDIA Blog · 2025-05-08T13:00:34Z
Ollama与LM Studio:本地运行大型语言模型的入门指南

本文介绍了两种本地运行大型语言模型(LLMs)的工具:Ollama和LM Studio。Ollama为开源轻量级工具,适合开发者使用命令行界面,便于集成;LM Studio则提供用户友好的图形界面,适合不熟悉命令行的用户,但为闭源软件。两者均免费,用户可根据需求选择。

Ollama与LM Studio:本地运行大型语言模型的入门指南

DEV Community DEV Community · 2025-03-29T14:30:10Z

本研究解决了可解释药物发现领域的不足,提出了一种新的药物推荐方法KEDRec-LM,该模型通过知识蒸馏利用丰富的医学知识库生成药物推荐及其依据。研究结果表明,利用大型语言模型能够显著提升药物推荐的可解释性及有效性,在实际应用中具有重要影响。

KEDRec-LM:一个知识蒸馏可解释药物推荐的大型语言模型

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2025-02-27T00:00:00Z

深度求索公司推出的deepseek-v3和deepseek-r1大语言模型已达到顶级水平,且免费开源。尽管显卡资源需求较少,但训练成本高,普通用户难以部署全尺寸模型,通常只能使用小型蒸馏版本。LM Studio可在本地运行简化模型,适合学习和知识检索。

使用 LM Studio 在本地部署 Deepseek-R1 的蒸馏版大模型

Nicksxs's Blog Nicksxs's Blog · 2025-02-23T13:14:34Z
使用LM Studio和Pinggy在您的笔记本电脑上托管大型语言模型

在生成AI时代,LM Studio和Pinggy提供了本地托管大型语言模型(LLM)的简便方案。LM Studio支持本地模型运行,Pinggy确保安全的互联网访问。结合这两者,用户可以高效共享API,保护数据隐私并快速开发原型。主要步骤包括下载LM Studio、启用API和通过Pinggy暴露API,以确保安全和性能优化。

使用LM Studio和Pinggy在您的笔记本电脑上托管大型语言模型

DEV Community DEV Community · 2025-02-22T15:10:28Z

本研究提出B-cos LMs方法,旨在提高预训练语言模型的可解释性。通过将模型转化为B-cos网络并结合任务微调,B-cos LMs在生成更强解释的同时,保持了与传统微调相当的性能,展现出广泛的应用潜力。

B-cos LM: Efficient Transformation of Pre-trained Language Models for Enhanced Explainability

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2025-02-18T00:00:00Z

LM Studio是一个适合非技术用户的本地大模型工具,提供友好的图形界面和零配置操作,支持多平台。用户可以从Hugging Face等平台下载多种模型,确保隐私并支持离线运行。该工具还支持GPU加速,适合本地AI写作和问答服务。

轻松上手本地大模型,LM Studio带你飞

dotNET跨平台 dotNET跨平台 · 2025-02-17T00:01:39Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 1tok 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator 模力方舟 Gitee AI

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码