小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
如何在本地和云端运行开源大型语言模型

本文介绍了Andrew Brown教授的课程,讲解如何在本地和云环境中使用开源大型语言模型(如Gemma和Kimmy)。课程通过构建Flappy Bird克隆等项目,评估模型在实际编码任务中的表现和硬件需求。学习者将了解不同编码工具的使用,以及哪些模型在工具调用和结构化代码生成方面最可靠。课程可在freeCodeCamp.org的YouTube频道免费观看。

如何在本地和云端运行开源大型语言模型

freeCodeCamp.org
freeCodeCamp.org · 2026-05-07T13:55:17Z
五大开源AI模型API提供商

本文比较了多个开源语言模型API提供商的性能、价格和可靠性,帮助开发者选择合适的选项。主要提供商包括Cerebras、Together.ai、Fireworks AI、Groq和Clarifai,特点在于速度、延迟和成本,适用于不同应用场景。

五大开源AI模型API提供商

KDnuggets
KDnuggets · 2026-01-16T13:00:05Z
介绍 gpt-oss

gpt-oss-120b和gpt-oss-20b是两个开源语言模型,具备强大的推理和工具使用能力,适合低成本部署。它们在多个基准测试中表现优异,支持高效推理和定制化,旨在推动安全透明的AI发展,降低小型组织的使用门槛。

介绍 gpt-oss

OpenAI
OpenAI · 2025-08-05T00:00:00Z

开源大型语言模型(LLMs)逐渐成熟,提供了比专有模型更具成本效益的选择。本文介绍了七种顶级LLMs,如DeepSeek R1、Qwen2.5-72B和Llama 3.3,强调它们在推理、编码和多语言任务中的优越性能。这些模型适用于多种应用,推动了AI技术的普及,使开发者能够构建复杂应用而无需依赖专有解决方案。

2025年七大开源大型语言模型

KDnuggets
KDnuggets · 2025-03-13T12:00:29Z

本研究评估了12款开源语言模型在不同语言中的真实性,发现英语表现最佳,而其他语言(如巴斯克语)的真实性差异小于预期。研究提出利用机器翻译扩展真实性基准,并强调信息性的重要性。

真理无国界:评估跨英语的真实性

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-02-13T00:00:00Z
如何在AWS上使用基础设施即代码运行DeepSeek R1

文章介绍了开源语言模型DeepSeek,其在数学测试中准确率达到79.8%。作者使用Pulumi在AWS上进行部署,强调其高性价比和灵活性,适用于多种硬件配置。文中提供了基础设施搭建的详细步骤,建议采用基础设施即代码的方法以实现可重复部署,并强调安全性和监控的重要性。

如何在AWS上使用基础设施即代码运行DeepSeek R1

The New Stack
The New Stack · 2025-02-04T21:00:17Z
新开源人工智能模型OLMo 2在使用更少计算能力的情况下匹配领先语言模型

AI2发布了OLMo 2,一个新的开源语言模型,参数规模为7B和13B。该模型采用改进的架构和训练方法,使用Dolmino Mix 1124数据,性能超过Llama 3.1,且代码和数据完全透明。

新开源人工智能模型OLMo 2在使用更少计算能力的情况下匹配领先语言模型

DEV Community
DEV Community · 2025-01-03T10:38:54Z

本研究针对开源大型语言模型在数学推理方面的不足,提出了课程学习和分解策略。实验结果显示,WizardMath 7B在英语数据集上超越Gemini,在印地语上表现相当,表明双语方法有效提升数学推理能力。

多语言数学推理:推动开源LLM在印地语和英语中的发展

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-12-24T00:00:00Z

本研究提出ExecRepoBench框架和Repo-Instruct指令语料库,旨在解决现有代码补全评估基准的不足,从而提升开源大型语言模型在复杂编码场景中的表现。

ExecRepoBench: A Multi-Level Evaluation Framework for Executable Code Completion

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-12-16T00:00:00Z
Ai2推出OLMo 2,完全开源的基础模型

Allen人工智能研究所推出了OLMo 2系列开源语言模型,参数为70亿和130亿。该模型经过5万亿个标记训练,采用分阶段训练和多样化数据集,显著提升了训练稳定性和模型鲁棒性。在知识回忆、推理和语言能力方面,OLMo 2超越了前代模型,成为开源AI的新标杆。

Ai2推出OLMo 2,完全开源的基础模型

InfoQ
InfoQ · 2024-12-05T15:36:00Z

本研究探讨了开源大型语言模型在使用公共数据时的毒性输出问题,提出了新的数据策划流程,开发了ToxicCommons数据集,并构建了Celadon分类器,以更有效地检测有害内容。研究表明,平衡的内容过滤方法能显著提升模型的安全性。

Toxicity of the Commons: Curating Open-Source Pre-Training Data

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-10-29T00:00:00Z

该研究探讨了开源大型语言模型的指令调整和性能评估,分析了训练数据的数量、质量和语言分布对模型性能的影响。提出了ZhuJiu基准,评估多种语言模型的能力,并介绍了Baichuan 2模型在多个领域的优异表现。同时,研究关注数据管理和中文任务的评估,提出了ChatFlow模型以提升中文语言模型的性能。

BaichuanSEED:通过引入竞争性大语言模型基线共享广泛数据收集和去重的潜力

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-08-27T00:00:00Z
使用 Kubernetes AI 工具链运算符加速 AI 工作流程

生成式人工智能(AI)正在蓬勃发展,各行各业和创新者都在寻找改变数字体验的方法。开源语言模型是一种经济高效的尝试AI的方式,而Kubernetes则是最适合扩展和自动化AI/ML应用的开源平台。微软的KAITO项目是一个在Kubernetes集群中自动部署大型AI模型的开源工具,它简化了部署、扩展和管理AI工作负载的繁琐细节。KAITO支持多种开源模型和容器化模型,并提供了精细调整、适配器和更广泛的模型范围的支持。

使用 Kubernetes AI 工具链运算符加速 AI 工作流程

The New Stack
The New Stack · 2024-07-26T17:30:15Z
最强模型Llama 3.1 405B正式发布,扎克伯格:开源引领新时代

Meta发布了Llama 3.1,这是世界上最大且最强大的开源语言模型。新版本支持八种语言,并将上下文长度扩展到128K。Llama 3.1与闭源模型相媲美,提供了各种组件来创建全面的系统。Meta还计划开发具有集成语音和视觉功能的模型。模型可以从Meta网站和Hugging Face下载。评估结果显示,Llama 3.1在各种任务中与领先的模型竞争力相当。Llama 3.1的架构经过优化,可进行大规模训练,使用了超过150万亿个标记。该模型还支持指令和基于聊天的微调。Meta发布了完整的参考系统和标准化接口,以促进与行业和开源社区的合作。开发人员可以根据自己的需求和应用定制模型。

最强模型Llama 3.1 405B正式发布,扎克伯格:开源引领新时代

机器之心
机器之心 · 2024-07-24T06:16:00Z

本文介绍了多个开源语言模型的进展,包括ChuXin、Baichuan 2、CT-LLM、XGen、TinyLlama、LLaMA、XLM-T和Xmodel-VLM等。这些模型在参数规模、上下文长度和多语言能力上取得了显著提升,尤其在医学和法律领域表现突出。研究还强调了高效的训练方法和数据处理技术,以提升模型性能和生成能力。

Xmodel-LM 技术报告

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-06-05T00:00:00Z

MAmmoTH是一系列开源大型语言模型,专注于数学问题解决。研究构建了包含180万个问题的OpenMathInstruct-1数据集,并在数学推理基准上取得优异成绩。研究表明,数据量和模型参数对性能影响显著,人工指导数据优于合成数据。提出的双向指令调优策略提升了模型的数学推理能力,并探索了高质量指令数据生成的新方法。

MAmmoTH2:网络中的指令扩展

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2024-05-06T00:00:00Z
管理概览:开源基础模型的崛起

Databricks开发了DBRX,这是一个开源语言模型(LLM),允许组织对其数据进行控制并降低成本。DBRX使企业能够替代专有的SaaS模型,并根据自己的需求定制LLM。Databricks简化了ML生命周期的管理,并提供工具来确保模型输出的质量和准确性。DBRX在性能上超越其他开源模型,并提供经济高效的训练和部署。像JetBlue、Block、纳斯达克和埃森哲这样的组织已经在使用DBRX。Databricks通过按需付费的定价方式轻松访问DBRX,并提供私有托管选项。

管理概览:开源基础模型的崛起

Databricks
Databricks · 2024-05-03T09:51:27Z
模型多样性能好,语言应用没烦恼 | 开源专题 No.71

本文介绍了多个开源大型语言模型项目,包括LLaMA 2、Qwen、Anima和Huatuo-Llama-Med-Chinese。这些模型在自然语言处理、对话生成和医学问答等领域表现优异,支持多种输入长度和微调方法,推动了语言应用的发展。

模型多样性能好,语言应用没烦恼 | 开源专题 No.71

开源服务指南
开源服务指南 · 2024-04-28T23:36:21Z
介绍 Meta Llama 3:迄今为止最强大的开源大语言模型 [译]

Meta Llama 3是一种先进的开源语言模型,即将在各个平台上推出。它包括了新的信任和安全工具,并且性能得到了提升。该模型在各个行业中进行了测试,并且表现优于其他类似模型。Llama 3的开发主要关注模型架构、训练数据、扩展预训练和基于指令的微调。该模型取得了高性能,并且可以根据不同应用进行定制。负责任的部署策略和安全工具已经实施。Llama 3将在云服务和硬件平台上部署。由Llama 3驱动的Meta AI可用于各种应用。

介绍 Meta Llama 3:迄今为止最强大的开源大语言模型 [译]

宝玉的分享
宝玉的分享 · 2024-04-18T13:26:00Z
Mistral 7B-V0.2:使用Hugging Face微调Mistral的新开源大型语言模型

Mistral AI发布了Mistral 7B v0.2的基础模型,这是一个具有73亿参数的开源语言模型。该模型在其他基准测试中表现优异,具有32k的上下文窗口。文章提供了使用Hugging Face的AutoTrain功能访问和微调模型的教程。它包括设置环境、准备数据集、配置模型参数和启动模型训练的步骤。文章还演示了如何评估模型的性能,并提出了优化性能的进一步步骤。

Mistral 7B-V0.2:使用Hugging Face微调Mistral的新开源大型语言模型

KDnuggets
KDnuggets · 2024-04-08T12:00:15Z
  • <<
  • <
  • 1 (current)
  • 2
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码