小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本文介绍了如何在Windows上本地部署大模型Ollama和OpenWebUI,用户可以在本地运行Llama 3等模型,确保数据隐私、零成本推理和离线使用。文章详细说明了安装步骤、硬件要求和模型推荐,以实现一个私密的AI对话环境。

Windows本地部署大模型 Ollama + OpenWebUI 最佳实践指南

孙威的阳光海
孙威的阳光海 · 2026-05-12T03:40:36Z
本地大模型进阶|Ollama Tool Calling完全教程:工具调用原理、实操与Agent循环实战

本文介绍了Ollama工具调用的详细教程,该功能允许大语言模型通过分析用户问题,调用外部函数获取信息,从而提升回答实时信息的准确性。Ollama支持多种模型,用户可通过API与SDK实现工具调用,流程包括用户提问、模型生成调用指令、客户端执行函数、模型生成最终答案,使模型更智能,能够自动处理复杂问题。

本地大模型进阶|Ollama Tool Calling完全教程:工具调用原理、实操与Agent循环实战

人言兑
人言兑 · 2026-04-26T10:25:39Z
Ollama launch用法详解:Claude Code、Codex、Hermes Agent、OpenClaw、VS Code等主流工具集成一步到位,本地AI大模型多场景复用

本文介绍了Ollama的命令及其与Codex、Claude Code、Hermes Agent、OpenClaw和VS Code等工具的集成。Ollama v0.15+引入的“ollama launch”命令简化了本地模型的配置与启动,用户可通过一条命令实现多种工具的无缝衔接,提升编码效率。

Ollama launch用法详解:Claude Code、Codex、Hermes Agent、OpenClaw、VS Code等主流工具集成一步到位,本地AI大模型多场景复用

人言兑
人言兑 · 2026-04-26T09:42:31Z
本地大模型API开发指南|Ollama API教程:generate与chat区别详解,全端点实操指南

本文介绍了Ollama HTTP API的使用,重点区分了generate和chat两个核心端点。generate用于单次补全,而chat适合多轮对话。文章详细解析了各API端点的参数和示例,建议新手从/chat端点开始,逐步掌握API的使用。

本地大模型API开发指南|Ollama API教程:generate与chat区别详解,全端点实操指南

人言兑
人言兑 · 2026-04-26T09:01:24Z
Ollama 命令速查手册:全命令参数、用法与实操指南

本文介绍了Ollama的使用教程,重点讲解了命令及其参数,包括全局参数、环境变量和常用命令。内容涵盖如何启动Ollama服务、创建模型、查看模型信息及运行模型的选项,并提供了一些实用的命令示例和跨平台使用的注意事项,以帮助用户更高效地使用Ollama。

Ollama 命令速查手册:全命令参数、用法与实操指南

人言兑
人言兑 · 2026-04-25T17:17:17Z
Ollama量化全指南:3种方法+量化级别参考,普通电脑也能跑大模型

本文介绍了Ollama大模型的量化技术,旨在降低模型对硬件资源的消耗,使其在普通电脑上流畅运行。量化通过降低参数精度,显著减少显存和内存占用,同时提升计算速度。文章详细说明了量化的原理、实操方法及不同量化级别的选择,适合新手快速上手。

Ollama量化全指南:3种方法+量化级别参考,普通电脑也能跑大模型

人言兑
人言兑 · 2026-04-25T17:05:35Z
Ollama Modelfile 完全指南:从零开始创建自定义量化 AI 大模型

本文介绍了如何在Ollama中使用Modelfile自定义量化模型。Modelfile是模型配置文件,定义模型来源、推理参数和对话模板。用户需准备GGUF格式的模型文件,并选择量化级别。文章详细说明了Modelfile的基本语法和指令,包括推理参数、对话格式和系统提示词的设置,并提供了创建和运行模型的实战案例及常见问题解决方案。

Ollama Modelfile 完全指南:从零开始创建自定义量化 AI 大模型

人言兑
人言兑 · 2026-04-25T12:44:20Z
一文吃透Ollama Embeddings:概念、实操、避坑,助力RAG落地|本地部署AI大模型必备

本文介绍了Ollama中的嵌入向量及其在检索增强生成中的应用。嵌入向量将文本转换为数值数组,以便计算语义相似度。文章探讨了嵌入向量的生成方法、应用场景(如搜索引擎、去重、推荐系统)以及常见问题和解决方案,帮助新手理解和应用该技术。

一文吃透Ollama Embeddings:概念、实操、避坑,助力RAG落地|本地部署AI大模型必备

人言兑
人言兑 · 2026-04-24T10:40:15Z
Ollama 使用教程:本地 AI 大模型部署工具完全指南

Ollama是一个开源的跨平台大模型工具,旨在简化大型语言模型的本地部署。用户只需一个命令即可运行模型,支持macOS、Windows和Linux等多种操作系统,并提供丰富的模型库。其优势在于数据安全和低成本,适合开发者使用,支持量化和自定义功能。

Ollama 使用教程:本地 AI 大模型部署工具完全指南

人言兑
人言兑 · 2026-04-23T15:09:06Z
使用本地小型语言模型构建AI代理

本文介绍如何使用本地小型语言模型构建AI代理,无需互联网连接和API费用。内容包括AI代理的定义、Ollama和Python库的设置步骤,以及逐步构建本地AI代理的方法。小型语言模型(如Phi-3和Llama 3.2)适合在普通电脑上运行,提供隐私保护和零成本。通过示例代码,读者可以创建具备记忆和工具的智能代理。

使用本地小型语言模型构建AI代理

MachineLearningMastery.com
MachineLearningMastery.com · 2026-04-23T12:00:31Z

本文介绍了如何在本地构建一个免费的人工智能编码助手,结合OpenCode、Ollama和Qwen3-Coder三种工具。该系统提供隐私和安全性,无需互联网连接,使用无限制。用户可以通过简单步骤下载和配置这些工具,以提高编码、调试和代码生成的效率,保护知识产权。

探索OpenCode + Ollama + Qwen3-Coder的可能性

KDnuggets
KDnuggets · 2026-04-21T16:00:03Z
从“开源英雄”到“社区公敌”,Ollama 到底做错了什么?

Ollama曾被视为开源英雄,但因未遵循开源协议和使用私有格式锁定用户而遭到社区批评。开发者们开始寻找替代方案,如回归llama.cpp或使用真正开源的包装器。Ollama的案例提醒创业者,用户体验不能以牺牲开放性为代价。

从“开源英雄”到“社区公敌”,Ollama 到底做错了什么?

Tony Bai
Tony Bai · 2026-04-17T23:54:11Z
Agent Framework 接入 Ollama(本地模型实践记录)

Ollama 是一个本地运行大模型的工具,适合处理敏感数据和成本敏感的项目。安装后,Ollama 启动本地服务,用户可通过 API 调用模型。将 Ollama 集成到 Agent Framework 后,可以灵活地在本地完成 AI 调用链路,增强数据控制和可控性。

Agent Framework 接入 Ollama(本地模型实践记录)

dotNET跨平台
dotNET跨平台 · 2026-04-16T00:01:38Z
国产MiniMax M2.7已在Ollama云端免费用:OpenClaw、Claude和Hermes

MiniMax M2.7模型现已在Ollama云端免费使用,支持商用。该模型具备自我进化能力,能够构建复杂智能体并完成高难度任务,尤其在软件工程和复杂环境处理方面表现优异,用户反馈良好。

国产MiniMax M2.7已在Ollama云端免费用:OpenClaw、Claude和Hermes

极道
极道 · 2026-04-12T02:36:00Z

使用Ollama和Qwen3.5,您可以在旧笔记本电脑上轻松搭建本地AI环境。安装Ollama后,下载并运行Qwen3.5,再安装OpenCode以创建轻量级编码代理。通过简单命令生成Python项目,体验本地AI的实用性,但在复杂编码时可能会遇到问题。

在旧笔记本电脑上运行Qwen3.5:轻量级本地智能AI搭建指南

KDnuggets
KDnuggets · 2026-04-08T14:00:52Z
Ollama云版来了:仅一个邮箱可免费使用多个AI大模型

Ollama.com 是一个本地 AI 模型运行平台,支持一行代码部署。与 NVIDIA 合作,提供适合轻量使用的免费计划,限制包括每 5 小时 50W token 和每 7 天 100W token。注册简单,无需信用卡或电话。

Ollama云版来了:仅一个邮箱可免费使用多个AI大模型

如有乐享
如有乐享 · 2026-04-08T00:23:22Z
第729期:NumPy音乐、Ollama、可迭代对象及更多(2026年4月7日)

本文介绍了使用NumPy生成音频波形的音乐创作方法,以及如何在本地运行Ollama工具的大型语言模型。同时讨论了Python中的对象迭代、pytest测试模式、类型系统和Django数据库更新等主题。

第729期:NumPy音乐、Ollama、可迭代对象及更多(2026年4月7日)

PyCoder’s Weekly
PyCoder’s Weekly · 2026-04-07T19:30:00Z

本文介绍了在macOS和Windows环境下部署本地大模型服务的步骤,包括安装ollama和LM Studio、配置环境变量、下载模型以及启动服务。用户可以通过API接口进行测试,确保上下文长度设置合适以优化效果。

本地部署大模型服务

范叶亮的博客
范叶亮的博客 · 2026-04-05T00:00:00Z

本文讨论了在Ollama v0.20.0上运行Gemma 4模型的体验,强调其低资源消耗和适合函数调用的微调特性。

近思录 2026-04-02

M-x Chris-An-Emacser
M-x Chris-An-Emacser · 2026-04-01T16:00:00Z
如何将VS Code与Ollama集成以实现本地AI辅助

本文介绍了如何在本地安装Ollama AI工具并与Visual Studio Code集成,以帮助程序员学习编程语言。作者强调AI应作为学习助手,而非替代技能。文章详细说明了在Linux、macOS和Windows上安装Ollama和VS Code的步骤,以及如何配置VS Code以使用Ollama。

如何将VS Code与Ollama集成以实现本地AI辅助

The New Stack
The New Stack · 2026-04-01T12:00:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码