小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

自托管大型语言模型(LLM)面临硬件限制、延迟和模型行为不一致等挑战。运行7B参数模型至少需要16GB显存,量化虽然能节省资源,但会影响精度。自托管模型通常比API慢,影响开发效率。微调模型需要高质量数据,且过程复杂。总体而言,自托管LLM既可行又困难,需要耐心和反复试验。

现实世界中的自托管大型语言模型:限制、解决方案与深刻教训

KDnuggets
KDnuggets · 2026-04-29T12:00:48Z
Bitwarden如何加密和解密秘密

本文讨论了自托管密码管理器Vaultwarden及其加密机制。Vaultwarden使用SQLite数据库存储加密的秘密,如密码和用户名。文章提到Bitwarden CLI客户端遭受供应链攻击,强调自建秘密管理工具的重要性。作者分享了使用Python进行秘密的加密和解密的代码示例,并展示了主密钥的生成和管理过程。最终,作者计划开发自己的客户端以更好地管理秘密。

Bitwarden如何加密和解密秘密

miguelgrinberg
miguelgrinberg · 2026-04-26T14:05:41Z

nowen-note是一款适合NAS用户的自托管笔记软件,支持多端使用,集成待办、AI助手和知识库功能,界面清晰,支持Markdown语法,便于用户管理笔记,整体部署简单,非常适合有笔记需求的用户。

挖到宝了!三端通吃的私有知识库,极空间部署Nowen-Note

熊猫不是猫QAQ
熊猫不是猫QAQ · 2026-04-22T08:42:41Z
安东尼·佩格:介绍AI DBA工作台:不仅仅是报告的PostgreSQL监控诊断工具

pgEdge AI DBA工作台是一个自托管平台,用于监控和管理PostgreSQL v14+,支持24/7运行。它结合数据收集、警报和用户界面,自动收集性能指标并进行异常检测,特别适合分布式PostgreSQL环境。该工具提供AI助手Ellie,支持深入查询分析和上下文记忆,目前已进入公测阶段,用户可通过Docker Compose快速部署。

安东尼·佩格:介绍AI DBA工作台:不仅仅是报告的PostgreSQL监控诊断工具

Planet PostgreSQL
Planet PostgreSQL · 2026-04-22T05:54:40Z
OpenClaw.NET - 自托管、多模型、NativeAOT 的 Agent 平台

OpenClaw.NET 是一个自托管的 .NET AI Agent 运行时,支持多种工具和通道适配器。通过 Model Profile 机制和 Review-First Learning 提供稳定优化,适合开发和生产环境。

OpenClaw.NET - 自托管、多模型、NativeAOT 的 Agent 平台

dotNET跨平台
dotNET跨平台 · 2026-04-09T00:04:07Z
Hermes Agent vs OpenClaw:一个会自我进化的AI助手,正在撼动“龙虾”的地位 - 蝈蝈俊

AI实验室Nous Research于今年2月底开源了Hermes Agent,迅速获得近三万星标,成为OpenClaw的竞争对手。两者都是自托管的开源智能体,但设计理念不同:OpenClaw是“网关”,而Hermes是“引擎”。Hermes具备自我成长和技能迭代能力,安全性更高,适合对安全性有要求的用户。

Hermes Agent vs OpenClaw:一个会自我进化的AI助手,正在撼动“龙虾”的地位 - 蝈蝈俊

蝈蝈俊
蝈蝈俊 · 2026-04-07T19:55:00Z
如何设置 OpenClaw 并设计 A2A 插件桥

OpenClaw 是一个自托管的多通道开源平台,允许用户在本地运行 AI 代理并连接常用聊天工具。它支持会话、插件和多代理路由,适合开发者使用。文章还介绍了安装和使用方法,并提出了与 A2A 协议的集成架构建议,强调安全性和信任边界的重要性。

如何设置 OpenClaw 并设计 A2A 插件桥

freeCodeCamp.org
freeCodeCamp.org · 2026-04-07T17:45:46Z
为什么Cursor将自托管AI代理引入财富500强

Cursor允许企业在自有基础设施上运行AI编码代理,以满足安全和合规需求,确保源代码和构建数据保持在公司内部,特别适用于受监管行业。

为什么Cursor将自托管AI代理引入财富500强

The New Stack
The New Stack · 2026-03-31T19:58:18Z
如何使用OpenClaw部署自己的24小时全天候AI助手

OpenClaw是一个自托管的AI助手,允许用户控制其运行。它支持本地和云端部署,用户通过CLI与助手交互。设置过程简单,但理解部署选项和架构对确保长期稳定运行至关重要。

如何使用OpenClaw部署自己的24小时全天候AI助手

freeCodeCamp.org
freeCodeCamp.org · 2026-03-16T17:45:14Z

在2026年,自托管数据科学工具的趋势因成本节约和数据主权而加速。文章介绍了五种开源替代工具:JupyterLab(交互式笔记本)、MLflow(实验跟踪)、Apache Airflow(管道编排)、DVC(数据版本控制)以及Metabase和Apache Superset(数据可视化)。这些工具提升了控制权和定制化,帮助数据科学家降低成本并提高效率。

2026年数据科学家的五种自托管替代工具

KDnuggets
KDnuggets · 2026-03-16T12:00:01Z
Coolify: Vercel 的开源版私有化部署平替版 - 曦远Code

Coolify是一个开源自托管的PaaS平台,类似于Vercel,专注于应用生命周期管理。它支持自动构建和部署,适合国外服务器,安装简单,界面基础,支持命令行管理,用户可添加自定义应用和服务,已部署多个服务。

Coolify: Vercel 的开源版私有化部署平替版 - 曦远Code

程序设计实验室
程序设计实验室 · 2026-03-05T08:14:00Z
推出 OpenClaw on Amazon Lightsail,用于运行您的自主私有人工智能代理

OpenClaw在Amazon Lightsail上发布,用户可轻松启动实例并与AI助手对话。该开源自托管AI代理支持多种消息应用,执行任务如管理邮件和整理文件。用户需通过浏览器配对以建立安全连接,并可自定义AWS权限,注意安全性,避免将网关暴露于互联网。

推出 OpenClaw on Amazon Lightsail,用于运行您的自主私有人工智能代理

亚马逊AWS官方博客
亚马逊AWS官方博客 · 2026-03-04T06:18:15Z
史上最快!OpenClaw 以超 25 万星标登顶 GitHub,超越 React 成开源新王

OpenClaw是一个开源AI个人助手项目,2026年3月星标数超过25万,成为GitHub历史上星标数最高的开源软件。该项目强调自托管和隐私保护,迅速吸引开发者关注。尽管存在安全漏洞的质疑,OpenClaw的成功被视为AI智能体普及的“Android时刻”。

史上最快!OpenClaw 以超 25 万星标登顶 GitHub,超越 React 成开源新王

Jing Blog
Jing Blog · 2026-03-04T03:08:33Z
Debian 13 下部署 AsmBB 论坛

AsmBB 是一款轻量级论坛引擎,基于 SQLite 数据库,适合自托管。本文介绍了在 Debian 13 上部署 AsmBB 的步骤,包括安装 Nginx、配置目录权限、设置 Systemd 服务及邮件验证。通过 FastCGI 接口与 Nginx 配合,用户可访问论坛并进行注册。尽管对中文支持有限,但其小巧快速的特点使其成为理想选择。

Debian 13 下部署 AsmBB 论坛

Dejavu's Blog
Dejavu's Blog · 2026-02-26T10:00:43Z
NodeWarden – 把 Bitwarden 搬上 Cloudflare Workers,彻底告别服务器

Bitwarden 是一款开源密码管理系统,支持自托管。NodeWarden 允许在 Cloudflare Workers 上运行,省去 VPS。用户可在手机和电脑上使用 Bitwarden 客户端保存密码,支持自动登录和二次验证。部署过程简单,需要 Cloudflare 和 GitHub 账号。

NodeWarden – 把 Bitwarden 搬上 Cloudflare Workers,彻底告别服务器

小众软件
小众软件 · 2026-02-22T13:52:13Z

我整理了 GitHub 自托管 Runner 的经验,开发了开源工具 Runner Fleet,旨在简化 Runner 的管理与维护,提供轻量级 Web 管理界面,支持多种运行模式,帮助用户高效部署和扩容。

用 Docker 私有化部署 GitHub Actions Runner(Runner Fleet)

苏洋博客
苏洋博客 · 2026-02-18T10:20:00Z

本文介绍了如何在Ubuntu 24.04上使用Docker自托管Forgejo,作为GitHub的替代方案。内容涵盖服务器准备、Docker安装、用户创建、DNS记录添加、docker-compose配置及备份流程,并提供定期备份的脚本和设置方法。

如何在Ubuntu 24.04上使用Docker自托管Forgejo

一大加贝
一大加贝 · 2026-02-13T16:00:00Z
试试 Khoj — 把你的资料变成可搜索的智能助手

Khoj 是一个可自托管的“第二大脑”平台,能够将网页和文档转化为可检索的知识库,支持智能体和自动化工作流,满足数据隐私需求,适用于企业知识库、研究和个人生产力等场景。

试试 Khoj — 把你的资料变成可搜索的智能助手

dotNET跨平台
dotNET跨平台 · 2026-02-11T00:16:45Z
Homepage如何简化自托管服务的监控

我逐渐转向自托管服务,以增强安全性和隐私。使用Homepage可以集中监控不同服务,避免打开多个浏览器标签。通过Docker安装Homepage简单,用户可自定义监控服务和界面设置。

Homepage如何简化自托管服务的监控

The New Stack
The New Stack · 2026-02-06T16:00:04Z
树莓派上部署Vaultwarden

Vaultwarden是一个轻量级的自托管密码管理服务器,适合个人和小团队使用,支持多端同步,特别适合局域网环境。文章介绍了在树莓派上部署Vaultwarden的过程,包括交叉编译、安装、配置、证书处理和Nginx代理设置,以确保移动端的安全访问。

树莓派上部署Vaultwarden

Mephisto's blog
Mephisto's blog · 2026-01-25T00:00:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码