小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ

拥有8年工作经验,其中4年专注Rust,曾在美团、亚马逊、小米任职,现从事数据系统领域,如分布式计算、OLAP查询引擎等。活跃于开源社区,是Apache DataFusion committer。定居武汉,接受现场或远程办公,寻求data infra或AI infra职位,可通过邮箱联系。

【求职】8 年工作 4 年 Rust 经验(数据系统),曾在美团/亚马逊/小米待过

Rust.cc Rust.cc · 2026-08-11T15:03:55Z
大数据技术的演进:从 Hive、GFS 到 Raft

大数据技术经历了从GFS、Hive到Raft的演进。GFS解决了数据存储和容错问题,Hive将SQL转化为分布式计算作业,Raft算法提供了分布式共识机制,确保数据一致性。这些技术的发展逐步解决了数据存储、计算效率和管理问题,奠定了现代大数据架构的基础。

大数据技术的演进:从 Hive、GFS 到 Raft

御坂研究所 御坂研究所 · 2026-07-15T21:30:00Z

本文介绍了多种适用于大规模数据处理的Python库,包括PySpark、Dask、Polars、Ray、Vaex、Apache Kafka和DuckDB。这些库在分布式计算、内存外数据分析、实时流处理和SQL分析方面各具优势,帮助用户高效处理超大数据集。

七大适用于大规模数据处理的Python库

KDnuggets KDnuggets · 2026-05-26T12:00:29Z
为什么新兴云服务是解决AI存储锁定的答案

AI在企业中的发展推动了云计算模式向专业化转变。新兴云服务提供商如CoreWeave和Lambda专注于AI任务,吸引企业用户。多云策略帮助组织避免供应商锁定,灵活存储支持分布式计算,降低成本并提升性能。

为什么新兴云服务是解决AI存储锁定的答案

The New Stack The New Stack · 2026-01-13T20:00:59Z
Ray加入PyTorch基金会

PyTorch基金会宣布将托管Ray,一个开源分布式计算框架,旨在扩展AI和Python应用。Ray项目最初由加州大学伯克利分校孵化,支持多种Python工作负载。加入PyTorch基金会后,Ray将与PyTorch、vLLM和DeepSpeed等项目共同推动AI生态系统的发展。

Ray加入PyTorch基金会

The New Stack The New Stack · 2025-10-22T16:00:41Z
云计算、雾计算和边缘计算之间的区别

现代分布式计算架构支持AI和智能制造,云计算、边缘计算和雾计算各具特点,满足不同处理和存储需求。云计算适合长期分析,边缘计算用于实时应用,雾计算则提供分布式处理。三者协同提升数字化企业的灵活性和安全性。

云计算、雾计算和边缘计算之间的区别

实时互动网 实时互动网 · 2025-08-26T10:32:15Z
一家初创公司在边缘计算中补充Kubernetes、Docker和Wasm

David Aronchick在伦敦的Cloud Native Rejekts会议上强调了分布式计算的重要性。他的初创公司Expanso提供一种计算模型,允许在数据生成地处理数据,从而减少数据移动。预计到2025年,75%的企业数据将在传统数据中心外生成和处理。Aronchick认为,Expanso能够帮助企业更有效地管理分布式节点,推动计算向边缘发展。

一家初创公司在边缘计算中补充Kubernetes、Docker和Wasm

The New Stack The New Stack · 2025-05-04T18:00:06Z
Apache PySpark

Apache Spark是一个快速的分布式计算系统,支持内存计算,提升大数据处理性能。它可扩展且易于使用,适合实时分析和机器学习。PySpark是其Python API,方便用户进行大数据分析。

Apache PySpark

DEV Community DEV Community · 2025-04-01T01:27:10Z
吉米·安杰拉科斯:SCaLE 22x、直播与行级安全性糟糕透了

SCaLE 22x将于2025年3月6日至9日在加州帕萨迪纳举行,汇聚计算领域的专家。Leslie Lamport和Jon Hall的演讲探讨了开源软件和分布式计算的乐趣。PostgreSQL在会议中备受关注,特别是关于行级安全性的讨论。活动还进行了直播,分享了社区的见解。

吉米·安杰拉科斯:SCaLE 22x、直播与行级安全性糟糕透了

Planet PostgreSQL Planet PostgreSQL · 2025-03-21T19:30:00Z
Apache软件基金会宣布新的顶级项目

Apache Uniffle已从孵化阶段毕业,成为顶级项目,提供高性能的分布式计算远程洗牌服务,广泛应用于腾讯、爱奇艺等公司,减少了数据洗牌中的连接和内存故障,支持多种数据处理框架。

Apache软件基金会宣布新的顶级项目

The Apache Software Foundation Blog The Apache Software Foundation Blog · 2025-03-13T16:00:00Z
什么是Hadoop,它是如何高效处理大数据的?

在数字数据迅速增长的时代,管理大数据成为挑战。Apache Hadoop是一个开源框架,能够高效存储和处理大数据,具备分布式计算、可扩展性、容错性和数据本地化等优势,支持多种数据源和格式,是企业数据分析的重要工具。

什么是Hadoop,它是如何高效处理大数据的?

DEV Community DEV Community · 2025-03-11T00:28:06Z
重新思考系统架构:eBPF驱动的分布式智能崛起

数据本地性是现代分布式计算系统设计的关键概念,促进了从集中式智能向分布式智能的转变。eBPF技术在内核层面处理数据,降低了传输延迟,提升了实时响应能力,并优化了网络、可观察性和安全性。通过将智能嵌入数据生成源,eBPF增强了系统的可扩展性和效率,标志着云原生架构的进化。

重新思考系统架构:eBPF驱动的分布式智能崛起

The New Stack The New Stack · 2025-03-06T18:00:26Z

本研究探讨了大规模分布式计算系统中服务水平目标的合规性问题,提出了一种结合主动推理与强化学习的新方法,显示出在内存使用、CPU稳定性和快速收敛方面的优势。

基准测试分布式计算连续体系统中的动态SLO合规性

BriefGPT - AI 论文速递 BriefGPT - AI 论文速递 · 2025-03-05T00:00:00Z
现代CDN给开发者带来了复杂的决策

现代CDN已演变为复杂的分布式计算系统,涵盖API管理和边缘计算等功能,需在全球范围内提供高效用户体验,支持实时数据流和小型API调用。开发者需适应这一变化,以优化多云环境中的应用性能和安全性。

现代CDN给开发者带来了复杂的决策

The New Stack The New Stack · 2025-02-28T18:00:24Z

Ray是一个分布式计算框架,由UC Berkeley的RISELab于2016年发布。它支持AI生态系统,提供任务调度、状态管理和数据传输功能。最新版本为2.42.0,支持流式推理和异构设备通信。本文介绍了Ray的架构、集群搭建及多机推理示例。

分布式计算框架 Ray

陈少文的博客 陈少文的博客 · 2025-02-09T10:00:00Z

Ray是一个灵活的云计算框架,旨在加速分布式计算和构建可扩展的机器学习系统。其主要特点包括易用的Python API、可扩展性、容错能力和多用途功能。Ray的库包括Ray Core、Ray Data、Ray Train、Ray Tune、Ray Serve和Ray RLlib,分别用于任务调度、数据处理、模型训练、超参数调优和强化学习,适用于大数据集和复杂模型的分布式机器学习。

Ray简介:分布式计算的瑞士军刀

KDnuggets KDnuggets · 2025-01-16T15:00:11Z
系统工程:面向技术爱好者的免费学习资源

在快速发展的科技领域,理解复杂系统对工程师和计算机科学家至关重要。GetVM提供的免费教育资源涵盖数字设计、实时编程和分布式计算,帮助学习者掌握现代技术。课程来自UC伯克利和MIT,适合学生和技术爱好者,助力技能提升。

系统工程:面向技术爱好者的免费学习资源

DEV Community DEV Community · 2024-12-08T04:19:34Z
大规模数据集挖掘:数据科学爱好者的终极指南

《大规模数据集挖掘》是斯坦福大学专家撰写的书籍,深入探讨数据挖掘与机器学习,结合理论与实践,适合计算机科学学生和数据专业人士。书中涵盖分布式计算、相似性搜索等技术,帮助读者理解和处理海量数据。

大规模数据集挖掘:数据科学爱好者的终极指南

DEV Community DEV Community · 2024-11-23T10:51:06Z

本文介绍了使用Hadoop框架进行分布式计算的WordCounter案例,重点讲解了通过MapReduce编程统计文本文件中单词频率的过程,强调了分布式计算和存储的重要性,以及环境配置和代码实现的细节。

零基础入门Hadoop:IntelliJ IDEA远程连接服务器中Hadoop运行WordCount - 努力的小雨

努力的小雨 努力的小雨 · 2024-11-16T01:06:00Z
Agentic Mesh:开创自主代理生态系统的未来

文章探讨了自主代理生态系统的架构,介绍了Agentic Mesh如何改变我们对多代理系统、分布式计算和新兴智能的理解,适合系统架构师、AI工程师和开发者了解自主代理协作的未来。

Agentic Mesh:开创自主代理生态系统的未来

DEV Community DEV Community · 2024-11-12T11:47:36Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 1tok 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator 模力方舟 Gitee AI

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码