RDD 编程全流程
从引入 Spark、初始化 Spark、并行集合、外部数据集讲起,覆盖传递函数到 Spark、使用键值对、Transformations、Actions、RDD 持久化与共享变量,形成完整的中文学习路径。
官方说明 ↗拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
Spark 官方文档 1.2.1 的简体中文翻译,覆盖 RDD、Streaming、SQL、GraphX 与部署调优。
官网地址 https://aiyanbo.gitbooks.io/spark-programming-guide-zh-cn/content
Spark编程指南简体中文版是把 Spark 官方文档 1.2.1 翻译成中文的在线教程,托管在 GitBook 上,由 aiyanbo 维护。内容按官方结构分章,从 Spark Shell、独立应用程序入门,到 RDD 编程、Streaming、Spark SQL、GraphX、部署与性能调优都有覆盖,术语保留英文原文便于对照。适合需要中文参考资料的大数据学习者与工程师。短板是版本停留在 1.2.1,页面没有标出翻译更新时间,较新的 Spark 特性不在其中。
Spark编程指南简体中文版是一份在线中文教程,内容翻译自 Spark 官方文档 1.2.1,托管在 GitBook 平台。译者 aiyanbo 按官方文档的结构逐章翻译,目标是让中文读者不用读英文原文也能系统学习 Spark 编程。
教程覆盖的范围与官方文档 1.2.1 一致,包括快速入门(Spark Shell、独立应用程序)、RDD 编程(引入 Spark、并行集合、外部数据集、传递函数、键值对、Transformations、Actions、持久化、共享变量)、Spark Streaming(初始化 StreamingContext、离散流、输入 DStreams、转换与输出操作、缓存、Checkpointing、部署与监控、性能调优、容错语义)、Spark SQL(RDDs、parquet 文件、JSON 数据集、Hive 表、性能调优、编写语言集成查询、数据类型)、GraphX(属性图、图操作符、Pregel API、图构造者、顶点和边 RDDs、图算法、例子),以及部署章节(提交应用程序、独立运行 Spark、在 yarn 上运行 Spark)。
不同读者用法不同:初学者可以顺着左侧目录从 Introduction 读到独立应用程序,先跑通示例再深入 RDD;有经验的工程师可以把它当速查手册,遇到 Streaming 或 SQL 的 API 用法时直接跳到对应章节;团队里带新人的话,这份中文材料能降低英文文档的阅读门槛,配合官方英文文档对照使用,既能看懂概念又能核对最新 API。
从引入 Spark、初始化 Spark、并行集合、外部数据集讲起,覆盖传递函数到 Spark、使用键值对、Transformations、Actions、RDD 持久化与共享变量,形成完整的中文学习路径。
官方说明 ↗包含一个快速的例子、关联、初始化 StreamingContext、离散流、输入 DStreams、DStream 中的转换与输出操作、缓存或持久化、Checkpointing、部署与监控应用程序、减少批数据的执行时间、设置正确的批容量、内存调优及容错语义。
SQL 部分覆盖 RDDs、parquet 文件、JSON 数据集、Hive 表、性能调优、其它 SQL 接口、编写语言集成查询与数据类型;GraphX 部分覆盖属性图、图操作符、Pregel API、图构造者、顶点和边 RDDs、图算法与例子。
部署章节包含提交应用程序、独立运行 Spark、在 yarn 上运行 Spark,适合需要在集群环境中落地运行作业的读者按步骤操作。
关键概念保留英文原文,例如 Anonymous function syntax、MyFunctions.func1、rdd.map(x => this.func1(x))、StreamingContext、DStream、Checkpointing、Pregel API 等,方便读者在中文理解的同时对应官方英文 API 名称。
当你要学 Spark 1.2.1 时代的编程模型(RDD、Streaming、SQL、GraphX)时,这份中文翻译值得用来入门和速查,章节结构与官方文档一致,术语保留英文便于对照。当你的项目使用较新的 Spark 版本、需要新 API 或新特性说明时,这份教程覆盖不到,应直接查阅官方最新英文文档。另外页面未说明翻译许可与更新时间的细节,正式引用前最好确认来源。
刚接触分布式计算、需要中文入门材料,可以从 Introduction 顺着目录读到独立应用程序,建立整体概念后再深入 RDD 与 Streaming。
日常写 Spark 作业,需要中文速查 RDD 的 Transformations、Actions、持久化,或 Streaming 的转换与输出操作,可作为手边参考。
项目依赖较新版本的 Spark,需要新 API 与新特性说明,这份教程基于 Spark 官方文档 1.2.1,内容覆盖不到新版本变化。
写作或培训材料需要明确版权与更新记录,页面仅给出许可查看链接,正式引用前需自行确认授权范围。
可以免费在线查阅。页面没有展示价格或订阅信息,打开网页即可阅读全部章节,不需要下载或注册。
内容翻译自 Spark 官方文档 1.2.1。也就是说,教程里讲的 API 与用法对应 1.2.1 版本,较新的 Spark 版本特性不在其中。
目录显示覆盖快速入门、RDD 编程、Spark Streaming、Spark SQL、GraphX 和部署章节,具体包括 Spark Shell、独立应用程序、并行集合、外部数据集、键值对、Transformations、Actions、RDD 持久化、共享变量、离散流、输入 DStreams、Checkpointing、parquet 文件、Hive 表、Pregel API、在 yarn 上运行 Spark 等内容。
两者内容同源,这份中文版基于 Spark 官方文档 1.2.1 翻译。学习概念和查阅旧版 API 时中文版更省力;需要最新版本说明或核对 API 变更时,建议直接看官方最新英文文档。