13-pyspark的共享变量用法总结

news2024/11/25 10:42:44

10-用PySpark建立第一个Spark RDD(PySpark实战笔记系列第一篇)
11-pyspark的RDD的变换与动作算子总结(PySpark实战笔记系列第二篇))
12-pyspark的RDD算子注意事项总结(PySpark实战笔记系列第三篇)
13-pyspark的共享变量用法总结(PySpark实战笔记系列第四篇)

前言

spark提供两种特定的共享方式：广播变量 和 累加器。

广播变量

广播变量允许程序缓存一个只读变量在集群的每个机器上。广播变量就是普通变量的一个包装变量。

广播变量的作用

可以用一种更高效的方式来共享一些数据，比如一个全局配置文件，可以通过广播变量共享给所有节点。

广播变量的使用方式

创建：通过调用SparkContext.broadcast()方法来将一个普通变量创建为一个广播变量。

访问：通过value方法来访问。

更新：通过unpersist()方法声明更新，然后修改原始变量的值，通过再次广播从而被其他节点获取。

销毁：通过destroy()方法可以把广播变量的数据和元数据一起销毁掉，销毁后不能再使用。

# 示例
import findspark
findspark.init()
##############################################
from pyspark.sql impot SparkSession
spark = SparkSession.builder \
					.master("local[2]") \
					.appName("broadcastDemo") \
					.getOrCreate();
sc = spark.SparkContext
##############################################
ip_mes = {"ip":"127.0.0.2","key":"password"}
# 创建广播变量
brVar = sc.broadcast(ip_mes)

# 获取广播变量的值
val = brVar.value
# {"ip":"127.0.0.2","key":"password"}
print(val)
# password
print(val["key"])
# 更新广播变量
brVar.unpersist()
ip_mes["key"] = "admin"
brVar = sc.broadcast(ip_mes) #再次广播
# 获取广播后的变量值
val = brVar.value
# {"ip":"127.0.0.2","key":"admin"}
print(val)
# 销毁广播变量
brVar.destroy()
##############################################
sc.stop()

累加器

除了广播变量进行变数共享外，Spark还提供了一种累加器用于在集群中共享数据。。Spark原生支持数值类型的累加器，开发人员可以根据自己的需求来支持其他数据类型。

累加器的作用

一个常见的作用是：在调试时对作业的执行过程中的相关事件进行计数。

累加器的优缺点

优点：能够快速执行操作。

缺点：只能利用关联操作做“加”操作的变量。

累加器的使用方式

创建：通过SparkContext.accumulator()方法来创建出累加器对象。

访问：通过value方法来访问。

更新：不同节点上的计算任务都可以利用add方法或者使用**+=操作**来给累加器加值。

注意事项：

累加器是一种只可加的变量对象，比如不能执行-=操作。
使用累加器时，为了保证准确性，只能使用一次动作操作。如果需要使用多次动作操作，则在RDD对象上执行cache或persist操作来切断依赖。

# 示例
import findspark
findspark.init()
##############################################
from pyspark.sql impot SparkSession
spark = SparkSession.builder \
					.master("local[2]") \
					.appName("broadcastDemo") \
					.getOrCreate();
sc = spark.SparkContext
##############################################
rdd = sc.range(1,101)
# 创建累加器，初始值0
acc = sc.accumulator(0)
def countEnve(x):
	global acc
	if x%2 == 0:
		acc +=1 # 累加器更新
rdd_count = rdd.map(countEnve)
# 获取累加器值
# 0 因为未执行动作操作，即countEnve函数的逻辑还未执行
print(acc.value)
"""
保证多次正确获取累加器值，否则当我们再次执行rdd_count.count()，
累加器会再次执行。
rdd_counter.persist()切断了动作操作的链条，因此只会执行一次。
"""
rdd_count.persist()
# 100
print(rdd_count.count())
# 50
print(acc.value)

# 100
print(rdd_count.count())
# 50
print(acc.value)
##############################################
sc.stop()