Ejemplo de función en Spark Python

Muestra un ejemplo de función map con spark.

def my_func(iterator): yield sum(iterator)
  
list = range(1,10)
parallel = sc.parallelize(list, 5)
parallel.mapPartitions(my_func).collect()

 [1, 5, 9, 13, 17]