coalesce

类: matlab.compiler.mlspark.RDD
命名空间: matlab.compiler.mlspark

减少 RDD 中的分区数

全页展开

语法

result = coalesce(obj,numPartitions,doShuffle)

说明

result = coalesce(obj,numPartitions,doShuffle) 将 RDD 中的分区数减少为 numPartitions 指定的数目。

输入参数

全部展开

输入 RDD，指定为 RDD 对象。

要创建的分区数，指定为标量值。

数据类型: double

指定是否必须执行乱序处理。默认情况下，doShuffle 设置为 false。

数据类型: logical

输出参量

全部展开

一个包含减少后的分区数的 RDD，以 RDD 对象形式返回。

示例

全部展开

%% Connect to Spark
sparkProp = containers.Map({'spark.executor.cores'}, {'1'});
conf = matlab.compiler.mlspark.SparkConf('AppName','myApp', ...
                        'Master','local[1]','SparkProperties',sparkProp);
sc = matlab.compiler.mlspark.SparkContext(conf);

%% coalesce
inputRDD = sc.parallelize({'A','B','C','A','B'},2);
redRDD= inputRDD.map(@(x)({x,1})).reduceByKey(@(x,y)(x+y),3);
coaRDD = redRDD.checkpoint(2);
viewRes = coaRDD.glom.collect() % {{{'B',2}},{{'C',1},{'A',2}}}

版本历史记录

在 R2016b 中推出

另请参阅

| | | |