主要内容

reduceByKey

类: matlab.compiler.mlspark.RDD
命名空间: matlab.compiler.mlspark

使用满足结合律的 reduce 函数合并每个键的值

语法

result = reduceByKey(obj,func,numPartitions)

说明

result = reduceByKey(obj,func,numPartitions) 使用满足结合律的函数 func 合并 obj 中每个键的值。numPartitions 指定要在结果 RDD 中创建的分区数。

输入参数

全部展开

输入 RDD,指定为 RDD 对象。

要应用于输入 RDD 的元素的满足结合律的函数,指定为函数句柄。

数据类型: function_handle

要创建的分区数,指定为标量值。

数据类型: double

输出参量

全部展开

一个包含按键减少后的值的流水线 RDD,以 RDD 对象形式返回。

示例

全部展开

%% Connect to Spark
sparkProp = containers.Map({'spark.executor.cores'}, {'1'});
conf = matlab.compiler.mlspark.SparkConf('AppName','myApp', ...
                        'Master','local[1]','SparkProperties',sparkProp);
sc = matlab.compiler.mlspark.SparkContext(conf);

%% reduceByKey
inputRDD = sc.parallelize({'A','B','C','A','B'},2);
redRDD= inputRDD.map(@(x)({x,1})).reduceByKey(@(x,y)(x+y),3);

版本历史记录

在 R2016b 中推出