主要内容

本页采用了机器翻译。点击此处可查看最新英文版本。

glom

类: matlab.compiler.mlspark.RDD
命名空间: matlab.compiler.mlspark

合并 RDD 每个分区内的所有元素

语法

result = glom(obj)

说明

result = glom(obj) 返回通过合并 result 的每个分区内的所有元素创建的 RDDobj

输入参数

全部展开

输入 RDD,指定为 RDD 对象。

输出参量

全部展开

包含输入 RDD 每个分区内合并元素的流水线 RDD,以 RDD 对象的形式返回。

示例

全部展开

%% Connect to Spark
sparkProp = containers.Map({'spark.executor.cores'}, {'1'});
conf = matlab.compiler.mlspark.SparkConf('AppName','myApp', ...
                        'Master','local[1]','SparkProperties',sparkProp);
sc = matlab.compiler.mlspark.SparkContext(conf);

%% glom
inputRDD = sc.parallelize({'A','B','C','D','E','C','B'}); 
mapRDD = inputRDD.map(@(x)({x,1})); 
redRDD = mapRDD.reduceByKey(@(x,y)(x+y),3); 
out = redRDD.glom().collect() % { {{'C',2}}, {{'A',1},{'D',1}}, {{'B',2},{'E',1}} } 
% 3 cell arrays as 3 partitions were created by reduceByKey

版本历史记录

在 R2016b 中推出