spark关联规则分析:从经典的购物篮app看数据内在的联系

前言

中英双语论文解析:Mining Frequent Patterns without Candidate Generation(挖掘没有候选者生成的频繁模式)Spark大数据第一步:关联规则挖掘须知,什么是支持度、置信度 两篇文章的加持下,我想,现在对于深入理解经典的购物篮关联规则分析的原理已经不再是一件困难的事情。

代码分析

数据准备

设 mb 为 market basket (超市购物篮)的缩写,作为文件名,其内容如下:

鸡腿,牛排,香肠
鸡腿,牛排,尿布
牛排,香肠,尿布
牛排,香肠,啤酒
牛排,尿布,啤酒
鸡腿,牛排
鸡腿,香肠,牛排
鸡腿,尿布
牛排,尿布
牛排,啤酒
香肠,尿布,啤酒
鸡腿,啤酒
牛排,尿布
香肠,啤酒,尿布,鸡腿,牛排
香肠,牛排
鸡腿,香肠
鸡腿,香肠
啤酒,尿布
尿布
牛排,香肠,尿布

我们将其使用 $ hadoop fs -put 命令或 hue 网页端,将 mb 文件上传到 HDFS

读取数据

本文我们将使用 python 语言进行开发,所以在 spark 的机器上面打开 pyspark

mbrdd = spark \
    .read\
    .option("inferSchema", True) \
    .text('hdfs://namenode/user/hue/mb') \
    .rdd \
    .map(lambda x: x[0]) \
    .map(lambda x: [x.split(',')]) \

将 mb 文件以文本读取进来,然后转为 rdd 进行分割,使 hdfs 里面的文件变成一个 rdd,我们称之为 mbrdd (market baskets rdd)。

创建 DataFrame

使用 pyspark 自有的 API createDataFrame来通过指定 rdd 创建一个新的 DataFrame。

mbdf = spark.createDataFrame(mbrdd)

我们称这个创建完成的 DataFrame 为 mbdf (market baskets data frame)。

创建 FPGorwth

首先引入 FPGrowth 这个类,然后通过指定 items 所在的列名,和最小支持度、置信度来初始化这个 FPGrowth 实例。

from pyspark.ml.fpm import FPGrowth
fpg = FPGrowth(itemsCol='_1', minSupport=0.3, minConfidence=0.6)

计算

使用 fit 方法来告诉 FPGrowth 实例该去处理哪些数据。

model = fpg.fit(mbdf)

# Display frequent itemsets.
model.freqItemsets.show()

# Display generated association rules.
model.associationRules.show()

# transform examines the input items against all the association rules and summarize the
# consequents as prediction
model.transform(mbdf).show()

上述代码会输出三张表格:

freqItemsets

associationRules

transform

从输出的结果中,我们可以看出,买尿布或香肠的人,明显会更有可能去买牛排。

以上数据,是个人乱输的,但是也能分析出来一点的结果,可供学习使用。

参考文献


  1. 1.HarborZeng. 中英双语论文解析:Mining Frequent Patterns without Candidate Generation(挖掘没有候选者生成的频繁模式) | 告你什么[EB/OL]. [2019-07-25]. https://tellyouwhat.cn/p/mining-frequent-patterns-without-andidate-generation/.
  2. 2.HarborZeng. 中英双语论文解析:RDD,基于内存的集群计算容错抽象 | 告你什么[EB/OL]. [2019-07-18]. https://tellyouwhat.cn/p/resilient-distributed-datasets-a-fault-tolerant-abstraction-for-in-memory-cluster-computing/.
  3. 3.HarborZeng. Spark大数据第一步:关联规则挖掘须知,什么是支持度、置信度 | 告你什么[EB/OL]. [2019-07-24]. https://tellyouwhat.cn/p/what-is-support-confidence/.

   转载规则


《spark关联规则分析:从经典的购物篮app看数据内在的联系》 Harbor Zeng 采用 知识共享署名 4.0 国际许可协议 进行许可。
 本篇
spark关联规则分析:从经典的购物篮app看数据内在的联系 spark关联规则分析:从经典的购物篮app看数据内在的联系
前言在 中英双语论文解析:Mining Frequent Patterns without Candidate Generation(挖掘没有候选者生成的频繁模式) 和 Spark大数据第一步:关联规则挖掘须知,什么是支持度、置信度 两篇文章的加持下,我想,现在对于深入理解经典的购物篮关联规则分析的原理已经不再是一件困难的事情。 代码分析数据准备设 mb 为 market basket (超市购物
下一篇 
中英双语论文解析:Mining Frequent Patterns without Candidate Generation(挖掘没有候选者生成的频繁模式) 中英双语论文解析:Mining Frequent Patterns without Candidate Generation(挖掘没有候选者生成的频繁模式)
Abstract 摘要Mining frequent patterns in transaction databases, time-series databases, and many other kinds of databases has been studied popularly in data mining research. 在数据挖掘研究中普遍研究了在事务数据库,时间序列数据库和许
  目录