python机器学习之关联分析（Apriori）

在机器学习中，除了聚类算法外，Aprior算法也是在数据集中寻找数据之间的某种关联关系，通过该算法，我们可以在大规模的数据中发现有价值的价值，比如著名的啤酒与尿布的案例就是一种关联分析。本文将详细介绍Apriori算法挖掘数据的原理以及案例。

1.Apriori算法的原理

我们先介绍一些Apriori算法中的概念

1.1 项集

• 项集是项的集合，包含k个项的集合称为k项集，如{啤酒，尿布}就是个2项集。
• 项集在所有事务中出现的次数总和称为绝对支持度或支持度计数。
• 频繁项集：某项集的支持度计算满足预定的要求即称该项集为频繁项集。

1.2 关联规则

• 支持度：项集A和B的支持度被定义为数据集中同时包含这两项集的记录所占的比例。（通俗理解，就是事件A和B同时发生的概率），记做：

  

• 可信度（置信度）：项集A发生，则项集B发生的概率为关联规则的置信度（通俗理解,在A发生的情况下B发生的概率为多少P（B/A））记做：
  

1.3 最小支持度和最小置信度

• 最小支持度：即衡量支持度的一个阈值，表示项集之间的支持度满足该阈值才能证明该支持度有效。
• 最小置信度：即衡量置信度的一个阈值，表示项集之间的置信度满足该阈值才能证明该置信度有效。
• 强规则：同时满足最小支持度和最小置信度规则的规则。

1.4 支持度计数

• 项集A的支持度计数是项集A在所有项集中出现的次数（也称频数和计数）。
• 根据项集A,B的支持度计数可以计算出项集A,B的支持度和置信度。
  
  Ps：support可以理解为A,B同时发生的概率。confidence可以理解为条件概率。

2.实例说明

这里我们首先需要初始化一些参数，如：设置最小支持为0.2

计算 1项集，2项集，3项集

简述过程：

3.代码实现

文件1是定义Apriori算法过程

# -*- coding: utf-8 -*-
import numpy as np
import pandas as pd

#改文件是定义Apriori的算法过程
def connect_string(x, ms):
    x = list(map(lambda i: sorted(i.split(ms)), x))
    l = len(x[0])
    r = []
    for i in range(len(x)):
        for j in range(i, len(x)):
            if x[i][:l - 1] == x[j][:l - 1] and x[i][l - 1] != x[j][l - 1]:
                r.append(x[i][:l - 1] + sorted([x[j][l - 1], x[i][l - 1]]))
    return r


# 寻找关联规则的函数
def find_rule(d, support, confidence, ms=u'--'):
    result = pd.DataFrame(index=['support', 'confidence'])  # 定义输出结果

    support_series = 1.0 * d.sum() / len(d)  # 支持度序列
    column = list(support_series[support_series > support].index)  # 初步根据支持度筛选
    k = 0

    while len(column) > 1:
        k = k + 1
        print(u'\n正在进行第%s次搜索...' % k)
        column = connect_string(column, ms)
        print(u'数目：%s...' % len(column))
        sf = lambda i: d[i].prod(axis=1, numeric_only=True)  # 新一批支持度的计算函数

        # 创建连接数据，这一步耗时、耗内存最严重。当数据集较大时，可以考虑并行运算优化。
        d_2 = pd.DataFrame(list(map(sf, column)), index=[ms.join(i) for i in column]).T

        support_series_2 = 1.0 * d_2[[ms.join(i) for i in column]].sum() / len(d)  # 计算连接后的支持度
        column = list(support_series_2[support_series_2 > support].index)  # 新一轮支持度筛选
        support_series = support_series.append(support_series_2)
        column2 = []

        for i in column:  # 遍历可能的推理，如{A,B,C}究竟是A+B-->C还是B+C-->A还是C+A-->B？
            i = i.split(ms)
            for j in range(len(i)):
                column2.append(i[:j] + i[j + 1:] + i[j:j + 1])

        cofidence_series = pd.Series(index=[ms.join(i) for i in column2])  # 定义置信度序列

        for i in column2:  # 计算置信度序列
            cofidence_series[ms.join(i)] = support_series[ms.join(sorted(i))] / support_series[ms.join(i[:len(i) - 1])]

        for i in cofidence_series[cofidence_series > confidence].index:  # 置信度筛选
            result[i] = 0.0
            result[i]['confidence'] = cofidence_series[i]
            result[i]['support'] = support_series[ms.join(sorted(i.split(ms)))]

    result = result.T.sort_values(['confidence', 'support'], ascending=False)  # 结果整理，输出
    print(u'\n结果为：')
    print(result)
    return result

文件2是导入数据进行关联分析

# -*- coding: utf-8 -*-


from __future__ import print_function
import pandas as pd
from apriori import *  # 导入自行编写的apriori函数

inputfile = '../data/menu_orders.xls'
outputfile = '../tmp/apriori_rules.xls'  # 结果文件
data = pd.read_excel(inputfile, header = None)

print(u'\n转换原始数据至0-1矩阵...')
ct = lambda x : pd.Series(1, index = x[pd.notnull(x)])  # 转换0-1矩阵的过渡函数
b = map(ct, data.as_matrix())  # 用map方式执行
data = pd.DataFrame(list(b)).fillna(0)  # 实现矩阵转换，空值用0填充
print(u'\n转换完毕。')
del b  # 删除中间变量b，节省内存

support = 0.2  # 最小支持度
confidence = 0.5  # 最小置信度
ms = '---'  # 连接符，默认'--'，用来区分不同元素，如A--B。需要保证原始表格中不含有该字符

find_rule(data, support, confidence, ms).to_excel(outputfile)  # 保存结果

结果如下：

参考资料

链接: 机器学习—关联规则分析之Apriori算法.
书籍：《python数据分析与挖掘实战》
实验菜品数据集: 数据百度网盘下载，提取码7hwd.

转载：https://blog.csdn.net/weixin_48077303/article/details/115429828