关联规则
是反映一个事物与其他事物之间的互相依存性和关联性,常用于实体商店或在线电商的推荐系统:通过对客户的订购记录数据库进行关联规则挖掘,最终目的是发觉客户群体的订购习惯的内在共性,例如订购产品A的同时也连带订购产品B的机率,根据挖掘结果,调整货架的布局陈列、设计促销组合方案,实现销量的提高,最精典的应用案例莫过于。
关联规则剖析中的关键概念包括:支持度(Support)、置信度(Confidence)与提高度(Lift)。首先,我们简单温故下这3个关键指标:
1 支持度 (Support)支持度是两件商品(A∩B)在总销售笔数(N)中出现的机率,即A与B同时被订购的几率。
公式:
例子说明:
比如某商场2016年有100w笔销售,顾客选购可乐又订购软糖有20w笔,顾客选购可乐又订购蛋糕有10w笔,那可乐和饼干的关联规则的支持度是20%,可乐和蛋糕的支持度是10%。
2 置信度 (Confidence)置信度是订购A后再订购B的条件机率。简单来说就是交集部份C在A中比列,如果比列大说明订购A的顾客很大期望会订购B商品。
公式:
例子说明:
某商场2016年可乐订购次数40w笔,购买可乐又订购了饼干是30w笔,顾客选购可乐又订购蛋糕有10w笔,则订购可乐又会订购饼干的置信度是75%,购买可乐又订购蛋糕的置信度是25%,这说明买可乐也会买饼干的关联性比蛋糕强,营销上可以做一些组合策略销售。
3 提升度 (Lift)提升度表示先订购A对订购B的机率的提高作用,用来判定规则是否有实际价值,即使用规则后商品在购物车中出现的次数是否低于商品单独出现在购物车中的频度。如果小于1说明规则有效,小于1则无效。公式:
例子说明:
可乐和饼干的关联规则的支持度是20%,购买可乐的支持度是3%,购买饼干的支持度是5%,则提高度是1.33>1, A-B规则对于商品B有提高疗效。
理论很简单,真正实践上去却会碰到种种困难,印证了那句”
数据剖析
师的50%~80%的时间都花在了处理数据上”,例如通常POS明细是以下图表方式诠释:
要估算支持度(Support)、置信度(Confidence)与提高度(Lift),首先须要晓得Freq(A∩B)、Freq(A)、Freq(B)和总笔数数值,那么须要对商品进行排列组合。
所以,我们希望转换成下表方式,如销售ID=000001, 4种商品的两两组合(种):
若一个收银小票(销售ID)有30种商品,则组合数达到:
而可视化层级上还须要诠释集团下每位分公司、每个城市、每个分店、月度、季度或则年度时间的关联规则剖析,如果用传统的工具来实现上述剖析无异于大海捞针。
BDP商业数据平台以高效的数据处理和优秀的可视化数据剖析闻名。在BDP中,不仅可以方便地实现多维数据剖析,还可以通过灵活强悍的功能组合来进行更深层面的数据剖析探求。
从一个分析师的角度来看,我觉得BDP有以下三个最大的亮点:
1. 易操作性——可以挺好的把看法转化为实践应用。
2. 优秀的处理能力——轻松处理亿级数据,尤为突出的是合表速率秒级响应,这得益于BDP强悍的大数据构架以及云端估算能力。
3. 灵活及优秀的可视化——通过拖放的方法即可实现可视化,同时也可自定义报表。
下面我们就来瞧瞧在BDP中怎样实现Apriori算法,实现关联规则剖析:
商品两两组合的初步看法是通过量化的思想对商品进行编码,比方说可根据增序(从1开始),算出单笔销售单最大值,求出二者差值得到一组字段,通过形参行转列方式实现2种商品两两组合。
图:销售单2种商品两两组合逻辑图
BDP实现过程:
为了实现上述的组合算法,也为了便捷感兴趣的朋友进行实践,我们先上传10条数据到BDP平台,共有3票购物单,最大商品数分别是5、3以及2。
(如果您不是企业级用户,BDP也为您提供了免费个人版,注册后即可使用。)
公众号(BDP商业数据平台)回复:数据,即可获取测试数据
图:EXCEL 上传表
操作①:
【工作表】-【创建合表】-【SQL创建】
图:商品量化
上图转换成日期的方式,主要目的是为下一步的字段转列做打算,为配合explode()函数使用。其中须要说明的是上图[日期]字段是自定义日期,可以修改成任意日期,没有实际日期意义。
图:商品组合数疗效
上图主要使用的关键函数是FILL_DATES([日期1],[日期2]),Explode()。组合疗效初显露,只是缺另一个商品名,然后把[下一日期]字段通过LEFT JOIN 关联出商品B的名称。
操作②:
【工作表】-【创建合表】-【多表关联】 用于创建表关联 包括(LEFT/INNER/ FULL JOIN)
图:商品组合数实现
从上图可以见到A商品和B商品两两组合逻辑已完成,在当前表基础上我们早已可以去做连带剖析内容。
在这儿,求Freq(A)和Freq(B)和总笔数数值就不祥述了,思想大致是求出所有销售商品的A 和B商品的频次,通过合表关联,整合到一张大表。
操作③:
【工作表】-【创建合表】-【追加合并】合并订单总量 ,A商品订单数,B商品订单数和A∩B商品连带笔数
图:追加合并逻辑实现
追加合并可以把相同数组商品合并在一起,方便估算三个指标(支持度、置信度、提升度)有利于可视化诠释。
操作④:
可视化诠释:【BDP】-【仪表盘】
图:仪表盘全局展示
注:为了更好彰显可视化疗效,这部份的可视化展示成果并非使用上述的测试数据或某个企业数据。
制作三个图表进行购物篮剖析:
图: TOP 20商品连带次数
上图反映季度连带最高频次商品,高联带商品意味着对顾客吸引力大商品黏性强,同时也可以查看不同分公司的TOP20连带情况。根据结果我们可以合理设计促销策略,例如买2送1等。
图:商品组合指标
置信度高说明商品连带紧密,说明顾客连带意愿强,同时关注支持度,支持度高说明是需求量大,如果支持度低,置信度高虽然对市场作用是有限小的。
图:购物来剖析详情
通过均价,支持度,置信度,提升度综合指标来看待商品组合,发现高价值关联商品,有助于提高客单价,同时也须要考虑提高度,提升度大于1,提升疗效有限,可以把精力花在提高度小于1的商品组合。
同样地,我们是否可以实现三种商品的组合呢?答案是其实的,只要我们深入理解以上过程,三种商品关联也是可以在BDP中实现的。
除了购物篮剖析这个典型应用,关联规则剖析还在金融行业、搜索引擎、智能推荐等领域大有所为,如建行顾客交叉销售剖析、搜索词推荐或则辨识异常、基于兴趣的实时新闻推荐等。
BDP强悍稳定的数据估算能力、多维度的数据剖析、直观的可视化诠释就能帮助企业实现关联规则剖析。通过不同维度的剖析,从海量数据中捕捉到关联关系,进行有的放矢的决策调整,进一步提高销售能力、提高产品利润。
作者|熊辉,BDP咨询顾问
6年数据分析师从业经验,精通大数据剖析与项目施行,对数据挖掘与机器学习算法有深入的研究。