数据挖掘与商务智能 Data Mining & Business Intelligence

数据挖掘与商务智能Data Mining & Business Intelligence 第六章序列模式挖掘西安电子科技大学　软件学院主讲人：黄健斌

内容提纲 • 序列模式挖掘简介 • 序列模式挖掘的应用背景 • 序列模式挖掘算法概述 • GSP算法 • SPADE算法 • PrefixSpan算法 • CloSpan算法 • 利用SPSS软件挖掘频繁序列模式

序列模式挖掘简介 • 序列模式的概念最早是由Agrawal和Srikant 提出的。 • 动机：大型连锁超市的交易数据有一系列的用户事务数据库，每一条记录包括用户的ID，事务发生的时间和事务涉及的项目。如果能在其中挖掘涉及事务间关联关系的模式，即用户几次购买行为间的联系，可以采取更有针对性的营销措施。

序列模式挖掘的应用背景 • 应用领域： • 客户购买行为模式预测 • Web访问模式预测 • 疾病诊断 • · · · · · ·

应用案例1：客户购买行为模式分析 • B2C电子商务网站可以根据客户购买纪录来分析客户购买行为模式，从而进行有针对性的营销策略。图书交易网站将用户购物纪录整合成用户购物序列集合相关商品推荐：如果用户购买了书籍“UML语言”, 则推荐“Visio2003实用技巧” 得到用户购物行为序列模式 <(“UML语言”)(“Visio2003实用技巧”)>

应用案例2：Web访问模式分析 • 大型网站的网站地图(site map)往往具有复杂的拓扑结构。用户访问序列模式的挖掘有助于改进网站地图的拓扑结构。比如用户经常访问网页web1然后访问web2,而在网站地图中二者距离较远，就有必要调整网站地图，缩短它们的距离，甚至直接增加一条链接。 Index 网站入口 web1 web2

应用案例3：疾病诊断 • 医疗领域的专家系统可以作为疾病诊断的辅助决策手段。对应特定的疾病，众多该类病人的症状按时间顺序被记录。自动分析该纪录可以发现对应此类疾病普适的症状模式。每种疾病和对应的一系列症状模式被加入到知识库后，专家系统就可以依此来辅助人类专家进行疾病诊断。 • 例: 通过分析大量曾患A类疾病的病人发病纪录，发现以下症状发生的序列模式：<(眩晕) (两天后低烧37-38度) > • 如果病人具有以上症状，则有可能患A类疾病

事务数据库实例 • 例：一个事务数据库，一个事务代表一笔交易，一个单项代表交易的商品，单项属性中的数字记录的是商品ID

序列数据库 • 一般为了方便处理，需要把事务数据库转化为序列数据库。方法是把用户ID相同的记录合并，有时每个事务的发生时间可以忽略，仅保持事务间的顺序关系。

基本概念 • 项集(Itemset)是所有在序列数据库出现过的单项组成的集合 • 例：对一个用户购买记录的序列数据库来说，项集包含用户购买的所有商品，一种商品就是一个单项。通常每个单项有一个唯一的ID，在数据库中记录的是单项的ID。

基本概念 • 元素(Element)可表示为(x1x2…xm)， xk(1 <= k <= m)为不同的单项。元素内的单项不考虑顺序关系，一般默认按照ID的字典序排列． • 在用户事务数据库里，一个事务就是一个元素

基本概念 • 序列(Sequence)是不同元素(Element)的有序排列，序列s可以表示为s = <s1s2…sl>，sj(1 <= j <= l)为序列s的元素 • 一个序列包含的所有单项的个数称为序列的长度。长度为l的序列记为l-序列

举例 • 例：一条序列<(10,20)30(40,60,70)>有3个元素，分别是（10 20），30，（40 60 70 ）； • 3个事务的发生时间是由前到后。这条序列是一个6-序列。

基本概念 • 设序列 = <a1a2…an>，序列 = <b1b2…bm>，ai 和bi都是元素。如果存在整数1 <= j1 < j2 <…< jn <= m，使得a1  bj1，a2  bj2，…， an  bjn，则称序列为序列的子序列，又称序列包含序列，记为  。 • 序列在序列数据库S中的支持度为序列数据库S中包含序列的序列个数，记为Support() • 给定支持度阈值，如果序列在序列数据库中的支持度不低于，则称序列为序列模式 • 长度为l的序列模式记为l-模式

例子 • 例子：设序列数据库如下图所示，并设用户指定的最小支持度 min-support = 2。 • 序列<a(bc)df>是序列<a(abc)(ac)d(cf)>的子序列 • 序列<(ab)c>是长度为3的序列模式

Seq. ID Sequence 10 <(bd)cb(ac)> 20 <(bf)(ce)b(fg)> 30 <(ah)(bf)abf> 40 <(be)(ce)d> 50 <a(bd)bcb(ade)> 序列模式先验特性 min_sup =2 <hb> 非频繁则： <hab> 非频繁 <(ah)b> 非频繁 • Apriori (Agrawal & Sirkant’94) 特性 • 如果序列s是非频繁序列，则s的所有超集序列都是非频繁的

序列模式 VS 关联规则

序列模式挖掘算法概述 • 类Apriori算法该类算法基于Apriori理论，即序列模式的任一子序列也是序列模式。算法首先自底向上的根据较短的序列模式生成较长的候选序列模式，然后计算候选序列模式的支持度。典型的代表有GSP算法, spade算法等 • 基于划分的模式生长算法该类算法基于分治的思想，迭代的将原始数据集进行划分，减少数据规模，同时在划分的过程中动态的挖掘序列模式，并将新发现的序列模式作为新的划分元。典型的代表有FreeSpan算法和prefixSpan算法

知识回顾 • 基本概念 • 支持度计数：包含特定项集的事务的个数: • 关联规则：形如的蕴涵表达式 • 支持度：同时包含X,Y的事务在所有事务中所占的比例 • 置信度：事务X出现时Y出现的频繁程度 • 频繁项集：满足最小支持的项集

知识回顾 • 定理 • 先验原理：如果一个项集是频繁的，那它的所有子集一定都是频繁的 • 定理1：如果规则不满足置信度阈值，则形如的规则一定也不满足置信度阈值，其中 X'是 X的子集 • 关联规则挖掘的任务划分： • 频繁项集的产生（候选( 产生 )，剪枝（基于先验原理）） • 规则的产生(逐层方法来产生关联规则,定理1剪枝)

知识回顾 Apriori算法伪代码： Ck: Candidate itemset of size k Fk : frequent itemset of size k F1 = {frequent items}; for (k = 1; Fk !=; k++) do begin Ck+1 = candidates generated from Fk ; for each transaction t in database do increment the count of all candidates in Ck+1 that are contained in t Fk+1 = candidates in Ck+1 with min_support end returnkFk;

知识回顾 • 支持度度量满足单调性(X'为X的子集) • 置信度一般不满足单调性(X'为X的子集) • 如果关联规则产生自同一项集，则置信度满足单调性

Pruned supersets 知识回顾基于支持度的候选项集剪枝

Pruned Rules 知识回顾基于置信度的候选规则剪枝 Low Confidence Rule

GSP算法 • 算法思想(候选产生测试法)：类似于Apriori算法，采用冗余候选模式的剪除策略和特殊的数据结构-----哈希树来实现候选模式的快速访存。

GSP算法描述 • 扫描序列数据库，得到长度为1的序列模式F1，作为初始的种子集 • 根据长度为i 的种子集Fi，通过连接操作和修剪操作生成长度为i+1的候选序列模式Ci+1；扫描序列数据库，计算每个候选序列模式的支持度，产生长度为i+1的序列模式Fi+1，并将Fi+1作为新的种子集 • 重复第二步，直到没有新的序列模式或新的候选序列模式产生为止 F1C2F2C3F3C4F4 ……

GSP算法伪代码 • 输入：大项集阶段转换后的序列数据库DT。 • 输出：最大序列 • （1） L1 = {large 1-sequences}； • （2） FOR （k= 2；Lk-1；k++） DO BEGIN • （3） Ck = GSPgenerate(Lk-1)； • （4） FOR each customer-sequence c in the database DT DO • （5） Increment the count of all candidates in Ck that are contained in c； • （6） Lk = Candidates in Ck with minimum support； • （7） END； • （8） Answer = Maximal Sequences in ∪kLk；

GSP算法 • 产生候选序列模式主要分两步： • 连接阶段：如果去掉序列模式s1的第一个元素与去掉序列模式s2的最后一个元素所得到的序列相同，则可以将s1与s2进行连接，即将s2的最后一个元素添加到s1中 • 剪枝阶段：若某候选序列模式的某个子序列不是序列模式，则此候选序列模式不可能是序列模式，将它从候选序列模式中删除 L1C2L2C3L3 C4L4 ……

GSP算法 • 序列合并过程序列s1与另一个序列s2合并，s2的最后一个单项可以作为最后一个单项合并到s1的最后一个元素中，也可以作为一个单独的元素。取决于以下条件： • 如果s2的最后两个单项属于相同的元素，则s2的最后一个单项在合并后的序列中是s1的最后一个元素的一部分。 • 如果s2的最后两个单项属于不同的元素，则s2的最后一个单项在合并后的序列中成为连接到s1尾部的元素。

GSP算法 • 候选序列模式的支持度计算：对于给定的候选序列模式集合C，扫描序列数据库，对于其中的每一条序列s,找出集合C中被s所包含的所有候选序列模式，并增加其支持度计数

举例

哈希树 • GSP采用哈希树存储候选序列模式。哈希树的节点分为三类： • 根节点 • 内部节点 • 叶子节点

哈希树 • 根节点和内部节点中存放的是一个哈希表，每个哈希表项指向其它的节点。而叶子节点内存放的是一组候选序列模式。 • 例：

添加候选序列模式 • 从根节点开始，用哈希函数对序列的第一个元素做映射来决定从哪个分支向下，依次在第n层对序列的第n个单项作映射来决定从哪个分支向下，直到到达一个叶子节点。将序列储存在此叶子节点。 • 初始时所有节点都是叶子节点，当一个叶子节点所存放的序列数目达到一个阈值，它将转化为一个内部节点。

计算候选序列模式的支持度 • 给定一个序列s是序列数据库的一个记录： • 对于根节点，用哈希函数对序列s的每一个单项做映射来并从相应的表项向下迭代的进行操作 2）。 • 对于内部节点，如果s是通过对单项x做哈希映射来到此节点的，则对s中每一个和x在一个元素中的单项以及在x所在元素之后第一个元素的第一个单项做哈希映射，然后从相应的表项向下迭代做操作 2）或 3）。 • 对一个叶子节点，检查每个候选序列模式c是不是s的子序列.如果是相应的候选序列模式支持度加一。

计算候选序列模式的支持度 • hash树存储的优点 • 这种计算候选序列的支持度的方法避免了大量无用的扫描，对于一条序列，仅检验那些最有可能成为它子序列的候选序列模式。扫描的时间复杂度由O(n*m)降为O(n*t),其中n表示序列数量，m表示候选序列模式的数量，t代表哈希树叶子节点的最大容量

GSP算法存在的主要问题 • 如果序列数据库的规模比较大，则有可能会产生大量的候选序列模式 • 需要对序列数据库进行循环扫描 • 对于序列模式的长度比较长的情况，由于其对应的短的序列模式规模太大，本算法很难处理

SPADE算法 • SPADE(Sequential PAttern Discovery using Equivalent Class) developed by Zaki 2001 • 基于Apriori的垂直数据格式的序列模式挖掘算法 • 通过简单的连接K序列任意长度为(k-1)子序列的ID_list，可以确定任意K序列的支持度。ID_list的长度等于K序列的支持度，即可确定是否是序列模式。 • 数据库表示形式： < itemset: (sequence_ID,event_ID) >

SPADE算法 minsup =2

SPADE算法总结 • 优点： • 垂直数据格式的使用连同ID_list的创建，可以减少对序列数据库的扫描。 • ID_list携带了计算候选序列支持度的必要信息，随着频繁序列长度的增加，导致连接速度加快。 • 缺点： • 同GSP，使用宽度优先和先验剪枝产生很大的候选集。

序列模式挖掘算法概述 • 基于划分的模式生长算法该类算法基于分治的思想，迭代的将原始数据集进行划分，减少数据规模，同时在划分的过程中动态的挖掘序列模式，并将新发现的序列模式作为新的划分元。典型的代表有FreeSpan算法和PrefixSpan算法

PrefixSpan算法 • 算法思想：基于FP-Growth算法 • Pei, et al.@ICDE’01 • 采用分治的思想，不断产生序列数据库的多个更小的投影数据库，然后在各个投影数据库上进行序列模式挖掘

知识回顾 • FP-Growth算法 • 通过逐个读入事务，并把每一个事务映射到FP树中的一条路径的方法构造FP-Tree。 • 在FP-Tree上利用递归分治的方法挖掘频繁项集

知识回顾 null After reading TID=1: A:1 B:1 After reading TID=2: null B:1 A:1 B:1 C:1 D:1

知识回顾 Transaction Database null B:3 A:7 B:5 C:3 C:1 D:1 Header table D:1 C:3 E:1 D:1 E:1 D:1 E:1 D:1 Pointers are used to assist frequent itemset generation

基本概念 • 前缀：设每个元素中的所有单项按照字典序排列。给定序列= <e1e2…en>，= <e1’ e2’… em’> (m  n) ，如果ei’= ei (i m - 1)， em’  em，并且(em - em’)中的单项均在em’中单项的后面，则称是的前缀 • 例：序列<(ab)> 是序列<(abd)(acd)> 的一个前缀；序列<(ad)>则不是。

基本概念 • 投影：给定序列和 ，如果是的子序列，则关于的投影’必须满足： 是’的前缀，’是的满足上述条件的最大子序列 • 例：对于序列=<(ab)(acd)>，其子序列= <(b)>的投影是’ = <(b)(acd)>; <(ab)>的投影是原序列<(ab)(acd)>。

基本概念 • 后缀：序列关于子序列= <e1e2… em-1em’>的投影为’ = <e1e2… en> (n >= m)，则序列关于子序列的后缀为<em”em+1… en>，其中em” = (em - em’) • 例：对于序列<(ab)(acd)>，其子序列<(b)>的投影是<(b)(acd)>，则<(ab)(acd)>对于<(b)>的后缀为<(acd)>。 ※ 总结：后缀即是投影去掉它自身；

举例 • 例： <a(abc)(ac)d(cf)> <(abc)(ac)d(cf)> <a> <aa> <(_bc)(ac)d(cf)> <a(ab)> <a(abc)> <(_c)(ac)d(cf)> <ab>

基本概念 • 投影数据库：设为序列数据库S中的一个序列模式，则的投影数据库为S中所有以为前缀的序列相对于的后缀，记为S| • 投影数据库中的支持度：设为序列数据库S中的一个序列，序列以为前缀，则在的投影数据库S|中的支持度为S|中满足条件  .的序列的个数

数据挖掘与商务智能 Data Mining & Business Intelligence