180 likes | 312 Vues
基于条件随机场的否定与不确定信息检测研究. 陈站成 邹博伟 朱巧明 李培峰. 报 告 内 容. 研究背景 研究现状 模型介绍 实验及分析 总结及展望. 研 究 背 景. 背景 目前信息抽取都不鉴定信息的真伪或可靠性,而在实际语言或文本中,却存在大量否定或不确定信息。 为了保证通过信息抽取技术所获取知识的准确性,应将此类信息与事实信息分开处理。. 研 究 背 景. 否定信息 对某种现象或事件存在或发生的否认 。 不确定信息 事物的类属边界或性质状态不明确,是人们对事物性质状态的模糊认识的反映。不确定是自然语言语义的一个基本属性。.
E N D
基于条件随机场的否定与不确定信息检测研究 陈站成 邹博伟 朱巧明 李培峰
报 告 内 容 研究背景 研究现状 模型介绍 实验及分析 总结及展望
研 究 背 景 • 背景 • 目前信息抽取都不鉴定信息的真伪或可靠性,而在实际语言或文本中,却存在大量否定或不确定信息。 • 为了保证通过信息抽取技术所获取知识的准确性,应将此类信息与事实信息分开处理。
研 究 背 景 • 否定信息 • 对某种现象或事件存在或发生的否认。 • 不确定信息 • 事物的类属边界或性质状态不明确,是人们对事物性质状态的模糊认识的反映。不确定是自然语言语义的一个基本属性。 • eg1,巴塞罗那主席罗塞尔表示不会在今年夏天之前签下内马尔。 • eg2,国际金价持续下跌的原因可能是周五塞浦路斯央行卖出黄金储备。
研 究 背 景 • 否定与不确定信息检测 • CoNLL’2010首次组织了不确定信息评测任务:表达不确定含义的词或短语称为触发词。 • 本文以汉语科技文献为基础,基于CRF模型,通过识别表示不确定含义的词或短语来检测否定与不确定信息。 eg. It suggested that increase of ER levels play an important role in the pathogenesis of gynecomastia.
研 究 现 状 • 英语研究现状 • 基于规则的方法 • Chapman等(2001)提出正则表达式的匹配算法,判断医学术语是否包含在否定信息之内。 • 基于机器学习的方法 • Morante等(2009)使用三个浅层句法特征分类器进行否定与不确定信息序列标注。 • Agarwal等(2010)基于CRF模型在平衡数据下识别否定与不确定信息。
研 究 现 状 • 汉语研究现状 • 语言学角度 • 孙也平(1978)根据词性将否定词分为否定动词和否定副词,探讨了否定词的用法。 • 张红梅(2006)对现代汉语否定句在语义上表现出的不确定倾向进行了分析、探讨。 • 崔晓菊等(2013)对模糊语言中模糊词语的意义表征作以探讨。 • 自动识别 • 计峰等(2010)在新闻语料上标注了不确定信息,并利用触发词的信息构建了句子的评分模型,来识别不确定性信息。
模 型 介 绍 • 条件随机场模型通常被用来进行序列数据识别,在自然语言处理中已被用于分词、词性标注、命名实体识别及相关研究。 • 计算公式如下: • X为观察序列集,Y为标记序列集,e为随机场对应无向图中节点集,v为无向图中节点间的边集。
模 型 介 绍 • 标注集:CueType = { BCue, ICue ,OCue} • 当基本单位是触发词第一个词时,用BCue标识; • 当基本单位是触发词内非第一个词时,用ICue标识; • 其它情况下,用OCue标识。 • 特征集 • 基于字和基于词是两种基本方法 • 以“查询时间基本不受M值的影响”为例。 • 分词后:查询时间 基本 不 受 M 值 的 影响 • 字边界特征:B M M E B E S S S S S B E • 字的词性特征取所在词的词性。
模 型 介 绍 • 特征模板 • 本文选择了当前字或词以及上下 • 文各字、词、词性组成特征模板集。 • 窗口长度的不同也影响系统性能, • 把窗口长度作为特征之一。
实 验 • 实验语料:将语料(Chen et al,2013) • 按论文篇数均分成两部分,训练语料共2421 • 句,测试语料共2421句。 • 工具:采用中科院分词系统ICTCLAS对语 • 料进行分词以及词性标注,选取CRF++0.58 • 训练模型。 • 评价指标
实 验 • 实验包括三个内容: • 针对本文上述提及的特征进行实验,在特征模板窗口分别为1、3、5的条件下对所有特征及其组合进行实验验证。 • 本文实现了Agarwal等(2010)提出的系统,将该系统作为基准系统与本文系统进行比较。 • 构建平衡语料来评估原始数据的不平衡性给系统带来的影响。
结 果 分 析 • 在特征模板窗口分别为1、3、5时,对所有特征及其组合进行实验验证。 • 各类特征均在特征模板窗口 • 为3时达到最好的性能。 • 与特征模板窗口长度为1的系 • 统相比,特征模板窗口长度为 • 3的系统利用了较多的上下文 • 信息。 • 特征模板窗口长度为5的系统 • 虽然加入了更多的上下文信息, • 但对模型来说,却造成了数据 • 稀疏,反而导致了系统性能的 • 下降。
结 果 分 析 • 在最佳特征模板窗口长度 • 下,不同特征下的否定与不 • 确定信息检测系统性能比较。 • 否定基于词最高68.03%, • 不确定基于字最高43.02%。 • 在相同实验条件下,否定 • 信息检测系统的性能普遍高 • 于不确定信息检测系统。
结 果 分 析 • 最佳系统与基准系统结果比较。 • 否定与不确定信息检测最佳系统性能比基准系统性能分别高出5.09%、6.93%,表明仅使用Agarwal(2010)中的原始特征是不够的。 • 在英语中最小单位是词,在汉语中最小单位可以是字,不确定检测在字框架下效果更好。
结 果 分 析 • 在使用语料上,使用基准系统平衡数据的方法,测试数据不平衡给系统带来的影响。 • 对于否定信息检测任务,当数据平衡后,F值反而下降,表明在否定信息检测中使用特征足够时,数据平衡对否定信息检测并无积极影响。 • 对于不确定信息检测任务,数据平衡后的F值提高了13.54%,这与否定信息检测任务是不同的。
总 结 及 展 望 • 总结 • 仅仅利用词特征是不够的,上下文信息的增加对否定与不确定信息检测性能的提高是有效的。 • 基于字的效果并不一定比基于词的效果差,在不确定信息检测时基于字更好。 • 实验结果表明英文中处理方法并不适合汉语否定与不确定信息检测,尤其是否定信息检测时,数据平衡性能反而下降。 • 展望 • 将否定与不确定信息检测任务有区分的对待、处理。 • 后续工作也可以着眼于细粒度的否定与不确定信息识别。