国家自然科学基金(61262064)
- 作品数：8 被引量：11H指数：2
- 相关作者：田生伟禹龙艾山·吾买尔赵建国冯冠军更多>>
- 相关机构：新疆大学电子科技大学更多>>
- 发文基金：国家自然科学基金更多>>
- 相关领域：自动化与计算机技术更多>>
- 注意力机制的LSTM-DBN维语人称代词指代消解被引量：1
- 2019年
- 针对维吾尔语中人称代词指代歧义问题,结合维吾尔语言的词法、语法、词间位置等关系,以及注意力机制、长短时记忆网络和深度置信网络,提出了一种维语人称代词指代消解模型。首先,分析维语中人称代词指代的特点和表达规律,提取出相应词向量特征;其次,借助长短时记忆网络挖掘维吾尔语人称代词的语义特征,并利用注意力机制的相似性度量、权重调节能力,避免信息在层间传递的丢失,实现特征编码向量的信息整合;最后利用深度置信网络(DBN)进一步挖掘出隐藏在维语上下文中的深层语义特征,完成维语人称代词指代消解。实验结果表明,所提模型在挖掘深层语义信息和识别效果上优于传统的深度学习模型,准确率达到了81.14%,F1达到了78.83%。
- 李东欣禹龙田生伟李圃赵建国
- 关键词：人称代词指代消解
- 联合分层注意力网络和独立循环神经网络的地域欺凌识别
- 2019年
- 为提高对文本语境深层次信息的利用效率,提出了联合分层注意力网络(HAN)和独立循环神经网络(IndRNN)的地域欺凌文本识别模型——HACBI。首先,将手工标注的地域欺凌文本通过词嵌入技术映射到低维向量空间中;其次,借助卷积神经网络(CNN)和双向长短期记忆网络(BiLSTM)提取地域欺凌文本的局部及全局语义特征,并进一步利用HAN捕获文本的内部结构信息;最后,为避免文本层次结构信息丢失和解决梯度消失等问题,引入IndRNN以增强模型的描述能力,并实现信息流的整合。实验结果表明,该模型的准确率(Acc)、精确率(P)、召回率(R)、F1和AUC值分别为99.57%、98.54%、99.02%、98.78%和99.35%,相比支持向量机(SVM)、CNN等文本分类模型有显著提升。
- 孟曌田生伟禹龙王瑞锦
- 关键词：结构信息语境
- CNN_BiLSTM双通道维吾尔语名词短语指代消解
- 2020年
- 提出了一种利用CNN_BiLSTM双重通道模型的维吾尔语名词短语指代消解。利用包含维语语言特点的Hand-crafted特征初步筛选先行语和照应语,减少不必要的负例,然后使用wordembedding将先行语和照应语向量化,并作为CNN_BiLSTM双重通道模型的输入,使用双通道模型提取空间语义特征和时间语义特征。两种特征融合之后训练softmax分类器,最终完成指代消解任务。上述方法在维吾尔语名词短语指代消解任务中的准确率为84.3召回率为78.1,F1值为81。实验结果表明,充分利用CNN和BiLSTM分别提取时间和空间双重特征的,可以有效提高维吾尔语名词短语指代消解的性能。
- 张江田生伟禹龙
- 关键词：指代消解
- 基于ATT-IndRNN-CNN的维吾尔语名词指代消解
- 2019年
- 该文提出一种基于注意力机制(attention mechanism,ATT)、独立循环神经网络(independently recurrent neural network,IndRNN)和卷积神经网络(convolutional neural network,CNN)结合的维吾尔语名词指代消解模型(ATT-IndRNN-CNN)。根据维吾尔语的语法和语义结构,提取17种规则和语义信息特征。利用注意力机制作为模型特征的选择组件计算特征与消解结果的关联度,结果分别输入IndRNN和CNN得到包含上下文信息的全局特征和局部特征,最后融合两类特征并使用softmax进行分类完成消解任务。实验结果表明,该方法优于传统模型,准确率为87.23%,召回率为88.80%,F值为88.04%,由此证明了该模型的有效性。
- 祁青山田生伟禹龙艾山·吾买尔
- 关键词：CNN指代消解维吾尔语
- 切片循环神经网络和胶囊网络的性别欺凌识别
- 2021年
- 构建基于语境的中文性别欺凌语料库,提出了一种基于语境、结合注意力机制的切片循环神经网络和胶囊网络并联联合算法模型(CASC)。相比传统基于词法规则、句法分析等深度学习神经网络,上述方法可以获取时序词级、句子级、段落级等多个层级高级信息和全局语义信息。同时通过分析上下文语境,挖掘欺凌词之间的依赖关系和深层语义特征,来提高特征表征能力。实验结果表明,上述方法用于网络性别欺凌文本识别精确率为95.33%,召回率为95.83%,衡量模型整体性能的F值为95.58%,准确率为98.78%。从而证明上述方法用于识别性别欺凌文本的有效性。
- 陈继洪田生伟禹龙
- 基于深度强化学习的维吾尔语人称代词指代消解被引量：3
- 2020年
- 针对深度神经网络模型仅学习当前指代链语义信息忽略了单个指代链识别结果的长期影响问题,提出一种结合深度强化学习(deep reinforcement learning)的维吾尔语人称代词指代消解方法.该方法将指代消解任务定义为强化学习环境下顺序决策过程,有效利用之前状态中先行语信息判定当前指代链指代关系.同时,采用基于整体奖励信号优化策略,相比于使用损失函数启发式优化特定的单个决策,该方法直接优化整体评估指标更加高效.最后在维吾尔语数据集进行实验,实验结果显示,该方法在维吾尔语人称代词指代消解任务中的F值为85.80%.实验结果表明,深度强化学习模型能显著提升维吾尔语人称代词指代消解性能.
- 杨启萌禹龙田生伟艾山·吾买尔
- 关键词：指代消解维吾尔语自然语言处理
- 基于深度学习的维吾尔语人称代词指代消解被引量：6
- 2017年
- 指代消解是自然语言处理技术的核心问题,该文结合维吾尔语语义特征,提出基于深度学习的维吾尔语人称代词指代消解方法。通过堆叠多层无监督RBM网络和一层有监督BP网络,构建DBN深度神经网络学习模型,RBM网络保证特征向量映射达到最优,BP网络对RBM网络的输出向量进行分类,实现维吾尔语人称代词指代消解。经过维吾尔语指代消解语料库测试,F值达到83.81%,比SVM方法高出2.88%。实验结果表明,同等条件下,该方法能有效提升维吾尔语人称代词消解的精度,有助于维吾尔语指代消解研究。
- 李冬白田生伟禹龙吐尔根.依布拉音冯冠军
- 关键词：维吾尔语人称代词指代消解
- 维吾尔语名词短语待消解项识别被引量：1
- 2017年
- 针对维吾尔语名词短语待消解项识别任务,该文提出一种利用栈式非负约束自编码器(Stacked Nonnegative Constrained Autoencoder,SNCAE)完成基于语义特征的待消解项识别方法。为了提高自动编码器隐藏层激活度的稀疏性和重构数据的质量,利用NCAE非负约束算法,为连接权值施加非负性约束。通过分析维吾尔语名词短语语言指代现象,提取出15个特征,利用SNCAE提取出深层语义特征,引入Softmax分类器,进而完成待消解项识别任务。该方法在维吾尔语名词短语待消解项识别中,正例准确率和负例准确率分别比SVM高出8.259%和4.158%,比栈式自编码(SAE)高出1.884%和1.590%,表明基于SNCAE的维吾尔语名词短语待消解项识别方法比SVM和SAE更适合维吾尔文的待消解项识别任务。
- 陶豆豆禹龙田生伟赵建国吐尔根.依布拉音艾斯卡尔.艾木都拉
- 关键词：维吾尔语支持向量机
