Current Location:home > Browse

1. chinaXiv:201901.00148 [pdf]

面向图文匹配任务的多层次图像特征融合算法

郝志峰; 李俊峰; 蔡瑞初; 温雯; 王丽娟; 黎伊婷
Subjects: Computer Science >> Integration Theory of Computer Science

现有主流的利用预训练卷积神经网络提取图像特征的方法存在如下问题:仅使用单层预训练特征表征图像;预训练任务与实际研究任务不一致。使得现有图文匹配方法无法充分利用图像特征,极易受到噪声特征干扰。针对上述问题,使用了预训练网络中的多层特征,并提出了多层次图像特征融合算法。在图文匹配的学习目标指导下,利用多层感知机(Multi-Layer Perceptron)有监督地融合和降维多层次的预训练图像特征,生成融合图像特征,从而充分利用预训练特征,减少噪声干扰。实验结果表明,提出的融合算法可实现对预训练的图像特征更有效的利用,相比于使用单层次特征的方法能获得更好的图文匹配效果。

submitted time 2019-01-28 From cooperative journals:《计算机应用研究》 Hits1249Downloads695 Comment 0

2. chinaXiv:201811.00149 [pdf]

基于叠层循环神经网络的语义关系分类模型

郝志峰; 陈培辉; 蔡瑞初; 温雯; 王丽娟
Subjects: Computer Science >> Integration Theory of Computer Science

基于循环神经网络结合句法结构的方法被广泛运用于关系分类,利用神经网络对输入的编码信息自动获取特征并实现关系分类;然而,目前已有的方法主要是基于单一特定句法结构的模型,而特定句法结构的模型不能够迁移到其他句法结构类型上。针对该问题,提出一种融合多句法结构的叠层循环神经网络模型。该叠层循环神经网络分为两层进行网络构建,首先在序列层进行实体预训练,通过Bi-LSTM-CRF融合Attention机制,提高模型对文本序列上实体信息的关注度,从而获取更加准确的实体特征信息,促进关系层阶段更好地分类;其次在关系层,将Bi-Tree-LSTM嵌套在序列层之上,并将序列层的隐状态与实体特征信息传入关系层,利用共享参数对三种不同的句法结构进行加权学习,通过端到端的模型训练并实现语义关系分类。实验结果表明,该模型在SemEval-2010?Task8语料库上的marco-F1值达到了85.9%,并进一步地提升了模型的鲁棒性。

submitted time 2018-11-29 From cooperative journals:《计算机应用研究》 Hits890Downloads564 Comment 0

3. chinaXiv:201811.00175 [pdf]

面向云端FPGA的卷积神经网络加速器的设计及其调度

蔡瑞初; 余洋; 钟椿荣; 卢冶; 陈瑶
Subjects: Computer Science >> Integration Theory of Computer Science

卷积神经网络的高计算复杂性阻碍其广泛用于实时和低功耗应用,现有软件实现方案难以满足卷积神经网络对运算性能与功耗的要求,传统面向FPGA的卷积神经网络构造方式具有流程复杂、周期较长和优化空间较小等问题。针对该问题,根据卷积神经网络计算模式的特点,提出一种面向云端FPGA的卷积神经网络加速器的设计及其调度机制。通过借鉴基于HLS技术、引入循环切割参数和对卷积层循环重排的设计,采用模块化方式构造网络,并进行参数拓展以进一步优化加速器处理过程;通过分析系统任务和资源的特性总结调度方案,且从控制流和数据流两方面对其进行优化设计。与其他已有工作相比,所提出的设计提供了一种同时具有灵活性,低能耗、高能效和高性能的解决方案,并且探讨了加速器的高效通用调度方案。实验结果表明,与CPU实现相比,该设计实现AlexNet达到8.48倍的加速,而实现Cifar的功耗仅为其24.96%;相较于CPU+GPU实现对Cifar6.90倍的加速比,虽然实现较大规模网络的性能不及GPU,但功耗最小仅为其14.98%;与已有研究成果相比,最大达到6.29倍的加速比。其中与大平台生成的加速器相比,即使仅达到相当的性能,但具有更低的时钟频率。

submitted time 2018-11-29 From cooperative journals:《计算机应用研究》 Hits1442Downloads1045 Comment 0

  [1 Pages/ 3 Totals]