您好,欢迎访问中国农业科学院 机构知识库!

基于BERT和深度主动学习的农业新闻文本分类方法

文献类型: 中文期刊

作者: 石运来 1 ; 崔运鹏 1 ; 杜志钢 2 ;

作者机构: 1.中国农业科学院农业信息研究所

2.淄博市数字农业农村发展中心

关键词: 深度学习;农业新闻;文本分类;BERT模型;主动学习

期刊名称: 农业图书情报学报

ISSN: 1002-1248

年卷期: 2022 年 008 期

页码: 19-29

摘要: [目的 /意义]当前农业新闻分类研究中的模型训练以被动学习方式居多,普遍存在数据无法即时标注及标注成本过高的问题,对农业新闻分析工作也造成了一定阻碍。为解决该问题,运用主动学习或者深度主动学习技术从未标注数据中选择更有价值和代表性的数据进行人工标注并构建标注数据集,提升农业新闻挖掘工作效率和效果。[方法 /过程]将文本分类常用的机器学习模型结合主动学习方法分析提升效果,以及使用BERT模型结合3种采样策略进行深度主动学习训练,在共19 847条样本的新闻爬虫语料上以筛选出农业相关新闻为目标,通过每轮增加30个样本标注的迭代实验进行测试。[结果 /结论]实验结果表明:主动学习方法的应用对各个模型的训练过程均有明显提升。其中BERT模型配合判别性主动学习采样函数,具有最优的新闻文本分类效果和最低的标注数据需求。

  • 相关文献

[1]我国农业新闻传媒的发展对策. 丁麟. 2009

[2]基于改进TF-IDF-CHI算法的农业科技文献文本特征抽取. 杜若鹏,鲜国建,寇远涛. 2019

[3]地理标志农产品品牌管理政策注意力分析模型构建及应用. 霍梦佳,刘娟,黄杰. 2023

[4]本体知识库构建研究. 李嘉锐. 2015

[5]基于深度卷积神经网络的红树林物种无人机监测研究. 黄亦其,刘琪,赵建晔,黄文善,孙中宇,乔曦. 2020

[6]基于词向量的检索扩展方法与农业领域实证. 吴蕾,梁晓贺,乌吉斯古楞,王瑞. 2019

[7]基于神经网络的文献主题国别标引方法研究. 王新. 2019

[8]基于无人机遥感的盛花期薇甘菊爆发点识别与监测. 孙中宇,荆文龙,乔曦,杨龙. 2019

[9]机器学习在植物病害识别研究中的应用. 王聃,柴秀娟. 2019

[10]基于深度学习与特征可视化方法的草地贪夜蛾及其近缘种成虫识别. 魏靖,王玉亭,袁会珠,张梦蕾,王振营. 2020

[11]基于长短时记忆神经网络的生猪价格预测模型. 刘怡然,王东杰,邓雪峰,刘振宇. 2021

[12]人工智能驱动智慧奶牛养殖的思考与实践. 夏雪,侍啸,柴秀娟. 2020

[13]基于U-Net和分水岭算法的无人机单木树冠提取方法. 金忠明,曹姗姗,王蕾,孙伟. 2020

[14]基于深度学习的天然草地植物物种识别方法. 高宏元,高新华,冯琦胜,李文龙,鲁征,梁天刚. 2020

[15]基于深度残差网络的番茄叶片病害识别方法. 吴华瑞. 2019

[16]基于卷积神经网络和AMSR2微波遥感的土壤水分反演研究. 谭建灿,毛克彪,左志远,赵天杰,谭雪兰,李建军. 2018

[17]基于深度学习的作物基因组学和遗传改良. 辛志奇,赵航,汪海,路铁刚. 2021

[18]基于深度学习框架的隐藏主题变量图模型. 吴蕾,张文生,王珏. 2015

[19]GPT技术驱动的农业发展范式研究与展望. 李灯华,李干琼,许世卫,陈威. 2023

[20]融合多尺度特征和注意力机制的油菜倒伏分类. 郑权,乔江伟,李婕,秦涛,涂静敏,李礼,蒋琦. 2024

作者其他论文 更多>>