基于ECA注意力机制改进的EfficientNet-E模型的森林火灾识别

doi:10.12141/j.issn.1000-565X.230046

华南理工大学学报(自然科学版) ›› 2024, Vol. 52 ›› Issue (2): 42-49.doi: 10.12141/j.issn.1000-565X.230046

基于ECA注意力机制改进的EfficientNet-E模型的森林火灾识别

周浪樊坤瞿华张丁然

北京林业大学经济管理学院，北京 100083

收稿日期:2023-02-14 出版日期:2024-02-25 发布日期:2023-05-12
通信作者: 樊坤（1978-），女，教授，博士生导师，主要从事系统优化与仿真、智能算法、电子商务、MIS等研究。 E-mail:fankun@bjfu.edu.cn
作者简介:周浪（1992-），男，博士生，主要从事人工智能、大数据、智能优化算法、系统优化等研究。E-mail:zhoulang@bjfu.edu.cn
基金资助:
北京林业大学中央高校基本科研业务费专项资金资助项目(2023SKY06);国家自然科学基金资助项目(71901027);教育部人文社科基金资助项目(21YJA630012)

Forest Fire Recognition by Improved EfficientNet-E Model Based on ECA Attention Mechanism

ZHOU Lang FAN Kun QU Hua ZHANG Dingran

School of Economics and Management，Beijing Forestry University，Beijing 100083，China

Received:2023-02-14 Online:2024-02-25 Published:2023-05-12
Contact: 樊坤（1978-），女，教授，博士生导师，主要从事系统优化与仿真、智能算法、电子商务、MIS等研究。 E-mail:fankun@bjfu.edu.cn
About author:周浪（1992-），男，博士生，主要从事人工智能、大数据、智能优化算法、系统优化等研究。E-mail:zhoulang@bjfu.edu.cn
Supported by:
the National Natural Science Foundation of China(71901027);the Humanities and Social Sciences Foundation of the Ministry of Education of China(21YJA630012)

摘要/Abstract

摘要：

火灾的发生给社会带来了巨大损失，森林火灾防治任务日益迫切，而全球变暖的趋势使得这一问题更加复杂。深度学习在各行各业发挥着重要作用，大量模型也被不断地设计和提出，且模型改进的方式多种多样。文中提出了EfficientNet-E模型，它利用更为先进的ECA模块（高效通道注意力模块）来替换EfficientNet模型中的SE模块，通过增强注意力机制性能提升模型的性能。相较于SE模块，ECA模块更好地保留了传输中的信息，使得数据特征在传输过程中保留更充分，从而能够优化模型。为验证EfficientNet-E模型的性能，以及EfficientNet设计思想在森林火灾识别问题上相较于传统模型的优势，文中选取了经典模型中的代表——ResNet和DenseNet作为对照参考，并结合EfficientNet和EfficientNet-E进行了相关实验。实验选用3 303张森林火灾、非火灾和烟雾图片。多轮试验结果显示，EfficientNet-E在识别森林火灾数据上的效果要好于常规的经典深度学习模型，且相较于原始EfficientNet的平均准确率（89.28%），EfficientNet-E的平均准确率（90.04%）有所提升，标准差更小，训练稳定性也更好，从而证实了改进后的EfficientNet-E性能更加优良。

关键词: 深度学习, 图像识别, 森林火灾, EfficientNet-E, 注意力机制

Abstract:

The occurrence of fires has brought huge losses to society. The task of forest fire prevention and control is becoming increasingly urgent, and global warming has made this problem more complicated. Deep learning plays an important role in all walks of life. A large number of models are constantly designed and proposed, and there are various ways to improve the models. Therefore, this article proposed the EfficientNet-E model, which uses the more advanced ECA module (Efficient Channel Attention module) to replace the SE module in the EfficientNet. It improves the performance of the model by enhancing the performance of the attention mechanism. Compared with the SE module, the ECA module better retains the information during transmission, allowing the data features to be more fully retained during the transmission process, thus enabling the model to be optimized. To verify the performance of the EfficientNet-E model and the advantages of EfficientNet’s design idea in forest fire identification compared with traditional models, this article selected representatives of classic models, ResNet and DenseNet, as comparison references, and conducted related experiments in combination with EfficientNet and EfficientNet-E.The experiment selected 3 303 forest fire, non-fire and smoke pictures.The results of multiple rounds of tests show that EfficientNet-E is better than the conventional classic deep learning model in identifying forest fire data, and compared with the original EfficientNet’s average accuracy of 89.28%, EfficientNet-E’s average accuracy (90.04%) is obviously improved. The standard deviation is smaller and the training stability is better, which confirms the improved EfficientNet-E’s better performance.

Key words: deep learning, image recognition, forest fire, EfficientNet-E, attention mechanism

中图分类号:

TP18

周浪, 樊坤, 瞿华, 等. 基于ECA注意力机制改进的EfficientNet-E模型的森林火灾识别[J]. 华南理工大学学报(自然科学版), 2024, 52(2): 42-49.

ZHOU Lang, FAN Kun, QU Hua, et al. Forest Fire Recognition by Improved EfficientNet-E Model Based on ECA Attention Mechanism[J]. Journal of South China University of Technology(Natural Science Edition), 2024, 52(2): 42-49.

图/表 14

图1

图2

图3

图4

图5

图6

图7

图8

图9

表1

EfficientNet-E模型参数1）"

阶段	操作	数据宽 $×$ 高	通道数	层数	卷积步长
1	Conv3 $×$ 3	224 $×$ 224	32	1	2
2	MBConv1，k3 $×$ 3	112 $×$ 112	16	1	1
3	MBConv6，k3 $×$ 3	112 $×$ 112	24	2	2
4	MBConv6，k5 $×$ 5	56 $×$ 56	40	2	2
5	MBConv6，k3 $×$ 3	28 $×$ 28	80	3	2
6	MBConv6，k5 $×$ 5	14 $×$ 14	112	3	1
7	MBConv6，k5 $×$ 5	14 $×$ 14	192	4	2
8	MBConv6，k3 $×$ 3	7 $×$ 7	320	1	1
9	Conv1×1&Pooling&FC	7 $×$ 7	1 280	1

表1

图10

表2

图11

图12

参考文献 17

1	赵鹏武，武峻毅，张恒．基于聚类分析法的我国森林火险等级区划研究［J］．林业工程学报，2021，6（3）：142-148.
	ZHAO Pengwu， WU Junyi， ZHANG Heng ．Study on forest fire risk classification in China using cluster analysis［J］．Journal of Forestry Engineering，2021，6（3）：142-148.
2	祖鑫萍，李丹．基于无人机图像和改进YOLOv3-SPP算法的森林火灾烟雾识别方法［J］．林业工程学报，2022，7（5）：142-149.
	ZU Xinping， LI Dan ．Research on forest fire smoke identification method based on UAV images and improved YOLOv3-SPP algorithm［J］．Journal of Forestry Engineering，2022，7（5）：142-149.
3	杜嘉欣，常青，刘鑫．面向森林火灾烟雾识别的深度信念卷积网络［J］．现代电子技术，2020，43（13）：44-48.
	DU Jiaxin， CHANG Qing， LIU Xin ．DBN-CNN for forest fire smoke recognition［J］．Modern Electronics Technique，2020，43（13）：44-48.
4	李珍辉，鲁静文，陈镜伊，等．基于InceptionV3卷积神经网络森林火灾检测方法［J］．湖南工程学院学报（自然科学版），2021，31（4）：44-49.
	LI Zhen-hui， LU Jing-wen， CHEN Jing-yi，et al ．Forest fire detection method based on inception V3 convolutional neural network［J］．Journal of Hunan University of Engineering （Natural Science Edition），2021，31（4）：44-49.
5	李梁，董旭彬，赵清华．改进Mask R-CNN在航拍灾害检测的应用研究［J］．计算机工程与应用，2019，55（21）：167-176.
	LI Liang， DONG Xubin， ZHAO Qinghua ．Application research of improved Mask R-CNN in aerial disaster detection［J］．Computer Engineering and Applications，2019，55（21）：167-176.
6	周浪，樊坤，瞿华，等．基于Sparse-DenseNet模型的森林火灾识别研究［J］．北京林业大学学报，2020，42（10）：36-44.
	ZHOU Lang， FAN Kun， QU Hua，et al ．Forest fire identification based on Sparse-DenseNet model［J］．Journal of Beijing Forestry University，2020，42（10）：36-44.
7	李巨虎，范睿先，陈志泊．基于颜色和纹理特征的森林火灾图像识别［J］．华南理工大学学报（自然科学版），2020，48（1）：70-83.
	LI Juhu， FAN Ruixian， CHEN Zhibo ．Forest fire recognition based on color and texture features［J］．Journal of South China University of Technology （Natural Science Edition），2020，48（1）：70-83.
8	李惠鹏，李长勇，李贵宾，等．基于深度学习的多品种鲜食葡萄采摘点定位［J］．中国农机化学报，2022，43（12）：155-161.
	LI Huipeng， LI Changyong， LI Guibin，et al ．Picking point positioning of multi-variety table grapes based on deep-learning［J］．Journal of Chinese Agricultural Mechanization，2022，43（12）：155-161.
9	吴天赐，郁佳鑫，黄晓峰，等．深度学习图片分类模型ResNet-18用于判定口腔鳞状细胞癌浸润方式的初步研究［J］．口腔医学研究，2023，39（10）：917-922.
	WU Tianci， YU Jiaxin， HUANG Xiaofeng，et al ．Preliminary study on deep learning picture classification model for identification and classification of invasion pattern of oral squamous cell carcinoma［J］．Journal of Stomatology，2023，39（10）：917-922.
10	苏令涛，李瑞泽，张功磊，等．基于深度学习的农作物病虫害识别研究［J］．数学建模及其应用，2022，11（4）：1-12.
	SU Lingtao， LI Ruize， ZHANG Gonglei，et al ．Research on deep learning based crop pest and disease identification［J］．Mathematical Modeling and Its Application，2022，11（4）：1-12.
11	GOUR M， JAIN S， KUMAR T S ．Residual learning based CNN for breast cancer histopathological image classification［J］．International Journal of Imaging Systems and Technology，2020，30（3）：621-635.
12	WEINAN E， MA C， WU L ．A comparative analysis of optimization and generalization properties of two-layer neural network and random feature models under gradient descent dynamics［J］．Science China Mathematics，2020，63（7）：1235-1265.
13	TAN M， LE Q V ．EfficientNet：rethinking model scaling for convolutional neural networks［C］∥Proceedings of the 36th International Conference on Machine Learning．Long Beach：ACM，2019：6105-6114.
14	尹梓睿，张索非，张磊，等．适于行人重识别的二分支EfficientNet网络设计［J］．信号处理，2020，36（9）：1481-1488.
	YIN Zirui， ZHANG Suofei， ZHANG Lei，et al ．Design of a two-branch EfficientNet for person re-identification［J］．Signal Processing，2020，36（9）：1481-1488.
15	叶冲，杨晶东．基于CBAM-EfficientNet的垃圾图像分类算法研究［J］．智能计算机与应用，2021，11（5）：218-222.
	YE Chong， YANG Jingdong ．Algorithm research on garbage image classification based on CBAM-EfficientNet［J］．Intelligent Computer and Application，2021，11（5）：218-222.
16	姜天宇，赵晓林，赵搏欣，等．基于EfficientNet的木薯叶病变自动分类模型［J］．计算机应用，2022，42（S1）：64-70.
	JIANG Tianyu， ZHAO Xiaolin， ZHAO Boxin，et al ．Automatic classification model for cassava leaf disease based on EfficientNet［J］．Computer Application，2022，42（S1）：64-70.
17	WANG Q， WU B， ZHU P，et al ．Supplementary material for ECA-Net：efficient channel attention for deep convolutional neural networks［C］∥Proceedings of the 2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition．Seattle，WA：IEEE，2020：13-19.

模型	训练时间均值/s	准确率均值/%	准确率标准差	训练稳定程度	单张图片预测时间/ms
ResNet-50	7 752	88.24	0.002 4	波动较大	11.32
DenseNet-121	9 122	89.13	0.005 3	波动较大	11.96
EfficientNet-B0	7 507	89.28	0.004 4	较为稳定	12.06
EfficientNet-E	7 725	90.04	0.002 1	较为稳定	12.03

[1]	杨春玲, 梁梓文. 特征域近端高维梯度下降图像压缩感知重构网络[J]. 华南理工大学学报(自然科学版), 2024, 52(3): 119-130.
[2]	郑娟毅, 董嘉豪, 张庆珏, 等. 基于残差密集网络的智能超表面信道估计算法[J]. 华南理工大学学报(自然科学版), 2024, 52(3): 102-111.
[3]	田晟, 宋霖, 赵凯龙. 基于偏移注意力机制和多特征融合的点云分类[J]. 华南理工大学学报(自然科学版), 2024, 52(1): 100-109.
[4]	李海燕, 尹浩林, 李鹏, 等. 基于密集特征推理及混合损失函数的修复算法[J]. 华南理工大学学报(自然科学版), 2023, 51(9): 99-109.
[5]	李方, 郭炜森, 张平, 等. 基于时空双细胞状态的轴承剩余使用寿命预测方法[J]. 华南理工大学学报(自然科学版), 2023, 51(9): 69-81.
[6]	苏锦钿, 余珊珊, 洪晓斌. 一种面向中文拼写纠错的自监督预训练方法[J]. 华南理工大学学报(自然科学版), 2023, 51(9): 90-98.
[7]	李家春, 李博文, 林伟伟. AdfNet：一种基于多样化特征的自适应深度伪造检测网络[J]. 华南理工大学学报(自然科学版), 2023, 51(9): 82-89.
[8]	郭恩强, 符锌砂. 基于特征相似性学习的抛洒物检测方法[J]. 华南理工大学学报(自然科学版), 2023, 51(6): 30-41.
[9]	赵建东, 焦岚馨, 赵志敏, 等. 考虑侧向车换道影响的理论和数据组合驱动的车辆跟驰模型[J]. 华南理工大学学报(自然科学版), 2023, 51(6): 10-19.
[10]	陆璐, 赖锦雄. 基于胶囊网络和注意力机制的智能合约漏洞检测方法[J]. 华南理工大学学报(自然科学版), 2023, 51(5): 36-44.
[11]	叶峰, 陈彪, 赖乙宗. 基于特征空间嵌入的对比知识蒸馏算法[J]. 华南理工大学学报(自然科学版), 2023, 51(5): 13-23.
[12]	刘宇鹏, 张雷. 融合遗忘和知识点重要度的认知诊断模型[J]. 华南理工大学学报(自然科学版), 2023, 51(5): 54-62.
[13]	赵荣超, 吴百礼, 陈祝云, 温楷儒, 张绍辉, 李巍华. 多尺度时空信息融合驱动的图神经网络故障诊断方法[J]. 华南理工大学学报(自然科学版), 2023, 51(12): 42-52.
[14]	侯力玮, 王恒升, 邹浩然. 基于深度学习的玻璃基板铲起过程作用力预测[J]. 华南理工大学学报(自然科学版), 2022, 50(8): 71-81.
[15]	莫建文, 朱彦桥, 袁华, 等. 基于神经元正则和资源释放的增量学习[J]. 华南理工大学学报(自然科学版), 2022, 50(6): 71-79,90.

基于ECA注意力机制改进的EfficientNet-E模型的森林火灾识别

Forest Fire Recognition by Improved EfficientNet-E Model Based on ECA Attention Mechanism

RichHTML

PDF

可视化

摘要/Abstract

引用本文

使用本文

图/表 14

参考文献 17

相关文章 15

编辑推荐

Metrics

本文评价