雅兰仕型号(雅兰仕型号i7mini)
雅兰仕v6
引用:
孙鑫昊,张朝晖,赵小燕.基于主动刺激的线上教学学生专注度评价研究[J].中国教育信息化,2022,28(07):107-113.
应用实践
基于主动刺激的线上教学学生专注度评价研究
孙鑫昊1,2 张朝晖1,2 赵小燕1,2
(1.北京科技大学自动化学院,北京100083;
2.北京科技大学顺德研究生院自动化学院,广东佛山528300)
摘要:
针对线上教学期间,教师无法实时判断学生上课状态的现象,文章提出一种基于主动刺激的线上教学学生专注度评价方法。该方法利用电脑摄像头实时获取学生上课时的脸部图像,经图像预处理后,运用RetinaFace算法检测出脸部区域并定位瞳孔位置,再运用Dlib算法检测两侧眼角关键点的位置,最后通过计算瞳孔到两眼角距离的差值来判断视线朝向。为避免一些假象,每隔一段时间在屏幕上随机插入快速闪动的光点进行主动刺激,同时通过检测学生视线方向的一致性来判断专注度。实验所得结果与学生实际的专注度状态基本吻合,可以证明该方法的有效性。
关键词:线上教学;专注度评价;人脸检测;视线追踪;主动刺激
一、引言
当前,线上教学已经普遍被人们所接受,成为新冠肺炎疫情下常用的教学形式。线上教学与课堂教学的最大差别是教师无法掌握学生状况,只能广播式、开放式地施教,教学效果难以保障。如果开通教师对每一个学生的直播视频,又会占据大量带宽,而且由于学生具有空间分散性,教师难以全面了解学生整体状况。为此,有必要开发新的技术手段,通过网络将每一个终端前学生的注意力,以量化的数字指标及时反馈,使教师能够整体掌控“广域课堂”的学生注意力状况。
近年来,对于学生课堂专注度的评价在国内外取得了大量研究成果。例如,有国外研究者开发了通过检测眼睛和头部运动,来获得学习者在在线学习环境中注意力水平的系统[1];孙亚丽开展了基于人脸检测的学生课堂专注度研究,主要把人脸检测作为判断学生专注度的辅助工具,以教育学为主要切入点来判断学生上课的专注度[2];段巨力开发了基于机器视觉的学生上课专注度分析评测系统,通过优化的Adaboost算法检测得到人脸面部特征,并利用侧脸算法、抬头(鞠躬)算法和闭眼算法进行学生专注度判断[3];蹇明芳开发了一种通过检测学生头部运动的方向、角度,来判断学生抬头看黑板、低头记笔记、走神、睡觉等行为的专注度分析系统[4]。玛诺(Mano)等通过建立模型来识别和分类学生的面部表情,然后评估学习活动中的情绪[5]。
上述研究大多属于“被动”的机器学习特征提取。但是,这些外表特征可能无法反映学生的专注度。例如,学生在分神的情况下仍然能够保持正常的脸部特征。据此,本文提出一种基于主动刺激的线上教学学生专注度评价方法,通过在正常教学屏幕上随机插入快速闪动的光点,来捕捉学生的面部、眼部特征,并做出关联分析,客观地评价学生的专注度。最后,将一段时间内的专注度统计结果反馈给教师。
图1为教师端与学生端双向信息交流示意图。教师端负责教学内容输出,每位学生利用算法得到专注度状态评价及专注度曲线,并输出到教师端。教师在得到多位学生的专注度评价后,进行学生专注度整体评价。
图1 教师、学生双向信息交流示意图
二、主动刺激专注度验证方法
主动刺激专注度验证流程如图2所示。该方法通过RetinaFace算法定位人脸及瞳孔位置,利用Dlib算法定位人眼角部位关键点,计算左右眼角到瞳孔的距离差值,从而判断视线朝向。另外,摄像头屏幕区域划分为为左、中、右三块,每隔一段时间在屏幕上随机闪现光点进行主动刺激测试。在刺激点消失的1秒内,如果学生视线看向刺激点位置,则该学生处于专注状态;如果学生未看向刺激点位置,则该学生处于非专注状态。
图2 主动刺激专注度验证流程
(一)图像预处理
为减小图像原始数据量,便于后续处理时计算量更少,在电脑摄像头采集到图像后,首先将图像转化为灰度图,然后进行图像增强去噪操作。
1.直方图均衡化
由于图像在自然环境下采集,无法保证较为理想的光照条件,会出现图片某些部分偏亮、某些部分偏暗的情况,因此需要对图像进行直方图均衡化处理。直方图均衡化是将原图像通过某种变换,得到一幅灰度直方图为均匀分布新图像的方法[6]。直方图均衡化方法的基本思想是,对图像中像素个数多的灰度级进行展宽,而对像素个数少的灰度级进行缩减,从而达到清晰图像的目的。直方图均衡化的效果如图3所示,其中,图3(a)为直方图均衡化前的图像,图3(b)为均衡化后的图像。可以发现,均衡化后图像的某些细节会显示得更加清晰。
a)原灰度化图像 (b)均衡化后图像
图3 直方图均衡化图像处理
2.高斯滤波
由于CCD摄像头长期工作会出现温度过高的情况,拍摄时的光照影响也会产生少量高斯噪声,所以在直方图均衡化后,还需要利用滤波消除图像噪声。经过对多种滤波方法进行比较,本文决定采用高斯滤波进行图像噪声消除。高斯滤波原理是利用一个nxn的模板进行运算,将中间点像素值赋为连通区域像素值的均值,并且较近的像素具有较大的权重值[7]。高斯滤波的效果如图4所示,其中,图4(a)为高斯滤波前的图像,图4(b)为高斯滤波后的图像。可以发现,高斯滤波可以有效去除图像中的噪声。
a)原均衡化图像 (b)滤波后图像
图4 高斯滤波图像处理
(二)RetinaFace人脸及瞳孔检测
对于实时获取的图像,复杂的背景可能会对人脸特征检测造成一定干扰。为了简化后续运算、提升检测速度,先对获取的图像进行人脸检测,以便在人脸图像中进一步检测特征点。
RetinaFace算法是InsightFace工具箱推出的最新人脸检测模型[8],其利用联合监督和自我监督的多任务进行学习,并在各种人脸尺度上执行像素方面的人脸定位。相比之前火热的多任务级联神经网络(Multi-taskConvolutionalNeuralNetwork,MTCNN)算法[9],RetinaFace在速度和精度上都有比较大的提升,在检测大角度人脸时鲁棒性更好。同时,RetinaFace除了标注出人脸框的位置,还标注两眼中心点的位置。所以,本文采用RetinaFace算法进行人脸及瞳孔检测。
RetinaFace的mnet本质是基于RetinaNet的结构,采用特征金字塔的技术,实现多尺度信息的融合,对检测小物体有重要的作用。RetinaNet结构如图5所示。
图5 RetinaNet结构
目前,RetinaNet改进版使用较多,其利用MobileNet作为主干提取网络。MobileNet模型是一种轻量级的深层神经网络,核心是使用可分离卷积,可以在CPU上实现实时检测。
首先,利用MobileNet作为主干网络搭配特征金字塔,生成三个不同尺度上的检测框,保证可以检测到不同大小的物体。然后,通过SSH模块进一步加强特征提取。SSH的思想非常简单,使用三个并行结构,利用3x3卷积的堆叠代替5x5与7x7卷积的效果。最后,在通过SSH获得三个有效特征层后,再利用这三个有效特征层获得预测结果。RetinaFace的预测结果分为三种,分别是分类预测结果、框的回归预测结果、人脸关键点的回归预测结果。RetinaFace的检测分支如图6所示。
图6 RetinaFace检测分支
利用RetinaFace进行人脸和瞳孔检测的结果如图7所示。
图7 RetinaFace检测结果
(三)Dlib人脸关键点检测
人脸关键点的定位对于人脸信息提取是一个关键步骤。由于视线跟踪需要精确的眼部位置信息,所以要利用人脸关键点检测算法来定位眼角位置。
为了提高对学生眼睛区域的定位精度,本文采用Dlib算法进行人脸关键点定位。Dlib算法是一种人脸关键点定位算法[10]。该算法基于梯度提升(gradientboosting)的方法,利用损失函数的负梯度近似拟合残差来学习回归树集合,从而标定出图像中人脸面部的68个关键点。图8所示分别为68个关键点对应的位置。
图8 人脸68个关键点位置
本文主要目的是判断视线朝向,所以主要关注标号为37、40、43、46的关键点位置。Dlib人脸关键点的检测结果如图9所示。
图9 Dlib人脸关键点检测结果
(四)主动刺激专注度评价规则
利用上述算法检测到瞳孔和左右眼角位置后,计算左右眼角分别到瞳孔的距离。当人脸端正面看向摄像头时,可分为看向正前方、看向左边和看向右边三种情况。图10为人眼模拟图,外部椭圆为眼眶,中心的黑色圆为瞳孔。当人眼看向正前方时,瞳孔一般处于眼睛中心,此时R1(左眼眶到瞳孔的距离)与R2(右眼眶到瞳孔的距离)基本相等;当人眼看向左边时,瞳孔会发生明显的左偏,此时R1的距离会小于R2;同理,当人眼看向右边时,R1的距离会大于R2。所以在一定误差范围内可以认为:如果Rl≈R2,则人眼视线方向为中间;如果RlR2,则人眼视线方向为右边。
图10 人眼模拟图
设定每隔一段时间,在屏幕的随机位置上会出现快速闪动的刺激点。该刺激点为红色,每次闪动0.2秒左右便会消失,将屏幕划分为左、中、右三块区域,每次刺激点会随机出现在屏幕的某一区域,如图11所示。
图11 摄像头屏幕模拟图
在刺激点出现时,如果学生处于专注状态,便会对突然出现的刺激点做出反应,从而将视线看向刺激点出现的区域;如果该学生处于走神状态,那么很可能会对刺激点无动于衷,从而没有对刺激点的出现做出反应。
据此可以判断刺激点出现时的位置与学生的视线朝向是否一致。如果刺激点消失后的1秒内学生视线看向刺激点位置,则该学生处于专注状态;如果学生未看向刺激点位置,则该学生处于非专注状态。
三、实验设置
实验环境:实验通过在笔记本电脑上进行线上教学来获取实验数据;实验人员为实验室在校学生,不同学生所在的实验场地光照条件不同;温度、气压等对实验影响较小因素保持正常即可。
摄像采集设备:摄像头型号为雅兰仕D8摄像头,采集帧率为每秒30帧,视频分辨率为1920×1080像素。算法处理:Windows10环境下采用Python语言编写,编译器为Pycharm。计算机的硬件性能:CPU为IntelCorei5-9300H,GPU为NVIDAGTX1080。图12为不同学生在不同实验场地进行测试的画面。
a)1号实验环境 (b)2号实验环境
图12 实验环境展示
四、实验验证与结果分析
本文选取三位测试者进行主动刺激专注度验证,以及不同人脸检测算法性能比较。
(一)人脸检测分析
将RetinaFace算法与其他两个比较典型的人脸检测算法Adaboost、MTCNN进行检测时长对比,记录每帧图像检测人脸所需的时间。实验结果显示,RetinaFace的检测时长更短,效果更佳。因此,本文选择RetinaFace算法进行人脸检测。
本文在每位测试者测试过程中随机截取100张图片,包含正常情况、眨眼、打哈欠、低头等行为,然后利用RetinaFace进行人脸检测,得到各样本人脸检测准确数量情况,实验结果如表1所示。
表1 人脸检测结果
做以下定义:精确率=检测正确人数/检测人数;准确率=检测人数/总人数。精确率与召回率越高,检测效果越好。
由于学生听课过程中会出现抬低头、转头等行为,导致出现无法检测到人脸的情况。在此情况下,测得的平均准确率达到92.5%,并且精确率达到100%,即表示在检测到的人脸中,没有出现误检的情况。
(二)主动刺激专注度评价实验
主动刺激专注度评价实验结果如图13所示。其中,由于摄像头内人脸是镜像存在的,所以当视线朝向左边时,其在图片内是向右看的。
图13 主动刺激实验结果
图中左上角显示人眼视线朝向,右上角显示专注度状态。从实验结果可以看出,当刺激点出现时,如果视线朝向位置与刺激点出现位置一致,则右上角为“Concentration”;如果视线朝向位置与刺激点出现位置不一致,则右上角为“Distracted”。根据刺激点消失后1秒内,学生视线朝向与刺激点位置的对比,输出整体的专注度情况。刺激点消失后的1秒内,如果学生视线看向刺激点位置,则会输出“Concentration”;如果学生未看向刺激点位置,则会输出“Distracted”。
选取10组测试结果进行准确率分析,实验结果如表2所示。其中,9组测试结果正确预测当前学生状态,正确率为90%。整体实验效果良好。
表2 算法检测准确率分析
还要对测试者视频进行专注度验证。绘制专注度变化曲线,设定当专注度结果为“Concentration”时,分数为1;当专注度结果为“Distracted”时,分数为0。图14为测试者专注度评分随时间变化曲线。
图14 专注度评分随时间变化曲线
图中横轴代表时间,纵轴代表专注度评分。从曲线可以看出,该学生在前50秒内处于不稳定状态,专注与不专注状态交替出现;在50~150秒内处于专注状态;在150~200秒内处于不专注状态,应该受到某些课外因素的影响。
五、结语
针对线上教学期间,教师无法实时判断学生上课状态的问题,本文提出的线上教学学生专注度评价方法,可以较准确地给出学生实时的专注度评分。该方法首先采集学生上课视频图像,然后利用RetinaFace和Dlib算法对学生的人脸、瞳孔以及人脸关键点进行检测定位。上述两种算法能够快速准确地定位人脸、瞳孔及关键点。该方法通过每隔一段时间在屏幕上随机闪现刺激点的形式,对学生进行主动刺激专注度判断。当刺激点消失后1秒内,通过检测学生视线方向与刺激点出现位置的一致性,来判断该学生是否专注听课。实验证明,该方法可以有效判断学生是否走神,还可以辅助教师获得更及时、高效、客观的学生专注度状态,有助于教师客观评价教学效果,提高教学效率。
参考文献:
[1]KRITHIKALB,PRIYAGL.Studentemotionrecognitionsystem(SERS)fore-learningimprovementbasedonlearnerconcentrationmetric[J].ProcediaComputerScience,2016,85:767-776.
[2]孙亚丽.基于人脸检测的小学生课堂专注度研究[D].黄石:湖北师范大学,2016.
[3]段巨力.基于机器视觉的学生上课专注度的分析评测系统[D].杭州:浙江工商大学,2018.
[4]蹇明芳.一种学生听课积极性的检测方法及系统:CN108765226A[P].2018-11-06.
[5]MANOLY,MAZZOA,NETOJ,etal.Usingemotionrecognitiontoassesssimulation-basedlearning[J].NurseEducationinPractice,2019,36:13-19.
[6]陈永亮.灰度图像的直方图均衡化处理研究[D].合肥:安徽大学,2014.
[7]VELHOL.Simpleandefficientpolygonizationofimplicitsurfaces[J].ComputerAidedGeometricDesign,2012,1(2):5-24.
[8]DENGJ,GUOJ,ZHOUY,etal.RetinaFace:single-stagedensefacelocalisationinthewild[J].ComputerVisionandPatternRecognition,2019(2):58-66.
[9]ZHANGK,ZHANGZ,LIZ,etal.Jointfacedetectionandalignmentusingmultitaskcascadedconvolutionalnetworks[J].IEEESignalProcessingLetters,2016,23(10):1499-1503.
[10]KAZEMIV,SULLIVANJ.Onemillisecondfacealignmentwithanensembleofregressiontrees[C]//IEEEConferenceonComputerVision&PatternRecognition.IEEE,2014.
AResearchontheEvaluationofStudents’ConcentrationinOnlineTeachingBased onActiveStimulation
XinhaoSUN1,2,ZhaohuiZHANG1,2,XiaoyanZHAO1,2
(1.SchoolofAutomationandElecteicalEngineering,UniversityofScienceandTechnologyBeijing,Beijing100083;
2.DepartmentofAutomation,ShundeGraduateSchoolofUniversityofScienceandTechnologyBeijing,ShundeGuangdong528300)
Abstract:Inviewofthephenomenonthatteacherscannotjudgestudents’classstatusinrealtimeduringonlineteaching,thispaperproposesanonlineteachingstudentconcentrationevaluationmethodbasedonactivestimulation.Withthismethod,thecomputercameraisusedtoobtainthefaceimageofstudentsinclassinrealtime,thenafterimagepreprocessing,theRetinaFacealgorithmisusedtodetectthefaceareaandlocatethepupilposition,andtheDlibalgorithmisusedtodetectthepositionofthekeypointsofthecornersoftheeyesonbothsides.Thelineofsightorientationisjudgedbycalculatingthedistancefromthepupiltothecornersoftheeyesonbothsides.Inordertoavoidsomeillusions,fastflashinglightspotsareinsertedintothescreeneveryotherperiodoftimerandomlyforactivestimulation,andtheconcentrationisjudgedbydetectingtheconsistencyofstudents’lineofsightdirection.Theexperimentalresultsarebasicallyconsistentwiththeactualconcentrationstateofstudents,whichcanprovetheavailabilityandefficiencyofthismethod.
Keywords:Onlineteaching;Focusevaluation;Facedetection;Eyetracking;Activestimulation
编辑:王晓明 校对:李晓萍
本期稿件推荐:
新刊速递|《中国教育信息化》2022年第7期目录
2022-07-28
全球视野|卢琳王萍罗江华:教育数字化全球治理目标、行动领域和举措
2022-08-19
理论前沿|陈力行张文兰:近十五年技术支持环境下的学习动机研究
2022-08-15
本刊特稿|马克·约翰逊金俞崔新孙波:人工智能与未来教育评价
2022-08-12
区域推进|王同聚伍文臣刘小莲:人工智能与教育教学深度融合的区域发展趋势与推进建议
2022-08-04
点击右侧蓝字
在线投稿
《中国教育信息化》创刊于1995年8月,是由中华人民共和国教育部主管,教育部教育管理信息中心主办,面向国内外公开发行的国家级学术期刊。期刊内容力求全面深入地记录我国教育信息化的建设进展、研究与应用成果和行业发展状况,开展我国教育信息化发展状况调研和教育信息化国际比较研究,服务于国家教育宏观决策;力求全面准确地把握教育信息化相关的方针政策和标准规范,及时追踪ICT前沿技术的发展趋势及其与教育的融合,深度挖掘教育信息化建设与应用的体制、机制创新,服务于我国教育信息化实践。
一年12期,每月20日出版
20元/期,邮发代号:82-761
编辑部邮箱:mis@moe.edu.cn
通讯地址:北京市西城区华远北街2号921室
雅兰仕f1
雅兰仕音响配电视功放什么型号都可以,一般要求音箱功率与功放的输出功率相当,或稍小于功放输出功率,且阻抗要相匹配。
雅兰仕旗舰版
音频行业年度报告持续更新中,如果你想了解消费类音频行业最新动态,欢迎关注我爱音频网呀:D
雅兰仕al202
前者
雅兰仕al-303
以下是雅兰仕蓝牙耳机的基本使用方法:
1. 首先需要将耳机充电至满电状态,一般来说可以通过USB线连接电源或者使用充电盒进行充电,充电时灯光会变成红色,充满后灯光会变为蓝色。
2. 启动耳机。将耳机从充电盒中取出,等待几秒钟,耳机会自动开机并进入配对模式。
3. 手机或其他设备打开蓝牙功能。在手机或其他设备的蓝牙设置中,打开蓝牙功能,搜索到可用的蓝牙设备。
4. 配对耳机与设备。在可用蓝牙设备中找到"YLJ-Q32 "并单击连接,等待几秒钟,会自动连接完成。
5. 然后就可以开始使用了。在耳机配对成功后,就可以享受无线音乐和通话了。如果想要关机,可以将耳机放回充电盒中,耳机会自动关闭。
在日常使用过程中,可以通过耳机上的按钮控制暂停/播放、接听/挂断电话、调节音量等操作。
需要说明的是,不同型号的雅兰仕蓝牙耳机的操作方式可能会有所不同,具体操作步骤还需根据使用说明进行操作。
雅兰仕a1
莫非楼上的问的是这款,雅兰仕AL-A6的,设计造型是橄榄球,不是炮弹,对的话就给点分
雅兰仕型号i7mini
导语:雅兰仕是我们大家都很熟悉的一个电子品牌,它旗下生产的电子产品是非常多的,我们现在使用的很多的电子产品都是它生产制造的。雅兰仕ep511就是其中比较好的一款产品。那么雅兰仕ep511到底是一款什么样的产品呢?它的市场价格高低呢?今天小编就来给大家简单的介绍一下这方面的情况,希望对大家有所帮助。
雅兰仕ep511简介:
在了解它的评测和市场价格之前,我们先来看一下它的基本情况,对它有一个简单的了解。雅兰仕ep511,顾名思义就是雅兰仕品牌旗下生产的一款型号为雅兰仕ep511的产品,它是一款音响,也是一款收音机。因为雅兰仕ep511同时具有播放音乐以及收听广播的功能。这款雅兰仕ep511是在2012年的时候上市的,一上市就收到了广大消费者的青睐。
雅兰仕ep511评测:
从整体上来说,这款雅兰仕ep511音响是非常好的。首先它的外形比较有特点,体积小巧,方便携带,而且背部还有拎手,可以手提。其次它使用的是2.0声道的音箱系统,音质非常好。它采用的是遥控和按键双控制,操作起来非常方便。同时雅兰仕ep511具有收听FM广播的功能,一键打开广播,我们就可以随时收听广播了。雅兰仕ep511采用的的锂电池供电,最长续航时间可以达到12个小时,能够连续播放5个小时。它还具有4英寸的液晶显示屏,支持歌词同步播放。
雅兰仕ep511的价格:
最后我们再来看一下雅兰仕ep511音响的价格怎么样。经过小编的了解,雅兰仕ep511音响的价格是比较高的。在2012年刚上市的时候,它的售价是599元左右。到现在它的价格已经下降到了300元左右。它的价格之所以下降比较快是因为雅兰仕相继推出了新款的音响产品。
以上就是小编今天为大家介绍的关于雅兰仕ep511音响以及它的评测和市场价格方面的一些情况,希望大家看过之后会对雅兰仕ep511音响有一个简单的了解。这款雅兰仕ep511音响实际上是非常不错的,无论是它的质量还是功能都是能够满足我们对于音乐的需求的。但是需要说明的是我们这里介绍的雅兰仕ep511音响的价格只是一个大概的价格,具体价格请以专卖店的定价为准。对于雅兰仕ep511音响以及它的相关方面大家还有什么不明白的地方的话可以自己上网查询资料进行了解,也可以继续关注我们发布的相关内容。
土巴兔在线免费为大家提供“各家装修报价、1-4家本地装修公司、3套装修设计方案”,还有装修避坑攻略!点击此链接:【https://www.to8to.com/yezhu/zxbj-cszy.php?to8to_from=seo_zhidao_m_jiare&wb】,就能免费领取哦~
- 途观氙气灯泡型号(途观氙气灯泡型号规格)
- 产品型号4g(产品型号48v20ah怎么解释)
- 长城h5电瓶型号(长城h5电瓶型号及价格)
- 天逸功放哪种型号最好(天逸功放哪种型号最好用)
- 创酷火花塞型号(创酷火花塞型号怎么看)
- s6直屏型号(s6什么屏幕)
- 自吸磁力泵型号(自吸磁力泵型号大全)
- s6平面型号(s6 尺寸)
- 压路机有哪些型号(压路机有哪些型号规格)
- tcl电视什么型号的好(tcl电视什么型号的好用)
- 外径30内径15轴承型号(外径30内径15轴承型号厚9mm)
- 贝亲奶嘴最大什么型号(贝亲奶嘴的型号)
- ps4有几个型号(ps4几个型号的区别)
- 魅蓝a5型号(魅蓝 a5)
- s7港版型号(s7+ 港版)
- 护栏网规格型号(护栏网的用途)