持续学习

摘要： 各行各业的从业人员为适应工作的要求,需要及时进行学习与培训。文章针对编辑谈知识的更新与持续学习,从知识更新的必要性和持续学习的方式两方面论述。

摘要： “双减”政策实施后,家庭教育的重要性更加凸显。由此,在教师的日常工作中,开展家庭教育指导也被摆在更突出的位置。只有不断提升自身的家庭教育指导能力,教师才能有力促进家庭教育的现代化和家校合力的形成,更好地为学生的健康成长、全面发展服务。从教近30年,我深谙家庭教育的重要性。

摘要： 深度学习模型面对非独立同分布数据流时,新知识会覆盖旧知识,造成其性能大幅度下降。而持续学习(CL)技术可以从非独立同分布数据流中获取增量可用知识,不断积累新知识的同时无须从头学习,通过模仿类脑的学习与记忆机制达到类人智能。该文针对脑启发式持续学习方法进行综述。首先,回顾持续学习发展历程;其次,从类脑持续学习机制的角度,将持续学习研究方法分为经典方法与脑启发方法两类,对重放、正则化与稀疏化3种经典持续学习方法的研究现状进行总结,分析了其所面临的困境。为此,针对更接近类脑持续学习能力的突触、双系统、睡眠及模块化4类脑启发方法进行阐述分析与对比总结;最后,概述脑启发式持续学习的应用现状,并探讨了在现有技术条件下实现脑启发式持续学习所面临的挑战及其未来发展方向。

摘要： 传统的人体骨架动作识别算法采用手动构建拓扑图的方式来建模包含在多个视频帧中的动作序列,并针对性地学习每个视频帧以反映数据变化,这容易造成计算代价大、网络泛化性低和灾难性遗忘等问题。针对上述问题,提出了基于动态拓扑图的人体骨架动作识别算法,使用持续学习思想动态构建人体骨架拓扑图。将具有多关系特性的人体骨架序列数据重新编码为关系三元组,并基于长短期记忆网络,通过解耦合的方式学习特征嵌入。当处理新骨架关系三元组时,使用部分更新机制动态构建人体骨架拓扑图,并采用基于时空图卷积网络的骨架动作识别算法来实现动作识别。实验结果表明,所提方法在Kinetics-Skeleton,NTU-RGB+D(X-Sub)和NTU-RGB+D(X-View)基准数据集上分别取得了40%,85%和90%的识别准确率,提高了人体骨架动作识别的准确率。

摘要： 自学能力是学生必备的学习能力,是实现持续学习和终身学习的前提与保障,因此,在课堂教学中要重视培养学生的自学能力,逐渐让学生由“学会”变为“会学”,进而提升他们的数学素养和自学能力.

摘要： 近日由脉脉人才智库发布的《人才吸引力2021》(下称调查)显示,一线城市仍是新经济人才的不二之选,与此同时,杭州对于新经济人才的吸引力要高于上海和广州。对于职场人士调查显示,持续学习是职场人的职业成功关键因素。职场人对软实力的重视超过硬技能调查显示,一线城市仍然是新经济人才的不二之选,但座次和传统的“北上广深”排位大不相同。杭州已经成为事实上的新经济一线城市,对新经济人才的吸引力领先上海和广州。成都继续对新经济人才保持强劲吸引力,领跑中西部地区。长三角成为中国最具有新经济人才吸引力的地区,前十位的城市中,长三角占据4个。

摘要： 针对现有的深度学习方法在树干或树叶单一识别任务上需要大量样本做标注和训练的问题,且存在灾难性遗忘现象,提出一种新的神经网络模型用于多任务树种识别。对于少量不同类型数据样本,本文引入持续学习,将树干识别和树叶识别看作2个连续的学习,实现多任务识别。训练模型分为2个阶段:第1阶段为树干识别,保留参数重要性;第2阶段引入正则化损失约束重要参数的变化,维持模型对于叶片的特征提取能力,而保持低重要性参数的改变,以学习不同树种样本中更多的特征信息。测试结果表明,该方法在树干识别和树叶识别时的准确率分别为91.75%和98.85%,较单任务的深度学习有18.03%和11.92%的提升。本研究所提出的模型更适用于在不同样本中进行多任务分类识别,较好地避免灾难性遗忘问题。

摘要： 幼儿教师持续学习是提高幼儿教师队伍素质以及优化学前教育质量的内在要求。英国高质量的学前教育离不开幼儿教师队伍的持续学习。依据双因素理论对其相关经验分析发现:英国以明确的要求与标准、动态的监督与评价和充足的资金支持等保健因素,提高幼儿教师社会地位、强化幼儿教师专业认同和设置内在连续的发展空间等激励因素,以及兼具保健与激励的薪酬制度共同保障和激励幼儿教师持续学习。梳理和总结英国激励幼儿教师持续学习的实践经验,可为我国幼儿教师的专业化发展提供有益借鉴。

摘要： 美国无损检测学会(ASNT)的3级认证到期时以积分方式实现复证,这是一种较为先进的复证方式,其持续学习的理念对切实提高无损检测人员的能力很有研究价值。通过对美国无损检测学会各积分项目予以解析,展现ASNT关于3级人员持续学习的理念,为需要积分复证人员和国内无损检测人员资格鉴定与认证标准的制定者提供参考。

摘要： 教师教育已从单纯的职前教育转变为终身教育,幼儿教师只有持续学习才能适应现代学前教育的需求。幼儿教师持续学习的行为与效果取决于其动机水平。当前,幼儿教师的内部动机不足,外部动机缺失,持续学习的推进困难重重。本文借鉴动机理论,具体分析幼儿教师持续学习的难题,并据此提出幼儿教师自身主动生成内部动机,幼儿园、培训院校及政府多方位发展外部动机的激励策略,以保障幼儿教师实现自主、持续的专业成长。

摘要： 读书,是医疗行业的本质需求再一流的设施也无法独立支撑医疗系统的顺利运作,还是需要人和技术的协同.而作为一名医生,哪怕是医神,也不能宣称自己全知全能,工作中“灯下黑”的境遇比比皆是.那么,如何更好地为患者提供服务,也需要持续学习,而桓兴肿瘤医院在进行医学人文书籍分享之后提出的“尊重文化”,要求大家不仅要提升技术,还要提升“心术”,以更好地传递医疗温度.读书，是学习的一种方式，甚至可以说是一部分人打发零散时间的一种方式，但一支肯读书，爱学习的队伍，对医院发展和管理的有利之处是体现在多方面的。首先，持续学习是医疗行业的本质要求。其次，只有持续学习，有人生沉淀基础的学习才能理解医学人文，感悟医学真谛，直面医学科学局限。第三，共同学习可以和谐医患关系。第四，学习是选择的生活方式，持续的读书能收获更多职业幸福感。希望更多医院萦绕书香，一起建立更加和谐的医患关系，一起构建更加和谐的医疗环境，一起收获更多职业幸福感。

摘要： 报告基于探索和实践的思考，抛出知识如何在不同模型或解决方案间转移、语义模型如何在行业之间实现共享、如何消除噪音数据、以及如何保障数据模型系统安全的问题，并随后分析了在实际应用中，如何建立领域的通用训练数据集、动态构建和更新知识图谱的技术、如何高效地让系统能持续地学习新的数据并通过系统自主学习进行改进的经验，探讨了三个方面的重要挑战。此外，报告还结合城乡规划领域的需求，提出基于认知计算增强规划智慧、构建规划智库的工作展望。

摘要： 本发明涉及情感分析领域，为基于对比学习与持续性学习的属性级情感分析方法、系统及存储介质，方法包括：获取产品点评的文本数据；对文本数据进行预处理；使用迁移学习方法训练多个BERT‑adapter模型，并将训练完成的多个BERT‑adapter模型组成模型集合；其中，单个BERT‑adapter模型通过在BERT模型的每一个译码器层里的前向传播网络层之后增加适配层得到；将预处理后的文本数据输入模型集合中，得到多个逻辑值分类结果；根据多个逻辑值分类结果，得到文本数据的属性级情感分析结果。本申请将对比学习用于情感分析模型中，从而使得模型达到更好地分类效果。同时基于迁移学习思想构建的模型具有知识迁移的能力也能拥有知识增强的能力，可以缓解深度学习存在的灾难性遗忘问题。

摘要： 本发明公开了一种基于深度学习的持续学习图像分类方法及装置，方法包括下述步骤：构建具有任务特定批归一化的任务持续学习模型，所述任务持续学习模型的特征提取器中所有卷积核的参数在所有任务中都是固定的，在学习每个新任务时，每个卷积核中对应的批归一化层BN的参数与任务特定的分类头一起学习；对任务持续学习模型进行增量式训练，在新任务来临时，加入新的任务特定的批归一化层和分类头；在完成增量式训练后得到训练好的任务持续学习模型，将待分类的图像任务输入训练好的任务持续学习模型，完成分类任务。本发明利用任务持续学习模型中存在的批量归一化BN有效地解决灾难性遗忘问题。

摘要： 本发明实施例提供一种深度神经网络的持续学习框架及持续学习方法，其中持续学习框架包括：条件生成器网络，用于生成与当前任务的训练数据同类别的生成数据，并在训练时为当前任务分配特定的参数子空间；判别器网络，用于监督生成数据的生成过程，以使生成数据逐渐逼近旧任务的训练数据，并将逼近的生成数据作为旧任务的等效训练数据；分类器网络，包括独立分类器网络和判别器网络带有的辅助分类器网络，用于利用权重巩固机制，选择性的保持编码旧任务的参数，并利用当前任务的训练数据和旧任务的等效训练数据，持续性的更新并联合训练当前任务。本发明实施例能够有效缓解持续学习过程中对旧任务的灾难性遗忘，提升持续学习能力。

摘要： 本发明公开了基于一致性学习的跨场景持续学习的行人再识别方法及装置，方法包括：得到每一个批次的数据的原始特征；将原始特征输入伪任务数据转换模块，分别得到每一个原始特征经过场景风格转换后对应的旧场景特征和新场景特征；在旧场景特征上计算域内和域间跨场景一致性损失函数，进行伪任务身份辨别性学习；计算旧场景特征样本和新场景特征样本的两两相似度，进行伪任务知识蒸馏；把新场景特征输入新场景的分类器后计算交叉熵损失函数，进行身份辨别性学习；计算每一个样本对应的旧场景特征和新场景特征距离，进行跨场景一致性学习。本发明能够在先后学习的多个场景下部署不断更新迭代的模型，从而达到降低训练模型和人工维护的成本的目的。

摘要： 本发明公开了一种基于深度学习的持续学习图像分类方法及装置，方法包括下述步骤：构建具有任务特定批归一化的任务持续学习模型，所述任务持续学习模型的特征提取器中所有卷积核的参数在所有任务中都是固定的，在学习每个新任务时，每个卷积核中对应的批归一化层BN的参数与任务特定的分类头一起学习；对任务持续学习模型进行增量式训练，在新任务来临时，加入新的任务特定的批归一化层和分类头；在完成增量式训练后得到训练好的任务持续学习模型，将待分类的图像任务输入训练好的任务持续学习模型，完成分类任务。本发明利用任务持续学习模型中存在的批量归一化BN有效地解决灾难性遗忘问题。

摘要： 本发明提供一种基于机器学习的持续学习方法及装置，所述方法包括：确定执行至少两个训练任务；将各任务的训练集分别输入预存的机器学习模型，以获取各任务对应的生成模型和伪样本集；利用特征提取器分别提取对应任务的中心特征；将当前任务对应的伪样本集输入第一教师模型进行训练以获取第一生成样本；将上一个任务对应的伪样本集输入第二教师模型进行训练以获取第二生成样本；基于第一生成样本、第二生成样本和当前任务的中心特征训练学生模型以获取当前任务的目标学生模型；本发明所述方法采用样本生成重放与蒸馏学习相结合的训练方法提高了机器学习模型在复杂场景下的持续学习能力，缓解了模型的灾难性遗忘。

摘要： 本申请涉及一种基于世界建模的持续学习框架的学习方法、装置及设备，方法包括：将获取的目标数据分为多个训练阶段数据；确定当前训练阶段对应的训练阶段数据，并利用当前训练阶段对应的训练阶段数据同时训练任务模型、世界模型和机理模型；使用前一训练阶段对应的训练阶段数据训练的世界模型进行数据采样，生成与第一训练阶段对应的训练阶段数据至前一训练阶段对应的训练阶段数据相同分布的采样数据，并使用前一训练阶段数据训练的机理模型，对当前训练阶段数据和采样数据处理，得到任务模型上对采样数据的采样梯度响应；基于同时训练的任务模型、世界模型和机理模型，通过采样梯度响应来控制任务模型的学习进程。由此，可以实现持续学习的目标。

摘要： 本申请涉及计算机技术领域，提供了一种基于持续学习的联邦学习方法以及相关设备，方法应用于包括服务器、多个客户端的联邦学习系统，服务器和客户端均存储有基于第一样本数据集训练得到的第一联邦学习模型，所述方法通过客户端获取第二样本数据集，第二样本数据集和第一样本数据集分别用于第一联邦学习模型不同的学习任务，并从第一样本数据中提取多个样本数据作为辅助样本数据，在模型学习第二样本数据集的同时，最小化学习多个辅助样本数据时产生的损失对本地模型进行训练。本申请实施例通过在模型学习新任务的同时，融入学习多个旧样本时产生的损失来修正模型梯度，保护模型学习到的旧知识，缓解灾难性遗忘。

摘要： 本发明提供了一种在线批次归一化、在线学习及持续学习的方法和装置。所述方法包括以下步骤：(a)计算装置指示卷积层获取第k批次，并对包含在所述第k批次中的所述输入图像分别进行卷积运算，生成用于第k批次的特征图；(b)计算装置指示批次归一化层，在k为1的情况下，参照所述用于第k批次的特征图，当k为2到m的整数的情况下，参照先前生成的先前特征图及所述用于第k批次的特征图，生成所述用于第k批次的特征图的一个以上的调整均值以及一个以上的调整方差，其中，所述先前特征图及所述用于第k批次的特征图是从所述第1至第(k‑1)批次中选择的，且至少被包含于一部分先前批次中。

摘要： 一种方法、系统和装置，包括在计算机存储介质上编码的计算机程序，用于使用神经网络进行可扩展持续学习。方法之一包括：接收新机器学习任务的新训练数据；对新训练数据训练活动子网，以从活动网络参数的初始值确定活动网络参数的训练值，同时保持知识参数的当前值固定；对新训练数据训练知识子网，以通过训练知识子网生成与用于新训练输入的训练的活动子网生成的活动输出相匹配的用于新训练输入的知识输出，从知识参数的当前值中确定知识参数的更新值。