本文摘要：前言：深度自学主要特别强调的是特征，增强自学主要特别强调的是对系统，而迁入自学主要特别强调的是适应环境。

前言：深度自学主要特别强调的是特征，增强自学主要特别强调的是对系统，而迁入自学主要特别强调的是适应环境。之前讲解过人工智能之机器学习算法有前5大类内容，明确请求参看涉及文章。今天我们重点探究一下第6类－－迁入自学（TransferLearning）。

＾＿＾传统的机器学习是种瓜得瓜，种豆得豆，而迁入自学可以举一反三，投桃报李。人工智能竞争，从算法模型的研发竞争，改向数据和数据质量的竞争，这些顺利的模型和算法主要是由监督自学推展的，而监督自学对数据极为饥渴，必须海量数据（大数据）承托来超过应用于的精准拒绝。而人工智能发展更加趋向于不拒绝海量数据也能超过应用于的精准拒绝，因此“小数据自学”正在沦为新的热点，以迁入自学，增强自学为代表的小数据自学技术，更加能反映人工智能的未来之路。

有专家称之为，在监督自学之后，迁入自学将引导下一波机器学习技术商业化浪潮。迁入自学（TL）的概念自从1995年在NIPS5专题讨论会上被明确提出来后，受到学术界的普遍注目。

迁入自学定义过分明确，涉及研究中曾经常出现多种专用术语，比如learningtolearn，life－longlearn，multi－tasklearning，meta－learning，inductivetransfer，knowledgetransfer，contextsensitivelearning等。其中，迁入自学与多任务自学（multi－tasklearning）关系尤为密切。

多任务自学同时自学多个有所不同的任务，借此找到说明了的联合特征，以协助单个任务的自学。什么是迁入自学？迁入自学TL（TransferLearning）是把已习训练好的模型参数迁入到新的模型来协助新的模型训练。考虑到大部分数据或任务是不存在相关性的，所以通过迁入自学，可以将早已教给的模型参数通过某种方式来共享给新的模型从而减缓并优化模型的自学效率。

迁入自学的基本动机：迁入自学的基本动机是企图从一个问题中提供的科学知识应用于到另外一个有所不同但是涉及的问题中去。比如，一个娴熟应用于C＋＋语言编程的程序员能迅速地自学和掌控JAVA语言。

在或许上，机器学习中的迁入自学跟心理学上的“自学能力迁入”有一定的关联。在人类演化中，迁入自学这种能力是十分最重要。比如说，人类在学会骑马自行车后，再行骑马摩托车就很更容易了，人类在学会打羽毛球后再行自学打网球也不会更容易很多。

人类能把过去的科学知识和经验应用于到有所不同的新场景中，这样就有了一种适应环境的能力。迁入自学主要类别方法：1）实例权重方法：通过某种方式对来自源领域的训练样本展开权重计算出来，以要求每个样本在训练过程中的重要性大小。2）联合特征自学方法：通过若干个联合特征在源领域和目标领域之间传送简单的科学知识。

迁入自学的重要性：1）从数据角度：数据为王，计算出来是核心，但没充足数据或搜集数据很耗时，对数据打标签很难，用数据训练模型很繁复。如何展开机器学习？迁入自学限于于小数据量场景；2）从模型角度：云－末端融合的模型被广泛用于，通过必须对设备、环境、用户做到明确兼容。

个性化模型兼容很简单，必须有有所不同的用户隐私处理方式。迁入自学合适个性化方面。

3）从应用于角度：机器学习应用于中的冷启动问题，引荐系统没初始用户数据，无法精准引荐。迁入自学可以解决问题冷启动问题。迁入自学可增加对标定数据的倚赖，通过和有数数据模型之间的迁入，更佳地已完成机器学习任务。

迁入自学构建方法：1）样本迁入（Instance－basedTransferLearning）：在数据集（源领域）中寻找与目标领域相近的数据，把这个数据缩放多倍，与目标领域的数据展开给定。其特点是：必须对有所不同例子权重；必须用数据展开训练。

一般就是对样本展开权重，给较为最重要的样本较小的权重。2）特征迁入（Feature－basedTransferLearning）：通过观察源领域图像与目标域图像之间的联合特征，然后利用观察所得的联合特征在有所不同层级的特征间展开自动迁入。在特征空间展开迁入，一般必须把源领域和目标领域的特征投影到同一个特征空间里展开。3）模型迁入（Model－basedTransferLearning）：利用上千万的图象训练一个图象识别的系统，当遇上一个新的图象领域，就不必再行去找几千万个图象来训练了，可以原本的图像识别系统迁入到新的领域，所以在新的领域要用几万张图片某种程度需要提供完全相同的效果。

模型迁入的一个益处是可以区分，就是可以和深度自学融合一起，可以区分有所不同层次可迁入的度，相近度较为低的那些层次被迁入的可能性就大一些。4）关系迁入（RelationalTransferLearning）：利用源域自学逻辑关系网络，再行应用于目标域上。如社会网络，社交网络之间的迁入。迁入自学工具：NanoNets（纳米网络）是一个非常简单便利的基于云端构建的迁入自学工具，内部包括了一组早已构建好的预训练模型，每个模型有数百万个训练好的参数。

用户可以自己上载或通过网络搜寻获得数据，NanoNets将自动根据待解问题自由选择最佳的预训练模型，并根据该模型创建一个NanoNets，并将之兼容到用户的数据。NanoNets和实训练模型之间的关系结构如下图右图。

迁入自学发展：1）结构与内容分离出来：当面对一个机器学习问题，想找到有所不同问题之间的共性，那么可以把问题的结构和内容刨离开了。虽然这样的分离出来并不更容易，但是一旦已完成，那么系统举一反三的能力就十分强劲。2）多层次特征自学：把问题分到有所不同层次，有些层次就更容易协助展开机器学习的迁入。用了这种层次型的迁入自学，有所不同的层次具备有所不同的迁入能力，对于有所不同层次的迁入能力就有了一个定量的估算。

当必须处置新任务时，就可以把某些区域或某些层次给相同寄居，把其他的区域用小数据来做到训练，这样就需要超过迁入自学的效果。3）多步、传送式自学：从旧领域迁入到新领域，从一个多数据的领域迁入到少数据的领域，这种称作单步迁入。很多场景是必须分阶段展开多步传导式的迁入，可以建构一个深度网络，而这个网络中间层既能照料目标这个问题领域，又能照料原本的领域。如果有一些中间领域，那么其可以把原领域和目标领域一步步的衔接起来。

可以定义两个目标函数，两个目标函数一起工作时，一个优化了最后的目标，另一个则自由选择了样本。如此递归，原领域的数据就从多步迁入到目标领域。4）自学如何迁入：在等价任何一个迁入自学问题，系统可以自动在过去所有尝试过的算法里面，利用经验寻找合适的算法，可以是基于特征的、基于多层网络的、基于样本的或者是基于某种混合。

或者把经验总结一起训练一个新的算法，这个算法的老师就是所有这些机器学习算法、文章、经历和数据。所以，自学如何迁入，就样子经常说道的自学如何自学，这个才是自学的最低境界，也就是自学方法的提供。

5）迁入自学作为元自学：把迁入自学本身作为一个元自学（MetaLearning）的方法，彰显到有所不同自学的方式上。假设以前有一个机器学习的问题或者是模型，现在只要在上面套一个迁入自学的罩子，它就可以变为一个迁入自学的模型了。

6）数据生成式迁入自学：对于生成式对付网络来说，图灵测试外面的裁判是学生，里面的那个机器也是学生，两个人的目的是在对付中联合茁壮，两方大大相互性刺激，构成一种对付（联合自学特点）。通过小数据可以分解很多仿真数据，通过仿真数据又来判断它是知道还是骗的，借以性刺激生成式模型的茁壮。可以通过小数据产生更好的数据，在新的领域就可以构建迁入自学的目的。最近，迁入自学技术在机器学习和数据挖掘领域获得了了解的研究。

结语：预示着最近几年的机器学习热潮，迁入自学也沦为目前最炙手可热的研究方向。机器学习的未来发展在小数据、个性化、可靠性上面，那就是迁入自学。迁入自学反映了人类特有的转换能力，是“举一反三”式的收敛思维。

迁入自学早已普遍被用于在各种人工智能机器学习应用于场景中。

本文来源：皇冠官方网-www.casalillibelle.com