01 学习观

什么是学习?

浅显了解:学习便是取得新常识,提高新才能。

新常识能够分为两类,一类首要用于描绘与咱们休戚相关的世界的姿态,一般答复“是什么,怎么样”的问题,比如:

“六合玄黄,宇宙洪荒。日月盈仄,辰宿列张”——《千字文》

“剑号巨阙,珠称夜光”——《千字文》

另一类常识则首要用于描绘世界改变的规则,用于答复“怎么变”的问题,如:

“寒来暑往,秋收冬藏。”——《千字文》

“云腾致雨,露结为霜。”——《千字文》

关于第一类常识,学习的首要意图是重现,根本学习方法便是“回忆”。

关于第二类常识,学习的首要意图是泛化,即运用习得的事物开展的客观规则,来猜测分类新事物,然后处理新问题。

两类常识虽然各有偏重,可是互相融合,实现他恰与印证,如第一类常识往往以事例的方法为第二类常识供给实际根据支撑,协助大脑更好地了解、接纳与回忆;第二类常识也能够影响人们关于事物的知道视点与层次,然后取得事物本质不同程度的探究。

哲学上看,两类常识刚好对应了辩证唯物主义知道论中的实践与理性知道,各有差异,但又互相相关。

实践决议知道:实践是知道的来历,也是知道开展的动力,更是查验知道真理性的仅有规范,终究也是知道的意图和归宿。

知道对实践具有反作用:正确的知道能够指导实践取得成功,错误的知道会把人的实践活动引向歧途。

从学以致用视点剖析,学习的终究意图是为了泛化常识以知道新事物,判别新形势,处理新问题。泛化学习的根本方法有概括学习和指令学习。

02 泛化学习的根本方法:概括学习

概括学习,即从很多单个实际中推出普遍性准则,从中进行学习的进程。

在具有言语文字以及书本传承之前,概括学习一直是人们学习的首要的方法;即使在书本教育普及的今日,概括学习仍旧是咱们人生中最首要、最根本的学习方法。

概括学习的根本进程能够分为以下进程:

有用资料收集→常识拟合提炼→常识有用存储→实践验证反应

021 有用资料

概括学习所需的实践资料需求具有两个根本条件。

第一个根本条件要求实践资料有必要是完好的,然后能够用于树立、批改“行为→成果”反应。浅显来讲,即要求实践资料有必要“有问有答,有因有果”。

小明今日出门被雨淋湿了。(有果无因,无法构成有用行为成果反应)

小明今日出门前没有注重天气预报,成果未带雨具,全身都淋湿了。(完好因果)

概括常识:今后出门前必定要留意天气预报,提前做好防备。

第二个根本条件要求实践资料有必要坚持必定的差异性,然后能够打破认知瓶颈。其底子原因是:随着实践资料的积累,概括所得定论现已能够解说使用于大部分样本,导致实践遇到重复性样本的概率也逐步增大,若不能取得不同于以往的可区分样本,则不能再经过比较剖析实践资料差异提高概括认知。这也是平日学习做题到必定阶段后,会遇到瓶颈的原因,此刻最好的办法即收集弥补差异性的新实践资料。

昨天我看到一只英短小猫,毛烘烘很心爱。(样本一)

今日我又看到了一只加菲猫,毛烘烘也很心爱。(样本二)

我所见到的小猫咪都是毛烘烘的,所以猫应该都是这样的。(概括定论1)

网上见到更多毛烘烘小猫咪的心爱视频,进一步加强了既有定论1。

直到有一天逛商场碰到猫咪评竞赛,第一次见到没有毛的斯芬克斯猫,原来猫也能够是没有明显皮裘的!(概括认知晋级→概括定论2)

PS:重复的类似样本无法带来认知晋级,只要差异性新样本呈现,才会推动知道调整,打破瓶颈。

2022|01|学习观浅思

022 常识拟合

收集必定数量有用资料后,就能够经过剖析比较同类不同样本间的共性与差异来拟合出该类样本的共有规则或方式,即泛化所用的规则性常识。

浅显而言,咱们是根据已感知的有用样本(阅历),提炼出共性规则或方式,然后使用于猜测或分类使命,测验判别新情况、处理新问题。可是实践中,咱们并不能确保一次性到达最佳的客观规则拟合作用,可能会呈现欠拟合或过拟合两种误差。

欠拟合,即提炼拟合的规则连已有阅历都无法悉数解说;过拟合,则是说提炼拟合的规则能够解说已有悉数阅历,可是其实引入了过多的假定条件,导致无法适用于更多其他同类情况。

如关于给定数列『1,3,7,?』来猜测第四项数据:

已知的数项1,3,7即为已知的阅历;

若提出数列通项公式为『y=2x-1』,则只能符合“1,3”,x=3时y=5,与第三项7不符合,这儿的通项公式乃至都无法满意已有悉数阅历,成果是欠拟合;

若提出数列通项公式为『y=x^2-x+1』,可见前三项都符合,可是第四项为13,而实践的第四项应为15(相邻项差为2的递加幂次方)

对待上述问题的根本处理方法有两个:

一是尽可能弥补更多阅历,即扩大有用资料,欠拟合或过拟合的规则/方式都会由于不能满意所有阅历,因此很快露出出问题;

二是遵从著名的“奥卡姆剃刀”准则,即:

如无必要,勿增实体。

当有多个假定都能够满意已有阅历时,为了削减规则/方式对假定条件的依赖性,提高其鲁棒性,应当挑选假定/条件最少、模型最简略的假定。

单次乃至屡次提炼都无法百分百确保规则/方式与有用资料的科学拟合,总是会呈现欠拟合或过拟合的误差,因此实践中需求采纳循环迭代的方法,不断逼近“客观真理”。这儿又再次印证了唯物辩证法知道论的中心观点:

知道具有重复性和无限性,因此对真理的追求是一种波浪式的行进或螺旋式上升的进程。

对应本节的概括提炼主题,咱们能够推荐一种行之有用的“双例比照法”:

  1. 挑选一个特定的常识点;

  2. 挑选考察该常识点的两道标题(有用资料);

  3. 剖析比较两道标题在常识点表述与考察上的共性和差异,结合常识点重复了解特征要点;

  4. 挑选新的标题,测验解题;

  5. 重复(2~4)直到精确掌握该常识点。

023 有用存储

现代神经科学研究标明,常识的存储本质上是神经元之间凭借突触构成的特别网络结构;从该知道动身,人们提出了模仿大脑神经网络的深度学习网络结构,并在当今年代使用领域取得了巨大的进步,验证了上述认知模型的合理性。

可是咱们的大脑并非一蹴即至的树立起新的神经网络结构,不只需求调整的时刻,也需求调整进程。

调整的时刻需求意味着日常清醒考虑工作时,大脑首要用于处理应对日常与手头业务,难以分配首要能源用于建构新常识结构,因此科学研究标明大脑多在睡眠休息时进行新常识神经网络的建构与调整,由此能够推知若不能确保每日充足的睡眠,大脑就无法取得有用时刻建构/调整新常识,导致学习进程变慢。

调整的进程需求意味着大脑即使取得夜晚建构与调整时刻,也绝非一蹴即至。从系统视点了解是自然的:只要相对不敏感的系统往往才有更好的鲁棒性,不然略微遇到外界环境改变就会引发系统震动。大脑新常识结构的构成与调整是一个屡次迭代的进程,需求咱们运用多种有用资料与有用验证重复影响,以告知大脑信任确实有必要进行改变。

024 验证反应

泛化学习的终究方针是使用处理新问题,因此实践验证不只是终究意图要求,也是验证已有常识是否完备正确的仅有客观性规范。

验证反应的前提是能够独立完好履行一次解题进程,然后让大脑清楚地感知到“问题→方针”,类似一次优化问题,有必要首先清晰优化方针是最小化误差或丢失函数,然后才能够进行迭代调整。

验证的根本方法有两个,一个是将已建构的共性规则/方式使用于新实例,以验证是否有用精确。若验证成功,则反应加强已有常识对应的神经网络结构;若验证失利,则将其作为新的有用资料,启动大脑对该常识网络结构的更新优化机制(能够选用双例比照法)。

另一种验证的根本方法是表述转化,其成立的根底在于,若自己真的了解了某个常识,则必定能够用自己的言语,从不同视点来描绘其共性特征;换句话说,能够将新常识与已有旧常识树立相关,然后运用已有的旧常识概念来从头表述新常识。此方法最著名的使用莫过于“费曼学习法”:

  1. 挑选一个要学习的常识点或主题;

  2. 假定你要将其讲给一个8岁的小学生听,对方一点点没有专业常识与抽象逻辑根底,仅能听懂日常根本词汇;

  3. 现在你要测验用最根本、最简略的词汇来结构描绘新常识/新主题,假如遇到任何阻碍或波折,就证明其实并未真实了解,应当重复学习界说概念,并弥补适当新资料(实例或指令),直到能够用根本词汇描绘该常识点/主题;

  4. 将上述重复学习扩大的资料梳理,使得其听来是一个风趣、逻辑晓畅自洽的故事,并测验讲给一个一点点没有背景的人听,看其是否听懂。

细细想来,费曼学习法之所以成功,或许是由于其所要求的“根本词汇”恰恰是来自于既有概括学习了解习得的夯实概念,因此若由这些夯实的概念相关解说的新常识,也便增加了可信度与坚实度;而尽力测验用上述“根本词汇”描绘新概念的进程,便是尽力将新常识与既有可信常识树立相关的进程。

有些专家科普时大谈科学术语,经常将听众讲得云里雾里,似乎不可捉摸,实则才能有限;真实的大师往往能够浅显易懂,用最易懂的言语描绘最深奥的道理。

经过上述两种根本验证方法,咱们一般能够得到已有常识的有用反应,接下来便是根据反应,循环履行上述所有进程,不断逼近拟合正确的常识。

03 泛化学习的根本方法:指令学习

031 有用指令

指令学习,即经过言语来描绘界说、概念、正义、定理等共性规则/方式,然后迅速将一个前人验证过的常识教授给新个别。从有文字记载以来,指令学习逐步开端成为学校教育的首要方法,其原因有二:

一是概括学习容易遭到个别认知与履历限制,导致认知成见,如常见的地域歧视等;相反指令学习能够向个别直接灌输一个相对正确常识的大致结构,避免严重误差;

二是相关于概括学习需求很多有用实例感知提炼,指令学习效率更快,并且凭借书本等媒介便于大规模教育教授。

虽然存在上述优点,指令学习也具有本身特性,即专用术语系统。

专用术语一般用于描绘特定领域内达成一致的概念、定理、规则等,其本身即可包容传递相对丰富的信息量,关于具有一致的领域内交流,具有五一伦比的交流效率。可是关于尚未了解其前置常识的个别而言,无异于天方夜谭。

指令学习存在的根底是个别能够正确了解言语描绘的常识,而这自然依赖于个别是否能够精确了解常识相关的前置性界说。

正因如此,有用指令的一个根本要求是:个别有必要能够精确了解其间的描绘性界说,不然就谈不上了解言语描绘的常识。

此外,有用指令的另一个根本要求则是:言语常识的发布方有必要足够威望。这点也是清楚明了的,作为指令发布的常识理应经过必定程度的实际验证,不然本身就失去了常识价值。

032 精密加工

指令学习中的常识经过了前人在必定环境中的验证,可是仍旧并未经过咱们自己的验证,因此为了使其成为自己大脑中的固定的常识神经网络结构,就有必要补上概括学习的相关过程——扩大实例。

没错,虽然指令学习相对快捷,易于传播,可是离开了实例体验,大脑承受起来就没那么容易了!咱们的大脑习气于从实例中感知共性,然后概括提炼常识,假如直接告知一个新常识,大脑自然会坚持慎重态度表示质疑。

此刻咱们有两个根本方法来压服大脑接纳新常识:

一个是扩大实例。数学上讲叫做“化归”,既然大脑习气概括学习,而咱们现在缺少了概括过程,那么就主动扩大相应的实例供大脑感知、剖析、比较、提炼共性,并与新常识互相验证,终究知道到新常识的正确性与重要性,承受并建构相应神经网络结构。

另一个则是相关已有就常识。已有旧常识往往现已得到大脑认可,选用“熟人说客”的方法,明显更容易让大脑承受,并加深回忆。并且孤立的常识难以回忆,互相相关的常识间存在相关,能够互相印证、互相支撑,更加深了大脑对其判别的合理性、重要性标记,因此能够引起大脑的足够注重,为其改变。

本质上来说,咱们的大脑是“贪图安逸”的,由于从进化生物学视点来看,大脑的存在不是为了认知提高,而是为了个别生计繁衍;过去为了生计下来有必要尽可能节省能量,而大脑考虑确实是最为耗能的(即使不考虑也是全身最耗能器官),因此能不考虑就不考虑是大脑的自然挑选。

对咱们的启示便是:若想让大脑舍得发起马力开动考虑,则有必要让其充沛意识到现在认知对象的重要性与正确性。

关于精密加工最为典型的使用莫过于华罗庚老先生的读书法

  1. 挑选一本想读的书;

  2. 第一遍读书时,尽可能对遇到的新概念、界说、规律扩大实例,主动验证加深了解;一起尽力将新常识与已有旧常识相关,测验用旧常识解说新常识;(将书由薄读厚)

  3. 经过上述进程重复屡次,习得常识的真理,此刻取得了常识的正确拟合,不再需求已有实例的支撑,大脑现已构成了常识的新常识网络结构,能够不再特意回忆实例了;(将书由厚读薄)

033 后续过程

指令学习的后续过程同概括学习相同,都需求经过类似的有用存储与验证反应,并经过屡次重复迭代实现常识认知。

04 写在最后

本篇笔记的首要内容与灵感来自于最近学习观看的《断墨寻径》,其间列举了学习中常见的误区成见,并借此打开介绍了根本的学习原理。

网上早已有不少相关的学习笔记,但大多是文字内容的摘抄性笔记。假如将观看《断墨寻径》也看作是一种指令学习,那么为了更好地了解所述学习原理,在提炼常识阶段,理应根据本身阅历主动扩大有用实例,一起尽可能将新信息、新常识与已有常识系统相关,互相验证支撑。

在验证反应阶段,最好用自己的了解和言语从头表述相关原理,以查验自己对常识的掌握程度。

于是,便有了这篇关于“自我学习观”的学习笔记;希望其能够作为了解学习原理的一份“有用资料”,协助我们从不同视角辨析了解学习根本原理。

感兴趣的朋友能够移步观看学习《断墨寻经》:www.bilibili.com/video/BV1BQ…