微博 – 随时随地发现新鲜事


我从大约2018年起,做过一点深度学习的教学,当时我就一直跟学生强调几点:

1 深度学习虽然极依赖于数学,部分依赖于物理,但你们要注意,学完半年后,你们必须忘掉数学与物理。

2 (继1)不要为理解其中的数学或觉得自己数学好而沾沾自喜。数学好有时反而会障碍你在这方面的进步。

3 深度学习最最关键的是对神经网络的直觉,对智能如何可能的一种模糊的直觉判断,以及对一件事的达成所需要的信息的判断力。

4 (3的第一点)对网络的直觉第一点是:要习惯将网络看成是已知状态到达一个想要状态的未知关联,即对任何问题你先设立一个目标,看看到达目标有多少中间状态,将起点到中间状态,中间状态到中间状态,中间状态到目标用线连起来,这些都是未知关联。有未知关联就给它一个相应的神经网络,就这么简单粗暴。

5 (3的第二点)对智能如何可能的一种模糊的判断,这点也非常重要,这点其实可以多多观察我们人是如何学习的。多想想为什么我们只要稍微提醒一下就可能学会。多想想如何用神经网络(结合4)去构造去仿制这种学习过程。其实也非常简单粗暴。

6 (3的第三点)对一件事的达成所需要的信息的判断力要在平时不断地训练,这种判断能力将会贯穿始终。要练习判断多少的训练数据,从原则上可以训练出什么样的效果。要用信息获取,信息流动的角度来大致分析。这很关键。

最后记住:掌握了基本的数学后,就要尽早忘掉数学,尽力培养两种判断能力。

最后的最后记住:不要将深度学习仅仅看成是统计学看成是拟合,不要将深度学习仅仅看成是统计学看成是拟合,不要将深度学习仅仅看成是统计学看成是拟合。

https://weibo.com/