逸乐
Version 档案当前 Version

Version 0.1

第一场讨论

从机器智能到教育生态，本期以三篇文章开启“逸乐”的第一场讨论。

正式发布

FROZEN ISSUE

本期收录 · 3 篇

以下内容固定为本期正式发布时采用的文章版本，并依主编编排顺序呈现。

  1. 01本期主文 · FEATURED

    脑与认知科学评论

    人工智能的赵氏定律

    机器更容易模拟少数人的高阶技能，却难以复现人人具备的日常智能——这是我对人工智能难度的一项观察。

    作者 赵力定稿

    人工智能中有一个反常现象，我将它称为人工智能的赵氏定律：凡是人人具有的智能是人工智能较难实现的；凡是不是人人具有的智能是人工智能较容易实现的。

    也就是说，从某种意义上说人类天才（不是人人具有的智能，例如围棋天才）都是机器可模拟的。相反，凡人的智能反而是非常难以被机器模拟的。

    例如机器真正掌握了围棋。围棋棋圣聂卫平说AlphaGo教会了他下围棋的新方法，并在李世石被击败后表示AlphaGo的“中盘实力可达十三至十五段”。一年之后AlphaGo以3：0击败世界围棋冠军柯洁，聂卫平表示AlphaGo“相当于职业围棋二十段“，甚至说是“至少二十段”，并在晚年评价“估计有50段” 。在其后AlphaZero更虐哭了柯洁。如今，像芮乃伟这样的职业九段棋手训练是跟AI下棋。

    反观视觉、自动驾驶、机器人日常行为等普通人具有的能力机器反而很难模拟、掌握。水平和普通人还差得很远。一个年轻人可以快速从长长的台阶冲下来，机器人要实现这个动作仍然遥遥无期。

    为什么会造成这一现象呢？是否是造物主体恤人类把难的都替人类做了而把容易的留给了人类自娱自乐？

    从2016年3月DeepMind的AlphaGo以4：1的比分击败当时人类围棋第一人南韩的李世石，我就逐渐形成了这一观念并在2018年开始的计算机专业研究生的专业英语课中人工智能部分讲授此一观念，并命名为赵氏定律。

  2. 02

    脑与认知科学技术札记

    Why back-propagation in neural network can be considered as Hebbian Law?

    A short observation connecting the local weight update in back-propagation with Hebbian learning.

    作者 Li Zhao定稿

    The back-propagation algorithm has a crucial formula:

    ∂En∂wji←δjzi\frac{\partial E_n}{\partial w_{ji}} \leftarrow \delta_j z_i

    (1)

    and a formula about δⱼ. Here I would like pointed out that the formula (1) can be considered as Hebbian Law.

    Here zᵢ = h(aᵢ) (Ref. 1), it is the output of the neuron i after the activation function. Therefore it is the activity of the neuron i of the forward neural network. At the same time the backward activity of neuron j is δⱼ, i.e. the activities of connection of i and j are zᵢ and δⱼ. And here the back-progation law told us the its update is proportional to δⱼ zᵢ. This is exactly the Hebbian law.

    To the best of my knowledge, this observation is not appeared anywhere in the literature, internet, or video. This observation is lectured in my neural network course for graduate students for more than 5 years.

    Reference

    C. M. Bishop and H. Bishop. Deep Learning: Foundations and Concepts, p. 237. Springer, 2024.

  3. 03

    养士评论

    研究生疯狂扩招与高校教师收入

    从导师激励与高校收入结构出发，讨论研究生扩招、博士文凭与学术判断之间的关系。

    作者 知乎河洛定稿

    近年研究生疯狂扩招，在一些高校研究生的人数已远超本科生人数，而且这种趋势还在继续。这种现象的一个直接后果是博士文凭贬值，大量博士找不到合适的工作。

    造成这种局面的原因一部分和管理有关，还有一部分和教师的收入有关。中国高校教师疯抢研究生名额不是因为他们多想传道授业，而是指导研究生能带来巨大的实际好处。通常指导一个研究生可以获得远超讲授一门课的绩效，更不要说指导研究生的隐形好处。

    指导研究生的主要工作是指导研究生的研究。那么研究生导师具备这个指导能力吗？或者说研究生导师能够指导什么？我的看法是：本科教育以上所有人的意见基本上是没有高下之分的。（或者更本质的说：在面对复杂的未知问题时，所有受过良好本科教育的人的意见的正确的概率是一样的，无论该复杂未知问题是否在其的专业范围之内。）也就是说专家的意见一点也不专业即使在他的专业领域。

    我举几个例子。1990年代我在燕园曾问中国第一个人工智能博士“神经网络能处理自然语言吗？我觉得应该能。”我清楚地记得那位博士非常不屑的说“这怎么可能”，那种不屑的表情我现在仍然记忆犹新。事实是现在处理自然语言的就是神经网络。这位博士是专研自然语言处理的专家而我只是一个刚入校的硕士生。还有一个例子就是Perceptron公案，1960年代对神经网络下专家结论的两位专家在已经知道神经网络未来的解决方案的情况下，仍然直接封死了神经网络未来的研究。还有就是Hinton最近的种种胡言乱语。一个诺贝尔奖获得者在他最被世俗认可的年纪说出了他这一生最不专业的见解。真是应验了王选教授的意见：在我见解最好的年纪没钱、没人理、还说我是骗子，在我最糊涂的时候有钱、受人捧。

    那么专家比研究生多出什么？我觉得就是多出来几年经验、和“可能”多的文献阅读量。但经验和知识不一定带来判断，而真正有用的从来都是指明方向的价值判断。所以绝大部分研究生导师基本上并不具备这个能力。那么他们能够指导研究生什么呢？他们又凭什么因这个“指导”获取高额报酬呢？

    反观欧美从来就没有抢带研究生的盛况，也就没有什么扩招和博士贬值。最关键的原因是指导研究生没有额外的报酬。在美国指导研究生是本份。所以在美国已经是这样不堪的情况下，在这一点上仍然优于中国。真是令人感慨！