杨立昆：科学之路读书笔记1

news2025/1/9 20:49:14

在这里插入图片描述

一起学AI系列博客：目录索引

前言

在贝尔实验室，靠节省开支，是无法混出名堂的。——《科学之路》

五一假期读的多，写的少，后面的读书笔记与感悟分享，会进行一些改变。结合一些反馈看，纯读书笔记式的输出，即：核心观点+感悟分享，大家的阅读兴趣并不大。

而个人之所以持续输出的目的，一个是利用费曼输出的方法来倒逼自己，体系化知识结构，另一个是能让更多的有缘人看到并对其能有所启发帮助（不然，只是总结和反思的话，就跟自己本身常年写的日记无二致了。）

所以，这次输出将改为：

希望小伙伴们阅读后，也能积极分享你的感受，相互交流，我们共同进步！

读这本书的缘由，一方面是华为内部在大力提倡算法部门进行AI进阶，一方面自己对深度学习技术本质也很感兴趣，希望结合业务进行更深入了解。

而照我自己的读书能读元典必先读元典的习惯，自然应该先读深度学习三巨头之一杨立昆本人所著述的《科学之路》，书中深度分享了人工智能的三大低谷时期所遇到的困难及与之战斗的故事。

杨立昆从20世纪70年代开始研究，并坚持至今，直到2013年神经网络在IMAGENET大赛中大放异彩，才得到学界主流的认可。

谁能想到，当年他发个论文都要偷偷摸摸，把涉及到神经网络概念模糊成其他内容，才能通过评委认可，如今这个方向却成为众星追捧炙手可热的方向呢？

另一个有意思的事情是，获得计算机界“诺奖级”图灵奖的杨立昆，几乎是反内卷人士代表，他的反内卷人生经历，见文章：《图灵奖的反内卷人生——杨立昆》。

该书中，读到杨立昆介绍他在贝尔实验室的岁月，讲到：靠省钱，是做不出什么开创性的研究的。这句话令我印象深刻，因为我这些年的经历告诉我，这是一种顶级思路，长期做正确的事。比如华为，越是在困难时候，越要加大研发投资力度，招揽更多的牛人来解决当下的困境，而不是省吃俭用，猥琐发育。

这些事件，对我个人的启发就是，只要是对的事情就可以大力投入——宝贵的时间和金钱，为一些有价值的资源和信息，绝不吝啬付费，同时，尽量减少摄入免费或廉价信息资源。因为试错成本高，不知道对方说一千道一万，屁股决定脑袋，也许最终目的只是想把你骗来买基金、割韭菜，免费的并不一定就没有成本。

书归正传，杨立昆虽然在贝尔实验室大手大脚，但关键时刻脚底抹油也不比谁慢。2001年年底，互联网泡沫开始爆发。时任AT&T实验室副总裁的拉里·拉比纳（Larry Rabiner）是一位语音识别领域的先驱，他宣布将在三个月后退休，尽管还没有到退休的年纪。

机智的杨立昆大师，比人工智能更智能，迅速判断，这是“世界末日”的一个预警。于是，开始悄悄为自己谋求后路——寻找另一份研究职位，并在AT&T通知他下岗前夕，顺利跳槽，无缝切换，也算是提桶跑路界的佼佼者了。

这个故事告诉我们，作为一只有觉悟的春江鸭，靠省钱可能混不出名堂，但对趋势的正确判断一定能混出名堂，比如杨立昆在无人相信神经网络的前景时，就能正确判断：众人皆醉我独醒。默默坚持，直到最终的胜利到来，才三军过后尽开颜。

在人工智能探索的低谷，被贬低得一文不值的“感知器”，却沿途下蛋，并产生了意外的影响，如自适应滤波器（本质是一种感知器），如果没有这项技术，我们至今无法对着扬声器打电话。
奥卡姆剃刀原理：“若无必要，勿增实体。”来自一个17世纪的神父的思想，影响着杨立昆在低谷期，依然坚持着神经网络的研究，只因它形式简单、具有美感、并可证伪。
2017年，东京大学发明的名为“东大”的AI做题机器人，不仅顺利通过大学入学考试，而且语数英三科成绩超80%的考生，不过庆幸的是，它在最终考试中挂了。

下期我们将读到，杨立昆在AI研究的科学之路上，低谷时期克服困难的故事，以及他对未来AI人工智能的展望，并总结分享他的人生感悟。