只是想到了牛顿的小黑。
那玩意儿，怎么看都不像是用现在这一套大语言模型的路子搞出来的。
他斟酌了一下措辞，慢慢开口。
“我没什么很专业的看法。”
“就是有个特别外行的问题，大家别笑我哈。”
桌上的人都笑著说不会的。
李东这才继续说道。
“为什么……人工智能就一定要按照现在这种路子做呢？”
“我说的是，为什么不能更接近人脑真正的工作方式？”
“你看，人脑大概有八百多亿个神经元，每天大概就消耗二十瓦的功率。”
“但它能听、能看、能想、能学、能在一秒钟之内认出一张脸，还能在两年之内学会一门语言。”
“而我们现在最先进的大模型……”
“训练一次要烧几千万度电，推理一次也得调动一整个机房的卡。”
“在做某些事情的时候还不如一个三岁小孩。”
“差距在哪儿？”
“我觉得不是在算力上，是在……根本路子上。”
说实话AI这块李东确实不太懂，所以就是吧自己的想法说出来。
桌上的人没有一个出声的。
他们就那样静静地听著。
李东顿了一下，继续往下讲。
“我前一阵子翻文献的时候看到过一个方向，叫脉冲神经网络。”
“它的思路就是不用现在这种连续值的激活函数，而是模仿人脑里神经元放电的方式。”
“只有放和不放两种状态，平时不工作，只有信号攒到一定程度才发一个脉冲。”
“理论上这种网络的能效比要比现在的ANN高几个量级。”
“还有更激进一点的，叫神经形态计算，干脆把芯片本身就做成模拟神经元的结构。”
“IBM的TrueNorth、英特尔的Loihi，都是这条路上的尝试。”
“我就在想……”
“是不是有一天，我们真的能造出一个不用一万张A100，而是用一颗类脑芯片，就能完成同样事情的东西？”
李东说完，桌上一片安静。
倒不是说大家被震惊到了，而是……
“哦，原来你也只是个会做白日梦的小孩”
李总最先反应过来。
他脸上的笑容有点复杂，但看得出来，是真心想跟李东讲点东西。
“李东啊。”
“你这个想法，其实在学术圈不算新。”
“不光不新，可以说是非常老了。”
“早在上世纪八十年代，就有人提了。”
李东点了点头。
李总继续说。
“但是这条路为什么这么多年了都没起来？”
“因为它太难了。”
他放下杯子，两只手一摊。
“我们对人脑本身的了解，远远没有外行想象的那么多。”
“目前为止，全世界唯一一个被完整测出来的连接组。”
“是秀丽隐杆线虫。”
“它一共就三百零二个神经元。”
“光是这三百零二个神经元的连接图，科学家整整测了三十年。”
“果蝇的连接组前两年才刚刚做完一部分，而一只老鼠脑子里大概七千万个神经元，目前连零头都没测完。”
“人脑？八百亿个神经元，每个神经元平均连一万个突触。”
“我们离把它彻底搞清楚，还差著十万八千里。”
李总看著李东说道。
“就算我们了解了大脑，我们也没法在硅基芯片上
高效地复现它。”
“人脑的神经元和我们的芯片。”
“是两套完全不同的逻辑。”
“你硬要在GPU上模拟一个脉冲神经网络，效率比直接跑ANN还低。”
“这就是为什么SNN吹了这么多年，到现在主流的AI公司也没真的allin的原因。”
“它现在能做的任务规模，比ANN差得很远。”
李总叹了口气继续说道。
“还有，我们没有成熟的训练方法。”
“ANN为什么这十年突飞猛进？因为我们有反向传播。”
“反向传播这个东西在数学上是很高效的。”
“但人脑里有反向传播吗？没有。”
“那SNN要怎么训练？目前学术界还没有一个公认的、和反向传播一样好用的方法。”
“很多团队在试，但都还没试出来。”
李总把手放下，端起杯子。
“所以李东啊。”
“你这个方向，理论上当然是对的。”
“长远来看，类脑计算很可能就是未来。”
“但是……”
他还是强调了一下。
“在可见的五年、十年之内，能落地、能赚钱、能让中国的AI追上世界第一梯队的，只能是现在这条transformer的大模型路子。”
“不是因为它最好。”
“是因为它最现实。”
李总说完，桌上的几个人都纷纷点头。
显然这是行业内已经形成的共识。
李东没说话。
但心里有一个声音，在很坚定地反驳。
不可能？
我亲眼“见过”有人做出来啊。
那就是牛顿的“小黑”。
既然有人能在那个时代、把它做出来。
那就说明，这条路是走得通的。
至于眼前这些困难……
对大脑的理解也好，硬件的底层逻辑也好，训练方法也好……
一步一步克服就是了。
第217章 我确实有兴趣
闭门会结束后。
李东回到学校的时候已经快十一点了。
寝室里只有他一个人，他洗了个澡。
今天晚上那些人讲的话，还在他脑子里转著。
理论上对，但是不可能。
人脑太复杂，我们看不清。
硅基芯片做不出模拟神经元的效率。
……
李东托著下巴。
确实，这些都是实打实的困难。
不是他凭著一句“我相信”就能跨过去的。
但是……
他又想起了小黑。
想起牛顿在群里发过的那句话。
“我照著人的脑子来造的。”
牛爵爷好像根本没在意什么“反向传播”。
他甚至连“神经网络”这四个字都没听过。
他只是凭著自己对世界的直觉，再加上七千多张解剖图，硬生生地把它搭出来了。
“中间肯定少了什么我不知道的东西！”
李东摇了摇头，也不去想直接问多好呀。
他打开手机。
【大学科研中】：@艾萨克·牛顿，爵士，在吗？
发出去之后，他盯著屏幕看了大概两分钟。
群里没有任何反应。
李东叹了口气，把手机扣在桌上。
“算了。”
“先把手头上的事做完吧。”
他低头看了看桌上那一遝写满了符号的草稿纸……
……
接下来的几天，李东的生活基本上就是寝室、研讨室、食堂三点一线。
学校已经放假了，整个燕园都安静得有点不真实。
研讨室里只有三个人。
上一篇：我家艺人太没上进心了
下一篇：返回列表