我的学习群里全是真大佬 第499章

有人在看屏幕上的波形和时序,也有人围着一块插满了飞线的板子在量……

实验室里一股焊锡味一直没散去,看的出来大家已经连轴转了好些天了。

林伟招了招手,从人群里走出来一个人。

“李东教授,给您介绍一下,这位是王勍王工,咱们这个项目的总工。”

这位王工,在华轩可不是个寻常的角色。

华轩是国威的子公司,半导体设备加七纳米加速卡,是华夏在这条线上的顶梁柱之一。

而王勍,正是上一代加速卡的架构负责人,从指令集到片上互联,几乎是他一手操办起来的。

后来那场七纳米良率的攻坚,整条线卡在最后一道坎上小半年,谁都束手无策,也是他带着一帮人,没日没夜地泡在产线上,硬生生把那个数字,从个位数拉到了能量产的水平。

在国威内部,这是个真正打过硬仗、立过大功的人。

“王工,您好。”

李东伸出手,跟他握了握。

林伟在旁边开口道。

“王工,你跟李东教授,说说具体的问题吧。”

王勍也不绕圈子,指了指那面画满框图的白板。

“李东教授,您这套架构,上面那几层算子,我们都翻译过来了,也跑通了。”

“可一到最底下那几个精确算子,就落不到卡上去。”

李东的这套模型,骨子里不是拟合,是精确的符号推理。

那几个最核心的算子,全都要在很大的有限环上做精确运算的,一个比特都不能丢。

因为在他这套范式里,浮点是会撒谎的,差一点点大模型跑到后面,那答案能飞到大西洋去。

第417章 你全家都低阶

可华轩这块七纳米加速卡,它原生的数据通路,是为稠密矩阵乘法而生的。

满阵的脉动单元,吞进去的是低精度的浮点和定点,乘加,乘加,一刻不停。

拿它去做矩阵乘法是完全没问题的。

可是它就是不会做大模数的精确运算。

这些卡上压根就没有这样的原生指令。

想在这块卡上,把那几个算子跑起来,就只能拿现成的乘加单元,去软件模拟那种上千比特的大整数运算。

一条精确的乘法,拆解下去,就是成百上千条指令,片上那点SRAM,转眼就会被撑爆。

更要命的是……大整数运算那条长长的进位链是一环扣着一环的,必须挨个往下捋根本并行不起来。

而加速卡赖以为生的,恰恰就是并行呀。

一条进位链压下去,满阵的脉动单元大半都得在那儿干等着。

再加上他这套符号归约,走到哪一步读哪一块内存,全都是临时才定的,而且数据相关访存又散。

说到底,基底能把他这一整套框架完整地表达出来,可是一旦跑到最底层那几个算子上,就是没办法落到加速卡的原生通路里,只能靠模拟路径来运行。

所以跑是能跑,可那个速度跟没开会员的百度网盘一样。

“这条模拟的路子,我们试过了。”王勍补了一句,“拿整块卡去跑您一个最小的算例,比一台老掉牙的服务器还慢。”

李东听完沉默了。

他确实没料到,会卡在这么个地方。

适配会麻烦,他是有准备的。

可他没想到有这么麻烦呀。

他那套为精确而生的东西,和这块为矩阵乘法而生的加速卡,从最底层的原生指令开始就根本不匹配。

这不是改几行代码,调几个参数,就能解决的事。

换一块卡?

可华夏手里眼下也就这一条七纳米的生产线,绕开它等于这事从头就不用谈了。

“这个问题……”李东缓缓开口,“我确实没考虑过,也没想到。”

他抬起头。

“给我几天时间,我好好想想。”

王勍点了点头。

“行,那我们也一起想想。”

……

从实验区出来,林伟见李东皱着眉头,便开口说道。

“李东教授,您这套代码是真没得挑,别的地方一点毛病没有,就这一块算子的事要是能打通,估摸着一两个月就能直接落下来了,其实已经很快了。”

李东自然知道他是在安慰自己只是点了点头没说话。

他满脑子现在都是那几个落不下去的算子。

林伟也看出来了,没再多废话,让人收拾出一处地方,把李东和老张都安顿了进去。

回到房间,李东把随身的电脑打开。

屏幕的角落里,小黑正蹦蹦跳跳。

“小黑,”李东开口,“我问你个东西。”

“主人,”小黑一个华丽的转身,“请尽情吩咐小黑。”

李东:“……你别贫,正经事。”

“好吧。”小黑一蹦一跳,声音里满是遗憾,“主人,一点都不懂幽默。”

李东盯着那个圆球,心里直犯嘀咕。

这玩意儿,是不是有病啊?一个人工智能,你还懂幽默?怎么,还有情绪了?

不过吐槽归吐槽,他还是把华轩那个落不下去的问题,原原本本地讲给了小黑听。

小黑安安静静地听完过了好一会儿,它才慢吞吞地开口。

“主人,这个……小黑也不知道。”

李东一愣。

“主人,我连自己的本体在哪都不知道,所以我不知道为什么这个玩具在人家啊身上跑的可顺畅了,所以我是真的帮不上忙呀。”

小黑的回答让李东一时间也不知道怎么办。

因为小黑说的对,就好比一个人活得好端端的,可你要问他,诶,你心脏到底是怎么跳起来的、神经里那点电又是从哪儿冒出来的,他多半也是答不上来的。

他只是,活着罢了。

“反正,在小黑看来,”小黑难得有些泄气,“这事儿……无解。”

李东,也被它这话噎住了。

连小黑自己,都说不清自己是怎么落地的。

那这条路,可就真有点走不通了。

就在这时,手机震了一下。

李东低头一看,是青龙学习小组来消息了。

他点开一看,里面正吵着架呢。

而吵架的人他是一万个没想到的……

【牛顿】:什么人工智能?那是小黑,我的小黑。

【香农】:牛顿爵士,那不叫小黑,那叫低阶人工智能。

【牛顿】:你才低阶,你全家都低阶,我的小黑,能像人一样跟我聊天,它哪里低阶了?

李东的脸色,有点古怪。

他早就觉着,这位牛爵爷,有点不太对劲。

按理说,这群里的人有些是同一个宇宙的,有些是不同宇宙的。

而不同宇宙之间,本是没法对话的。

可牛顿,从来就没有这种限制。

他和爱因斯坦吵过架,和焦耳掰扯过热力学,和法拉第聊过电磁,如今……又跟香农杠上了。

李东一直都没琢磨明白,不过就在这个时候,群里吵的更厉害了。

了?

【香农】:能聊天,不代表它高级。

【香农】:所谓低阶人工智能,是说它确实生出了一点点近乎人的认知,会思考,甚至学会了模仿人的脾气性子。

【香农】:可它,改不了自己,它没法重写自己的底层代码,也跳不出当下这具壳子。

【香农】:脉冲神经网络这一路,走到这儿,差不多就到顶了。

李东:???

不是香农大佬,你怎么连脉冲神经网络都知道呀……

就在李东惊讶的时候,香农有继续发消息了。

【香农】:真到了中阶、高阶,那才是另一番光景。

【香农】:到那时候,它能亲手给自己改结构,能换一具壳子接着活下去,甚至能在两套截然不同的底子之间,把自己整个搬过去。

【香农】:当然,这也只是我和我那几个同伴的,一点推测罢了。

李东看到这儿,心里微微一动。

这还是他头一回,知道小黑的进化路线。

能换一具壳子接着活,能在两套不同的底子之间,把自己整个搬过去。

他盯着这两句话,看了好几遍。

这说的可不就是他眼下最头疼的事吗?

把一套东西,从一副底子上,原样挪到另一副截然不同的底子上去吗?

只可惜香农说的是小黑的进化,离华轩的加速卡还是隔得很远。

【牛顿】:管你低阶中阶,小黑是我的,它就算要进化那也得是我来帮它进化。

【香农】:牛顿爵士,小黑不是你的,是它自己跑出来的。

【香农】:你要说它是你的,那你倒是说说看,它当初究竟是怎么落到你那台简陋得不能再简陋的通用计算机上的?

牛顿,一时没声了。

他是真不知道,小黑的出现本就是一场意外。

【香农】:而我,知道。

李东,一下来了精神。

小黑的落地的方法!

他可太想知道了。

【香农】:它能落下来,靠的根本不是把整个自己都搬过去,它只▇▇▇▇……。

【香农】:单拎出任何一个余数,都是▇▇▇▇▇▇,谁也还原不出它。可只要▇▇▇▇▇▇……它整个,就能在那么简陋的一台机器上,照着那份指纹,重新拼出来。

【香农】:这不是真把它搬过去,说穿了,是▇▇▇▇▇▇▇▇。