我的学习群里全是真大佬 第493章

……

而此时,大洋彼岸。

加州,山景城。

谷歌园区主楼顶层的那间会议室,已经连着一个星期没有在日程系统里空出来过了。

百叶帘放到了底,门口站了两名安保。

长桌的主位上坐着戴维·朗。

他的左手边是首席科学家马库斯,右手边依次是TPU平台的负责人、预训练团队的总监,还有DeepMind那边连夜飞过来的两位资深研究员。

这种规格的会议,往常一个季度也凑不齐一回。

“说说吧,现在情况怎么样了?”戴维·朗开门见山的说道。

马库斯翻开了面前的本子。

“李东教授在首尔提供的那些思路,连同他的降维算法,我们这两周从头到尾过了一遍,数学上,完全没有问题。”

他停顿了一下,像是在斟酌一个足够严谨的措辞,最后给出的却是一个一点也不学术的结论。

“李东教授,真是个好人。”

会议室里响起一阵低低的笑声。

“我补充一点。”预训练总监接着说道,“代理模型上的扫参已经收尾了。”

“学习率和批大小跟着网络宽度走的那组缩放关系,我们按十倍规模做了推测,省下来的搜参算力,足够再训一个中等规模的模型。”

……

戴维·朗坐在主位上,一条一条地听着,最后总结道。

“那咱们就开始实测!看看能不能跑的通!”

会议室里的人齐声说好,士气空前高涨。

散会之后,戴维·朗独自在会议室里坐了一会儿,然后掏出手机,拨通了一个号码。

电话响了很久,才被接起来。

“朗?”电话那边的彼得·诺维格语气很惊讶,“你给我打电话干什么?”

“那个,”戴维·朗清了清嗓子,难得地有些不好意思,“我想跟你打听一件事,你的女儿,和李东教授的关系是不是挺好的?要不……”

“滚。”

……

同一个下午,旧金山,另外两栋写字楼里,几乎一模一样的会议也在进行。

结论大同小异:思路成立,收益惊人,全速推进。

三家巨头,谁也没有声张,谁也没有停下。

它们正沿着同一个人画出来的那条路,闷着脑袋,越走越快。

第410章 你就这样给我画饼?

早上八点四十,京城南站。

林伟站在广场,风吹在他的脸上,脑子总算清醒了几分。

他掏出手机打给了李东。

电话只响了两声就接通了。

“林总,到了?”

“刚出站。”

“那正好。”电话那头的声音听上去精神不错,“上午九点,燕大信科大楼三楼,308教室您过来找我就行。”

“……行。”

挂了电话后林伟有些疑惑。

不去办公室,去一间教室?

不过他也没有多问,李东嘛,不正常才是正常。

……

信科大楼三楼。

林伟来到了308教室的门口,里面隐隐传来说话的声音。

“已经开始了?”

林伟想到,抬手敲了敲门。

“请进。”

林伟推开门走进去,然后就傻住了。

李东在讲台上站着,这倒没什么,问题是下面坐的人问题很大呀。

什么高稳院士,鄂伟南院士,戴海院士,唐杰教授,还有一些他倒是知道,可是却没有打过交道,但无一不是长江学者或者杰青。

而最靠边的位置上,还坐着一个老人家。

姚先生。

饶是林伟见惯了大风大浪,这一刻也有一点点反应不过来。

李东在电话里说的不是搞出了个大模型的原型吗?

他过来也只是想亲眼看看这个大模型的成色,怎么现在压力这么大呀?

“林总。”讲台上的李东冲他笑了笑,“下面去坐一下。”

林伟下意识地哦了一声,往台下走。

高稳朝他招了招,示意他坐到自己旁边,等他坐下了才声音说了一句。

“林总来了,好好听听。”

林伟点了点头,心里还是没想明白。

不是来看大模型的演示吗?

怎么变成上课了?

……

台上,李东已经接着讲了下去。

“……枚举搜索、等价性判定、精确符号归约,三个原语刚才都过了一遍,这里不再展开。”

“市面上的模型为什么会瞎编?很多人觉得是训练上的问题,什么数据不干净呀,对齐没做好呀。”

“其实都不是。”

“病根出在输出端。”

李东转过身,在白板上写了一行字。

“自回归这套范式,每往外吐一个词,都是在一张概率表上取数。”

“这张表上什么都有,唯独没有一个选项,叫弃权。”

“所以轮到它开口的时候它就必须开口,推得动的时候,它在推理,推不动的时候,它也得从概率上挑一个最顺眼的来告诉你。”

接下来的十几分钟,李东把大模型的缺点都说了一遍,最后他讲的是信任。

如今的模型越堆越大,世上没有任何一个人能把这堆数从头读到尾。

所以业内信一个模型,靠的是跑分和发布会上那几页漂亮的曲线。

而他的大模型原型,不吃这一套。

……

整整一个多小时,李东在台上讲的全是推导和代码,从头到尾,没有出现过一次现场演示。

这个时候林伟也终于听明白了,李东的这大模型的优点很多。

单论结论可靠性、可复核性和样本效率这三项硬指标,这套架构确实比市面上的全部自回归大模型,高出不止一个数量级。

可问题是……

你特么这个大模型搞出来了吗?你就给我画饼?

你给我一堆代码都没跑过的你就敢让我……

林伟想到这里的时候,突然反应过来这间教室是怎么回事了。

他看了看和自己一样坐在台下的人。

姚先生、三个院士、十几个长江学者和杰青。

这哪里是上课啊,这分明是在给李东背书呀!

台上李东讲出的每一个字,台下这十几位就跟着点头,最后都会变成砝码,压向他,压向华轩,压向更上面的人。

林伟看了一眼台上还在讲解的李东,突然想起了四年前那个站在华轩杯奖台上,笑起来有些羞涩的年轻人。

几年过去了。

同样是站在台上他是那么的自信,而台下坐的已经不是参赛选手了,华夏在这个方向上的重臣!

“哎……物是人非呀。”

这堂课最后讲了一个半小时。

散场的时候,戴海、唐杰几位还有别的事,先走了。

走之前还都特意绕到讲台边,跟李东低声交谈了几句才离开。

那种神情林伟太熟了,他在无数个评审会上见过,那是对一样东西动了真心思的神情。

最后教室里只剩下了五个人。

高稳、鄂伟南、姚先生,林伟,还有从讲台上走下来的李东。

李东拖过一张椅子,在林伟对面坐下,笑眯眯地开口。

“林总,感觉我这个大模型怎么样啊?”

林伟苦笑了一下。

“李东教授,其实……没必要的。”

他说的没必要,是没必要兴师动众请来满屋子的老师,专门给他上这一课。

李东拿出来的东西,华轩什么时候敢不当回事?这套代码就算今天落不了地,他回去照样会让华轩和国威两边的工程师,把它从头到尾啃一遍。

这几年,李东出手的东西没有失手过。

这份履历放在产业界,本身就是信用。

“哎,什么叫没必要。”李东一脸理所当然,“这是老师们对我这个后辈的关爱。”

“再说了,你难道不想听听,我捣鼓出来的这个小玩意儿,在老师们眼里到底怎么样?”

林伟点了点头,没在这个话题上多说。

他也不绕弯子,直接问道。

“李东教授,你说吧,需要华轩怎么做?”

李东收起了笑容。

“我想让这套大模型,落地在你们的7纳米加速卡上。”

“但是,需要个基底。”

听到李东的话,林伟一点都不意外,不过他还是叹了口气。

要知道从零开始编写一套基底这意味着什么。