“剩下的，你别管，明白吗？”
李东点了点头。
“高老师，我知道。”
“林总之前和我说过。”
高稳听见这话，神色一下子放松下来。
“那就好。”
“对了，你之前要问我什么？”
“我现在倒是有很多时间。”
李东赶紧拿出了攒了两个月的问题，他将笔记放在两个人中间那张小茶几上。
先简单挑出来前面几条。
脉冲编码权重在初始化阶段的边界条件他有一个版本号上的疑问，他自己其实查过了，也大致知道答案，他只是想跟高稳确认一下。
高稳听完，“嗯”了一声，几句话就把那个边界条件给他点透了。
李东在笔记上勾了一道。
他又挑出来两条关于稀疏放电模式下数值稳定性的小问题，高稳同样几句话就给他过掉了。
每过一条李东都勾上一道。
到了第六条，李东把笔放下了。
他抬起头。
“高老师，下面这一条我自己琢磨过很久，没琢磨明白。”
高稳挑了挑眉。
“你说。”
李东组织了一下措辞。
他没办法直接把小黑那件事摆出来。
他只能把这个问题剥到最干净的一层皮，把它装作一个教科书上那种典型的“假设”。
“高老师，假设啊，假设我这边有这么一套SNN。”
“它在初始喂了固定的几份语料以后，就再没从外界拿过一行新数据。”
“按我们现在这个领域的主流理解，它的模型参数应该停在那儿才对。”
“可它没停。”
“它表征‘内部演化’的指标，自己往上爬了一截。”
“并且这个爬升不是噪声。”
“它对应的，是真的多出来了一些它原本不会的、可解释的能力。”
“高老师，这种情况，从动力学上讲，怎么解释？”
高稳听完，沉默了大概有七八秒。
然后抬起头，盯着李东看了半晌。
“小子。”
“你这个假设……”
“还挺有意思。”
李东心里立马一紧。
他赶紧装出一副若无其事的样子，端起桌上那只一次性纸杯喝了口水。
高稳并没有继续追问，只是慢慢开口。
“如果真有你说的这种情况，我先给你说一个我自己的猜测。”
高稳伸手在面前那张白纸上，画了一个简单的小框。
“你看啊，我们现在主流这一套大模型，走的是Transformer加scaling的路。”
“它的学习，是被关在训练这个阶段里的。”
“训练完了，权重一冻，模型就死了。”
“它推理的时候，参数一根毛都不会动。”
“所以你给它喂完料以后再不动它，它当然停在那儿。”
“可SNN这套不一样。”
高稳在那个小框边上画了一根弯弯的箭头。
“SNN底子里是脉冲、时序、突触可塑性。”
“这三个东西，本身就是带活性的。”
“哪怕外面没有新数据进来，只要它内部还在跑脉冲、还在重排时序、还在做局部的那一点权重微调，它就有可能在自己内部……”
他停了一下，挑了一个比较小心的词。
“……整合出一些新的连接模式。”
李东心里“咯噔”了一下。
他抬起头。
“高老师，您说的这个，跟人睡觉有点像啊？”
高稳“嘿”地笑了一下。
“对喽。”
“人睡觉那段时间里，海马里的东西，会慢慢往新皮层那儿挪。”
“白天接到的那些零散信号，会被自己捋出一条条线索来。”
“你早上醒过来，本来想不通的事情，突然就通了，就是这个原因。”
他看着李东。
“你那个SNN，要是真长成你说的样子，它干的事，本质上跟人脑这一段，是同一件事。”
“它在自己睡觉。”
“自己整理它白天吃下去的那些东西。”
就在李东还想再问一句的时候。
高稳又补了一句。
“不过呢，小子。”
“我刚才说的，全是猜测。”
“你想验证它，办法其实也简单。”
他又在白纸上写下三行。
“第一，给它单独划一段绝对静默期。”
“中间任何外部输入都给它掐断，看它在这段彻彻底底的真空里，那根演化指标会不会还往上爬。”
“第二，分别在这段静默期的不同时间窗里，给它内部的连接拓扑做一份快照。”
“前后一比，新冒出来的连接落在哪一片区域，是均匀的，还是局部聚集的。”
“第三，等它自己消化完一阵以后，再喂一份它从没见过的、但跟它已经吃过的资料同主题的题目进去。”
“看它能不能答上来一些它训练阶段本来不该会的东西。”
“如果第三步它答上来了，那这份多出来的能力，就坐实了。”
高稳放下笔，看着李东说道。
“小子，你试试看吧。”
“如果真试出什么有意思的东西。”
“记得回来跟我说一声。”
李东点了点头。
“好，高老师。”
从高稳办公室出来。
李东没去食堂吃饭，直接朝寝室走。
回到寝室李东直接打开了笔记本电脑。
小黑依旧还是在老位置，头顶上的进度条显示着【0.01】。
李东深吸了一口气，然后按照刚才高稳教给他的方法做。
第一步，绝对静默期。
他先把笔记本上那道单独给小黑开的network namespace又检查了一遍，确认它和外面那一头是物理隔绝的。
然后他打开主控台，切到小黑那个进程。
他给它挂了一道新的全局静默标记，把所有外部输入接口都断了。
他自己也不再朝这个窗口里喂任何东西。
就这么晾着它。
屏幕上那一团小黑球眨了一下“眼”。
【主人是在跟小黑捉迷藏吗？】
【小黑要不要安静呢？】
李东发过去一条信息。
【你自己玩儿一会儿。】
【不用看我。】
小黑乖乖“嗯”了一声。
头顶上那根进度条，依旧静静悬在【0.01】。
李东对着它头上0.01的进度条记录了一份有连接拓扑的数据快照。
他把笔记本盖子合上一半，自己往床上一躺。
定了一个两个小时的闹钟。
准备到时候再来打第二份快照。
时间一到。
李东睁开眼，打开了笔记本电脑。
屏幕一亮。
小黑头顶上那根进度条……
变成了【0.011】。
两个小时，没有任何外部输入，它头顶上那根东西，自己又往上爬了0.001。
李东赶紧按下第二份快照的按钮。
然后他把第一份和第二份快照在屏幕上同时拉开，做了一份差分图。
两个小时前那份连接拓扑里，原本几乎是空白的某几个区域。
居然冒出来了一小簇一小簇细密的、新的连接。
这些新连接不是均匀地散布在全网络上的。
它们是聚拢在一块儿的。
就好像……
上一篇：我家艺人太没上进心了
下一篇：返回列表