高稳伸手在面前那张白纸上,画了一个简单的小框。
“你看啊,我们现在主流这一套大模型,走的是transformer加scaling的路。
”“它的学习,是被关在训练这个阶段里的。
”
“训练完了,权重一冻,模型就死了。
”
“它推理的时候,参数一根毛都不会动。
”
“所以你给它喂完料以后再不动它,它当然停在那儿。
”
“可snn这套不一样。
”
高稳在那个小框边上画了一根弯弯的箭头。
“snn底子里是脉冲、时序、突触可塑性。
”
“这三个东西,本身就是带活性的。
”
“哪怕外面没有新数据进来,只要它内部还在跑脉冲、还在重排时序、还在做局部的那一点权重微调,它就有可能在自己内部.
……”
他停了一下,挑了一个比较小心的词。
“……整合出一些新的连接模式。”
李东心里“咯噔”了一下。
他抬起头。
“高老师,您说的这个,跟人睡觉有点像啊?”
高稳“黑”地笑了一下。
“对喽。”
“人睡觉那段 时间里,海马里的东西,会慢慢往新皮层那儿挪。”
“白天接到的那些零散信号,会被自己捋出一条条线索来。”
“你早上醒过来,本来想不通的事情,突然就通了,就是这个原因。”
他看着李东。
本章未完,请翻下一页继续阅读.........