本期嘉宾翁家翌。他在 2022 年加入 OpenAI,并且是 OpenAI 一系列核心模型背后的核心贡献者之一——从 GPT-3.5、GPT-4、再到 GPT-5,你能看到的那些关键跃迁里,都有他的身影;而他最主要的贡献,你可以先记住三个词:强化学习、post-training、infra。
如题,如何看待宿命论部分,我记得之前也在茶馆上刷到过关于宿命论的讨论,记不太清了。
我个人是大部分认同,你们是怎么看的呢。
附上对话原文:
何泰然:那么再讲完未来。如果有一个你希望 AI 可以解决的世界难题,会是什么?
翁家翌:如何预测未来。
何泰然:你说的未来肯定不会是杯子怎么掉下这种未来,而是整个人生、世界格局,所有的这些东西?
翁家翌:嗯,对。
何泰然:为什么这个事是你觉得最想做的?
翁家翌:我个人对于,比如说追求一个自己造的世界,还是很有吸引力的,就是很有一些追求的。然后,但是如果你在高维度空间来看的话,你需要提前生成剧本。
何泰然:我的理解是,你觉得我们的命运是可以被预测的?
翁家翌:是。这个世界是个确定的,所以我们生活在一个确定性的马尔可夫过程里面。
何泰然:是的。那往深了说的话,你觉得人是没有自由意志的?
翁家翌:是的。
何泰然:我现在脑子里面在想什么,我下一个单词说什么,我下一个问题问什么,全都是一开始宇宙大爆炸那一刻就定好了?
翁家翌:是的。
何泰然:这个是我已经验证过无数遍了……这在我听起来是一个相当悲观的世界观。
翁家翌:是的。
何泰然:因为可能这是真的吧,但是我自己内心深处,我不愿意接受。
翁家翌:我也不愿意接受。
何泰然:就好像我就变成了一个在被模拟的原子。为什么你会这么想?
翁家翌:有一些我的个人经历吧,就是不太方便说。但是我觉得这个确实是事实,所有东西都是可以被预测的。
所以理论上它是可以用 AI 解决的。
但是如果你能拿到一个能够预测未来的机器的话,那么它对个人而言其实是一个灾难。
何泰然:我觉得这会导致所有的价值体系的崩塌。
翁家翌:是的。
何泰然:就如果有这样的 AI model,它做到了,可能对人类社会来说,最好的选择是毁掉这样的 AI model,让它永远不要出来。
翁家翌:对。
但是有些人就非常愿意去开发这种 model。
不然的话,他会被宿命论操纵。
何泰然:也就是有人喜欢这样的 model,是因为他想 jailbreak?
所以你的意思是,有了这样的 model 之后,我要做那个和 model 预测的不一样的事,称之为“逃脱”?
翁家翌:不是。
只是为了搞清楚这个世界背后运行的规律。
或者说,这个世界为什么要确定?为什么这个世界是宿命论?
何泰然:所以你觉得“上帝不掷骰子”?
翁家翌:对。
何泰然:宏观不是骰子,微观是骰子,这个成立吗?如果说在量子力学的观测里面。
翁家翌:这个成立,是因为你可以在后台修改一些世界线。
虽然你可以把我说的话认为是扯淡,没有问题。
何泰然:但是我没有认为是扯淡,我在尝试 reason behind it。
我觉得这个我也想过很久,就是到底这个世界是不是确定性的。
我们是不是有一个剧本,我们只是提线木偶,在这个世界的 dynamic 下完成我们的一次随机过程——
翁家翌:而不是随机过程,是确定过程。
何泰然:是的。
你对这个事毫无怀疑?
翁家翌:我很怀疑。
但是我尝试着去证伪,发现证伪不了。
我非常想让它证伪我。
何泰然:我也有这个疑问,我很感兴趣。
我觉得我六七岁的时候就和我爸妈提过这个事。
我就感觉,你怎么知道我说的这句话不是早就确定性的?你怎么知道你的反应不是确定性的?
我小时候就在想这个问题。
但我后来发现,如果是这样的话,我都不觉得我是“人”。
翁家翌:所以最好的方式就是忘掉这一切。
然后假装你不知道这个事,然后去体验当前的一些经历。
何泰然:你已经这么做了吗?
翁家翌:我一直都是这么做的。
我没有办法。
还有一个解释是:这个时间线不是线性的,它是可以跳跃的。
所以说你可以用一个理论来解释,就是未来的我帮助过去的我来完成某些决策。
何泰然:你刚刚说过一个瞬间,说你在小学还是初高中的时候,突然未来的你告诉曾经的你,说你要什么——要 make impact?
翁家翌:对。
这个句子,我脑子里蹦出来就是这样一句话。
但是我不知道是不是未来的我告诉我的。
何泰然:那为什么你觉得世界线不是连续的?可能有未来的什么穿插来、穿插去的?
翁家翌:我觉得三维生物都是有它自己的局限性的。
在三维的认知里面,这个时间就是一个线性的、单向流动的。
但是有可能在四维的时间里面,它这个时间并不是单向流动的,它可以任意跳跃。
这是我找到的迄今为止合理的解释。
何泰然:所以你觉得,真的你过去有无数个时刻,有一个未来的你,像《星际穿越》的 Murphy 一样,在后面推那个柱子?
翁家翌:对,这是可能性之一。
因为这个无法证伪。
何泰然:而他推这个柱子,又会导致你在未来又会再过去推那个柱子?
翁家翌:对。
何泰然:所以你现在最好的解决方案就是忘掉这个事。
翁家翌:对。
何泰然:还坚信“西西弗斯是幸福的”。
翁家翌:对啊。
何泰然:这个聊下去我们可以再聊半小时,我们先过了这个话题吧。