一些小小的GPT震撼：我们真的比AI更智能吗？

anon

试用GPT-4的直观感受是——它比chatGPT强了不止一点点，几乎到了令人头皮发麻的程度。现在的GPT已经能够正确使用数学、物理公式，可以理解关系嵌套和模糊指代、并将问题拆分做逐层推理，还能分辨悖论、因果倒置等常见逻辑问题。在大多数智力要素上，它可能达到了人类高中生、甚至本科生的水准。以下是两个例子：

从GPT解题的思路来看，它的推理过程已经和人类相差无几：从题干中提取要素，然后将问题拆分，解决每个子问题，再在它们间建立联系得到答案。即使它是个语言模型，每一段输出都是猜出来的，但——通过刷题积累技巧和直觉的人脑，工作机制就一定不是这样吗？
此时lz不由得陷入了迷茫。GPT的革命性已经毋庸置疑，新的时代正在我们面前徐徐展开，无可阻挡。但lz还想问的是：大语言模型是否已经接近了智慧的本质？我们真的比AI更智能吗？

lixian

依据
深度剖析：ChatGPT 及其继任者会成为通用人工智能吗？
的观点，gpt只能复现人类已有的知识储备。

Weyl

lixian
修改了下链接格式

wzp

lixian 但其实人类个体大部分时间（比如与他人交往）不也是在学习和”复现“已有知识嘛（比如根据人际交往经验和对方的反应，推断自己应该说的话和应该做的行为），大家都得有个学习过程，所以我觉得AI学习人类知识并且运用这无可厚非吧。而且不只是复现，比如通过分析数据得到一些现人类没有的认知也不是不可行。

单论”输入-完成任务-反馈“这项能力，目前gpt4确实令我震惊，发展太快了，而且我觉得发展势头会越来越猛，因为其背后有强烈的利益需求。感觉再优化几代就无法通过这样的对话去区分ai和人了……我觉得与”智能“还有一段距离，人远不是只会”完成任务“的机器（尽管在完成某些任务上已经不如ai了）；但并不是很长的距离，所谓情感，所谓联想，我觉得将来都可以由量化的代码实现，毕竟人类的思想也没有多么高高在上，只是大量的信息，从这个角度看和ai还真没有本质差别。

给ai一点时间，趁这段时间我觉得我们得考虑如何面对ai时代的巨大变革了（）

anon

lixian 读了一下，很有说服力，尤其是其中提到：

ChatGPT在 “推理” 中表现出的话题相关性就暴露了它并不真能进行逻辑推理，而只是通过模仿人类言语行为，往往会正确描述某些推理过程。这种分析同样适用于其它认知功能。我们甚至可以说 ChatGPT “不解决问题，但总结人们对问题的解决

为了防止GPT从网络文章里抄答案，我在测试的时候没有用理发师悖论，而是自己写了一个“母亲给全家人喂饭”的问题。正因此，当它指出这是悖论时我非常惊讶，认为它真的理解了什么是悖论。今天和做过nlp研究的女友聊到这个问题，她表示是我给的样本太简单了，用RNN就能识别出它和理发师悖论相似，所以并不能认为GPT真的理解“悖论”的含义。由此看来，我在主楼里说的

GPT已经能够正确使用数学、物理公式，可以理解关系嵌套和模糊指代、并将问题拆分做逐层推理，还能分辨悖论、因果倒置等常见逻辑问题

这一结论过于武断了，GPT未必真的具有推理能力。

但是，如果“nlp被彻底解决了”，那能否让GPT调用别的程序进行推理呢？GPT已经能有效地猜出每道题目该用什么公式（虽然有时会用错），而人类在符号运算领域已经有非常成熟的软件，Wolfram甚至已经宣称要和OpenAI合作。假如给GPT一个前沿问题，让它仿照人类对相似问题的思路提出一个可解的子问题，然后调用符号运算API求解，再把结果整合进题目条件里，提出第二个子问题……如此循环，会不会真的能解决一些前沿技术问题？

作为依靠文本出现概率生成回答的语言模型，GPT确实只能复现人类已经达成共识的知识。但有没有可能，90%以上的科研工作和几乎所有的工程问题都是既有知识在特定场景的应用，只要有了知识和研究范式，总归可以做出来？这样的话，除了极少数开山级别的大佬，科研工作者也没有存在的必要了。

今天中科院物理所发了一篇推文，尝试用GPT做考研量子力学卷。GPT对大部分题目都能给出思路，但频繁出现计算错误，最终能拿到约80/150的分数；如果修正计算问题，就能拿到100/150。按这个分数估计，如果把GPT放到妮可的量子力学B课堂里，恐怕能排到中游。这么看，以上设想或许真能实现。

wrwrwr

虽然我也被震撼了，但是还是得指出，目前的这些个人工智能只能在搜集信息并展示上达到一定水平，在创造上还没看出来。

换句话说，我在问了几次专业相关的问题的时候，它们对于专业名词解释的很好（甚至看上去比我都懂），但是仔细一看就发现基本都是拼凑的，问深奥一点的问题或者创新性的问题，基本没什么参考价值。

所谓情感，联想，归纳，总结，理解，创新，我不认可ai会很快做到，起码根据我们现在对ai的了解，我认为不行。

Tanix

可能性上说，没有任何定理阻止机器比人更聪明。

wald

贴个报告

gpt-4.pdf

5MB

雀食很震撼，感觉技术越来越廉价了，准备计划提桶跑路

QAQ

anon 工具人淘汰器😭

QAQ

Capatico 什么是探索？

anon 假如给GPT一个前沿问题，让它仿照人类对相似问题的思路提出一个可解的子问题，然后调用符号运算API求解，再把结果整合进题目条件里，提出第二个子问题……

这个是不是

PB18111716

我个人觉得，从强化学习角度来说，GPT利用的能力确实碾压人类（啊我觉得exploitation翻译成利用很有问题），但是GPT探索的能力被人类吊打。人类有几十亿人时刻不停地探索着这个世界，大到造旅行者x号飞出太阳系，嫦娥x号上月球，小到在家门口某小山某小河探险，都属于全人类探索的一部分。但GPT目前还不会自己探索，只能依靠人类探索出来的数据学一学。GPT不会探索，人类却一直探索出更多更好的数据，这GPT要怎么和人类竞争？只会利用，利用能力再强也不足为惧吧？只有那种根本没探索过世界，整天就会利用别人的东西，甚至利用都没利用过，就会搬砖摸鱼的人，才可能竞争不过GPT吧？

PB18111716

Original 因为Wolfram的符号运算API和考研量子力学卷，都是已经完成100%标准化工作的课题。它们本身就是从一套形而上的，并不与现实世界交汇的理论发展出来的。例如符号运算就是按照数理逻辑的方法，先提出几条公理和符号处理规则，再去根据规则计算出更多二级结论。量子力学我学的很烂，就不出来出丑了，但量子力学的思路是和数理逻辑差不多的，从几个基本假设，计算出很多二级结论。在给定这么几条简单规则的情况下，人和AI同时放开了去研究，AI会因为算力碾压人类，最后水平超过人类。

我再举围棋的例子说一说。有些人说围棋状态数目比宇宙原子数目还多，AI把一个比宇宙原子数目还多的问题都解决了，所以AI很智能。但是这里面也有同样的问题，就是我们对围棋的认识是完备的（我不会，但是围棋的规则就那么些），但我们对宇宙的认识远远达不到完备，难道一个原子就是一个状态或者一条规则吗？原子内部还有很多人类没弄明白的规律在运行着。围棋状态多于宇宙原子数的说法有过度抽象宇宙的嫌疑，这些人拿来和围棋比的，根本不是客观的宇宙，是他们自己头脑中抽象出来的一个形而上的东西。只是围棋的状态数目碾压他们抽象出来的那个东西的状态数目罢了。由于一开始，人类和AI对整个围棋世界的基本规则的认识都是完备的。决定围棋下不下得赢的因素完全就是算力。在围棋基本规则的基础上，人类可以用大脑和自然语言、符号语言，计算得出真眼、假眼、禁入点、气等二级概念（我也不会围棋，直接说一下我听过的几个概念吧）。AI也可以用它的显卡和模型，计算得出一些人类完全不明白，属于它自己的二级概念。抛开计算需要消耗的资源不谈，AI确实能做到几个月时间内计算得不输给人类几千年计算的水平，人类根本算不过AI。

面对真实的客观世界，人类和AI的攻守之势就发生变化了。人类和AI从来都没有对客观世界的规则认识完备。不管人类还是AI，想要在客观世界中干成事情，都需要与客观世界这个系统打交道。比方说，现在有个游戏，把玩家扔到地球上，地球运行的一切规则玩家都不知道，只有重新开始探索地球，任务就是逃离地球好了。玩家是现在的全人类和AI。人类算是在地球上探索了几千年，发展出来一套理论，至少能活下来。但现在的AI要是没有人类的帮助，根本就没有主动去探索地球的能力。人类可以探索到地球上自己需要的资源（粮食，水，矿物等），结成一定的组织和生产关系，分工合作，保证自己活下来，在此基础上还能想一些形而上的理论拟合地球的运行规则（科学等）。假设目前全人类消失，遗留在地球上的AI能做到这些吗？AI们能自己去地球上探索，找自己需要的资源吗（额，AI可能需要硅和造发电机，造显卡的材料吧）？能自己组织起来收集数据，了解地球运行的规则，从中获得闯关攻略吗？能自己保证不要被台风地震等自然灾害干坏掉几百台机器，整个AI界就彻底瘫痪吗？当然这只是我作为人类的一员，按人类的套路去理解AI。但很明显，目前GPT的水平根本做不到这些，只能在有人帮它发电，有人帮它跑代码的前提下，用对它来说相当于外语的人类自然语言和人类聊聊天，或者在一个根本就没几条规则，规则还对双方都完备到不行的环境里用算力和人类斗斗罢了。别说宇宙了，就是地球的状态数目和规则数目都是碾压围棋碾压到哪里去都不知道。可以说，没有人类的帮助，AI连主动出击，探索出地球的部分运行规则，找到资源，从而保证自己在地球上独立活下去的能力都没有，更别提学人类搞类似麦哲伦环球航行，斯科特到达南极点，加加林飞上太空的这种于险远之处，真正探索地球的奇伟瑰怪非常之观的行动了。有人说AI有自主意识，那只不过是在围棋，星际争霸这种简单完备系统里能做到碾压人类，要不就是识别已经收集好的图片和字符串这类数据效率不输人类罢了。事实上AI和人类根本不是同一个段位的玩家，地球生存和围棋、星际争霸谁段位高想也知道，AI根本就没有打地球生存这种段位游戏的能力。从这个角度来看，至少人类目前显然比AI更智能。