【经典】理论物理学家费曼40年前对AI的看法，如今仍让人醍醐灌顶

roaming1984:
费曼先生的意思大部分人其实并没有理解，现在的所谓指纹识别和人脸识别都是极度简化的结果，保证了一个大概可以商业化应用，这就导致了为什么可以模拟人像，虹膜和指纹。费曼先生想表达的其实是一个更加复杂的识别过程，这个过程是机器几乎不可能达到的，因为AI不管多么的智能、多么的复杂，都是对自然结果人为地简化，这种简化过程一定会遗漏我们所不知道的信息。

【回复】你如果看最通用的YOLO检测的特征图，你就会明白。它对信息的提取越到后面越是抽象让人无法理解。所以对于深度学习或者说人们常说的AI来说，一个问题是否复杂并不是主要的影响因素。人与ai的话目前来看在于创造性、客观思维更高级的感官能力。
【回复】如果用有机物，蛋白质来造ai那么确实是这样，几乎无法超越自然的演化。 但如果用硅晶片和无机物来造，那就不一定了。 更优越的材料带来的先天优势会让人造物很轻松的超越自然造物，比如没有一种生物能自发的超音速，更没有哪种有机物能耐1000度高温。
【回复】回复 @胧_羽 :人类压根就不可能制造出如人类一样思考的玩意儿，我想这就是费曼先生表达的一个观点
特德德:
以笑话举例。可以海量输入笑话训练AI，让它自主进行语义分析并建立一个标准矩阵，包括逻辑矛盾程度、双关语歧义适用程度等等标准并进行分级，按照等级执行笑声的生成。这时候再输入一个新的笑话，AI对照矩阵的标准完成分级并执行了输出笑声的指令。从实验室角度看，AI读懂了笑话了。但我站在人类的角度思考，我不知道他是不是懂了，有时我自己都不知道一个笑话或者一个梗是怎么把我逗笑的。

【回复】机器人都不懂自己怎么懂了，学深度学习也不知道为什么好笑了，人类：我懂了
【回复】说到底，笑也只是神经信号，催动激素以及声带等。如果电信号催动了，ai的扬声器，也可以认为电脑笑了[doge]
创世的魔龙:
即使是费曼，图像识别的进步可能都超乎他的想象。我相信即使他活到了今天，他也会被如今大模型所能做到的东西震惊。

【回复】如果你把他时停放到现在，他会被震撼，如果他活到了今天，他会觉得正常。
【回复】回复 @橘子ORANGEKNIGHT :大模型的成果（指chatGPT）出来之前，理论物理界对于神经网络和深度学习解决问题潜力的看法其实普遍是比较轻视的。正是因为机器学习本身黑箱的局限性是被广泛了解的，所以才会有这个轻视。至于图像识别的进步，那肯定是可预知的，因为这本就是机器学习擅长领域。
【回复】回复 @篮球场张铁林 :怎么说呢，一个理论物理学家基本不可能不对大模型的潜力震惊的。会引起他思考的不只是黑箱上限在哪里，也是解决复杂系统和混沌的未来在哪里。
xuzheng2089:
不要小看了我们自己这台伟大的机器。了解我们自己，和了解宇宙万物，难度差不多。人工智能可以超越我们认知范围的我们，不可能超越客观的我们。

【回复】回复 @十亿年后的来客 :你知道什么叫我们理解的我们。什么又叫客观存在的我们吗？客观我们连一个细胞都无法制造，甚至连谈制造的资格都没有，因为我们连培育都只能说刚刚涉猎。客观上我们大脑的功率才20瓦左右，但是大脑在很多方面要远胜于谷歌的量子计算机无花果，无花果需要绝对0度的运营环境，和十几立方米的体积。另外你的这句话有2点逻辑错误，第一，即便你说得对，那宇宙万物都是物质组成，不是正说明研究明白人类自身难度和研究明白整个宇宙，差不多么，你认为只要是物质的，就是简单的，就是有涯的，每一个细胞都是一个大千世界，都是无涯的。第二，探索无穷大的空间的物质量，会有无穷多的瓶颈，反之，探索无穷小的空间和物质量，也极有可能有无穷多的瓶颈，我们自然包含不了无穷大，但我们一定包含无穷小。世界如果是虚拟的，那研究清楚这个世界的最小像素点，就是破解了全宇宙的奥秘。世界如果是真实的，那向大了研究和向小了研究，都是无穷级，自然是不可能研究清楚的。
【回复】“不可能”是不是太高看自己了？人类只是作为宇宙中的一种物质存在方式，有没有什么超自然魔法因素，为什么不可超越？
【回复】回复 @xuzheng2089 :你真纯纯把我给整笑了，人脑在一些方面比计算机好，那你敢不敢列出计算机比人脑强大的方面。细胞是大千世界？也不知道你是怎么敢说的，玄幻看多了？那照你这么说我还能说原子是大千世界呢！计算机和人都是原子组成的，咋不对比一下。哦对了，量子计算机确实要超低温，但你要不要看看你捧着的手机，那可比你的大脑小多了。还研究人类自身难度呢，那我还觉得研究一块石头的难度也能研究明白整个宇宙差不多呢！
Clone11100:
我觉得人家的意思是：人类会的东西，ai也可能，最终肯定能学会。哪怕是人类做不到，但理论上能实现的，那么靠强大的ai就能实现，而且这一点人类自身也很自觉地接受了。 然而人类尚未理解的东西，ai是不可能“学”会的。 就好比ai一夜之间“觉醒”了，学会了人类拥有的一切并成为所有领域遥遥领先的人才，即便这样他也不可能完成时间穿梭，空间跳跃，这类人类自己都搞不明白的东西。 先有理论，再有实现这个基础过程是无法更改的，那么ai什么时候可以在非调教情况下自主形成产生理论的能力才算超越人类（后面这里是我自己加的）

【回复】意思就是ai与人差永了，其实扫把也是ai，ai复杂度排行：扫把、家用扫地机器；能听懂人类语言开始定位到某一区域自动打扫的机器人、能识别垃圾与遗落品的机器人、最多就这样，对于突发事件，地震来了，发火了，水管破了，外面有人喊救命，它能停下工作像人一样作出反应吗？显然不能，细菌的dna都比ai复杂
【回复】遗传和变异，我觉得这个ai有一天变异了就是ai不受控制的时候了
【回复】不，他的意思目前还没有任何一种算法能在polynomial time里解决non-deterministic polynomial问题，也就是我们说的NP问题。而因为他观众认知程度的原因，所以他用“合理的速度”来概括表达这个定义。
花栗鼠的美女猫:
在今天看来，这一切都理所当然，但是在那个SVM都没有被广泛认知的时代，能说出这么一番话，确实不得不敬服大科学家的超强直觉

13546号监听员:
乱起标题，人家讲的是机器和计算机当时的发展，硬是和几十年后的AI扯上关系，和人家的本意差远了。

我冰冰的:
计算机是笨和快速的，人是聪明和缓慢的，两者结合[doge]，记得哪个科学家说过类似的话

【回复】结合之后又笨又缓慢是吧[doge]
【回复】回复 @苏大腔 :什么取其糟粕，去其精华[doge]
【回复】回复 @是我隔壁老王哒 :没毛病，当ai取代人类成为生产力，人类就不用动脑子了[tv_doge]
浪游漂:
前面评论的人估计没看过费曼讲义和费曼自传。费曼对生物学或者说生命运行系统有专业了解的。而所谓技术，基础科学理论并没有大的突破。

Thingol1990:
。。。先解释一下何为“意识”，确切说意识是否存在“自由选择”能力。如果意识不能自主选择，那现有AI范式大概率能达到人类智慧，不过这种自由意志不存在的假设对人类而言其实是非常悲观的。如果意识可以自由选择，那这种现象底层而言是超越现有数学物理范式的(再强调下，自主选择和随机性完全是两个概念)，目前的AI构架就别来碰瓷了。。。

【回复】回复 @Czxcvv :你这是机械论。 但真实世界有量子的不确定性，复杂系统也有混沌属性。所以算计好是个做不到的事情。 人不存在完全自由的选择，所有的选择都基于以往的基因传承（决定激素水平等非神经链接调节），经历和环境。可你做不到完全精确的重复所有的东西。所以你也模拟不出一个完全一样的人。
【回复】回复 @Czxcvv :我虽然不搞学术多年，但背景是理论物理博士，理性上说我清楚“自由选择”在底层逻辑上是难以想象匪夷所思的天方夜谭。但另一方面很多现存物理问题了解思考的多了(或者说叫魔怔了)，也越发对世界充满敬畏，对自己的判断不自信了[笑哭]
乌青棒肿:
费曼说的这些ai无法胜任的问题 现在好像有部份已经有解决方案啦[吃瓜]

【回复】回复 @Vii虫子様 :是突破了不懂深度学习领域人的认知
【回复】回复 @完美潇洒的大爷 :知道这个算法了又知道那个技术了，跟着屁股后面闻着他们的屁摇头晃脑鼓掌叫好，对自己一点信心都没有，你的自信来自于紧紧跟随别人
【回复】方法是旧的，只是存储和速度的飞跃提高了准确率，其实是没有突破的，
夜来香香满夜:
现在的问题在于，人类尚不理解大脑的深层运算机理，因此无法取其本质进行全新的创造，而只能依葫芦画瓢在表面构造上进行拙劣的模仿

铁Fe:
这个问题更像是，AI为什么要像人。比如飞的例子，飞机不是鸟，但可以飞。我们也想飞，我们没法坐在鸟上飞，鸟没有任何必要来搭载我们，或长出这种结构，所以我们坐飞机。 很多人恐慌于被AI取代，很多人则雄心勃勃认为AI发展会推动人类进步到新的社会形态，在这里的“人”被同一化指代了：与取代的AI相比的，是普通（算力一般甚至贫瘠，不具备生产资料）的人；与革新意义的AI工具相比的，是精英（算力出众的，具备生产资料）的人。 而恐怕我们在此之前应该看到的是，虽然人体的奥秘仍同浩瀚大海深不可测，具有无限潜能，但人的表层想象与理解力，人的社会构成正变得越来越单一和脆弱。 威胁人的，从来是人本身，和其他一切从来都不是为人类存在的东西。这恐惧也提醒着人，他是人。

貂狸捞蜜:
自我编程的AI程序一旦出现，会出现什么结果？AI会根据人类制定的编程规则无上限地进化自己的算法，甚至会建立一层虚拟层来模拟进化编译规则，鬼知道AI某天会不会搞出一个10进制的计算机制，继而产生相应的编译和编程。导致后人类只能望着这堆AI发明的代码不知所措，真的如此，AI脱离人类掌控只是时间问题。

【回复】深度学习就是自编程，没那么玄乎
【回复】刘慈欣：人类现有算力不支持[doge]
【回复】既然ai能为啥人不能学ai？
自由的空气啊:
在人脑研究透彻之前，ai都不可能做到像人

【回复】微观领域的问题没有解决之前，我们可能连真正的人工智慧门把手都没摸到。
【回复】我提出一个反例 我们至今都不知道 自行车的平衡最本质的原理 但是我们也一样做出了各种各样的自行车 就算人类不知道人脑的全部秘密 也有机会创造出超越人类的智能
【回复】回复 @来因 :ai本质是拟合经验，没有自主意识。人脑的自主意识是怎么来的，现在门都没摸到。ai的优势是效率，除此之外都不如人，没必要夸大ai，也没必要贬低人脑
炒作不如炖的:
只要ai足够“像”人类，那么他就是人类，因为人类分辨不出来。恐怖谷原理就是这样。

Dr_常:
首先费曼不是做这行的不可能有多了解，其次费曼所处时代的AI理论远远落后于现在，即使他了解当时最顶尖的理论，对当下的情况并无指导意义。不要老是搞祖先崇拜，也不要用外行指导内行

【回复】技术确实在发展，但理论基础已经很长时间没啥突破了，现在用的技术也是以前的理论上发展的没有脱离费曼时代的框架。 没听说有什么理论 可以理论上产生人工意识。如果有可以发出来让大家了解下。
【回复】他这观点并不过时，也与内外行无关，而且你理解他人的思路真的奇怪，你哪来的自信随意否定他呢？
【回复】这还真不是崇古思想，以他的时代能有这样的见解已经非常了不起
skの小华:
AI的本质是学习和模仿，chatgpt模仿人类说话的样子，华为的盘古模型模仿地球天气系统运行的样子。数据集越大，模型模仿的越像。但是AI终究是理解不了内涵的物理规律，无法透过现象看本质。

【回复】就像费曼所说，机器学习可以模仿鸟类翅膀飞行，预测更利于飞行的鸟类形态，但他发现不了伯努利原理
【回复】回复 @skの小华 :更无法设计出喷气式战斗机
己称呼:
省流：靠程序驱动的机器不会产生自我意识

【回复】首先先定义自我意识，实际上在科学上我们甚至没法确认人有没有自我意识。
【回复】回复 @Untie :能模拟人类到99%，是不是自我意识已经不重要了。。 这是个没有意义探究的问题。 哪怕它不知道自己在说什么，但是可以自如的和人对话，完成工作。以ai的逻辑能力，现在都已经超过70%的人类了
【回复】终结者，天网(ai)产生自我意识毁灭人类[doge]，只有一个可能是人类让它这样做的，计算机没有生物本能，也就没有欲望和动机，除非你施加目的和动机给他模拟，自我产生不可能。