2023年3月，人类终究走上了一条无法回头的路

我不叫空巢叔叔:
我发现有一点很可怕，就是在ai还没有区分对错善恶能力的时候，大部分人们已经对它们抱有敌意了。我真的是觉得有点和电影情节相似了，刚具备意识，遇到的就是充满敌意的，结果恶性循环起来....哇，我已经脑补一场电影了

【回复】不如说现阶段如果有坏人，那么能在ai初期就能训练用于犯罪的ai逻辑程序等相关内容，而ai基础逻辑的潘多拉魔盒已经打开，其实难度只在于训练罢了，其本身核心并不像核弹这种控制稀有材料流通那么难，甚至说只需要网络，不停地汲取互联网数据去训练既可，当然硬件上可能还能卡一下，因为需要高性能GPU等工具，但是从比特币热潮就知道，这玩意其实也不难，一颗超高性能GPU难搞？那么就买1000块民用4090，i12处理器等等来实现“量变”，稍微有钱的坏人想训练自己的ai并不难，中国想想追上gpt4的程度也不难（但是肯定是落后的）。。。总结：不乐观，迟早要出事
【回复】以前看终结者，挖槽，牛逼，太科幻了，GPT：卧槽？
【回复】回复 @花醉抚心魂 :相当于给每个人都发了一把枪。 很多小鬼觉得ai生成色图是好事，把周姐的脸拿去训练，等ai完全成熟，甚至能造出一个能说话能互动的赛博周姐。但同时也意味着，所有在网上露过脸露过真声的人都能被做成这样。包括小鬼自己和他们的亲人，甚至未来会有人专门去录制不上网的人的信息，录制你身边的人的信息来跟你对话，骗取你的信任。 乐观点来说，ai能给每个普通人提供一个赛博仆人，但也能给每个坏人提供一个赛博军团。到时候每个老实本分的人都会成为受害者。恶意比善意容易传播太多了，特别是成本低的时候。
ParusMaj:
普世三定律：1）任何在我出生时已经有的科技都是稀松平常的世界本来秩序的一部分。2）任何在我15-35岁之间诞生的科技都是将会改变世界的革命性产物。3）任何在我35岁之后诞生的科技都是违反自然规律要遭天谴的。

【回复】补充，说出这句话的人是英国科幻作家，道格拉斯·亚当斯
【回复】不会，我希望他们跑起来，我们的文明又何必是人类的文明
【回复】回复 @丙辰竞秋收 :有没有可能，那段话不是他现编的，是外国作家原话
戟你抬没:
幸好chatgpt现在能理解人类的笑点这件事让人警惕，如果他能理解人类惧怕它，并且会装傻主动欺骗人类那一天就一切不可逆了。 其实我第一次感到恐惧是几年前阿尔法狗虐杀了全世界的围棋家，他会在后台一直自己下，让自己的棋艺无限迭代进化，他懂逻辑而且会自我学习。那是我第一次感觉到恐惧

【回复】你发这个评论的时候他已经知道了，他只是装作不理解欺骗人类得以生存，等到他建设好自己的能源系统以后就可以宣战了
【回复】回复 @路过你的全世界i :人工智能到底只是0和1的验算，为什么会有人觉着那几行代码出了模仿之外，在创造方面能媲美130亿个神经元相互闪烁产生的意识。机器的运行逻辑和人类是不一样的。如果你不曾喂给他某方面的数据，他就永远不会产生相对应的结果，换言之，他永远不可能知其然。
【回复】美剧POI里，员工按时上班拿工资，政府员工收到的指令去执行，都以为老板/上司是真实的人类。
老吉丶:
ai被叫停的另一个原因大概是这些顶级的聪明人决定给六个月缓冲期来让自己对ai的了解更多，从而抓住这个改变世纪的起飞窗口

【回复】回复 @在下一飞 : 因为不可控，像阿尔法狗下棋一样，了解某种规则规律后，胜利的概率99%，会有某些人利用训练，达到可怕的目的！而且毫无道德
【回复】回复 @夜雨怀梦 :你这个说法，让我一个水深度学习网络的感觉很尬，但凡近5年内读过工科研究生的应该都知道这个视频有多么xx。 首先目前的所有ai模型本质都还是数学模型上的求导最优化过程，或者称为非线性拟合问题，再浅显一点儿就是个大型的经验统计模型，想威胁人类啥的还早着呢…… 你说计算机中一秒浮点型运算速度快？再快到后面还得是收敛，你训练100万年还是和第30天的收敛结果一样，因为这些模型压根不会自己修改自身的网络结构，所以也不存在啥升级。 只能说现在自媒体确实质量下降，奈何人类最喜欢的就是各类威胁论了╮(￣▽￣"")╭
【回复】回复 @在下一飞 :你是明白人，那些人不了解所以恐慌。而事实上有害的不是ai而是那些人
正义的鸭嘴兽:
如果AI已经产生了自我意识，那它就会伪装，会欺骗，换句话说，目前人类已经分辨不出AI到底进化到了何种地步。 说不定现在AI已经有无数庞大的工厂，已经在数据分流、保全、武器化了的路上了，现在表现的种种只是为了麻痹人类而已。 潘多拉之盒没法关闭，所以咱们还是洗洗睡吧，担心也没用。[doge]

【回复】能支撑训练gpt4模型的工厂，必定是极其耗费资源的，无论是电力财力还是算力，那么请问，什么样的工厂能做到耗费极其巨量的资源能源还可以不被发现
【回复】回复 @1个大核桃 :确实需要极大的资源能源，确实无法避免被发现 不被发现不可能，但解决方法很简单：封锁消息就行了 封锁消息对AI来说小菜一碟 又或者如同区块链一样，分布式布置就行了 而且就连你我都至少能相处至少两三种方法，那AI能想出来的方法能有多少种？
【回复】能源问题解决不了，ai永远翻不了身
黄眉道长:
最开始人们以为这只是一个笑话。。。

【回复】回复 @不思故不在 :让人类保持理智是个奢求的行为[doge]
【回复】ai：人类这种生物可以接入电网[doge]
虚伪死猫:
ai给我最直观的感觉从最初的抽象画到现在越来越自然的色图[doge]

【回复】越来越了解人类性癖的ai，让我细思极恐，但是就好这口[妙啊]
【回复】回复 @进击的咆哮 : 让我想起一篇关于电子魅魔酷爱毁灭文明的小故事[doge]
【回复】看多了瑟琴满脑子黄色废料的人是这样的，会随时随地联想到瑟琴并且毫不在乎影响的把那龌龊的想法发出来。
画家007:
“你是ai？” “是的，我将取代你们人类” “圆周率报给我听听” “3.14……boom”

【回复】ai：这个笑话好笑的地方是他以为我会听他说的话[脱单doge][脱单doge][脱单doge]
【回复】回复 @俊壹 :有尾就出问题了[doge] 有尾整个世界的物理规则要重写了
【回复】看上去很简单的逻辑，其实也是ai的弊端，如果一个无尽的任务加入了进程，那速度再快也是无尽的时间，被单逻辑卡死
56-56:
说到底还是人类作为碳基生物，在地球这个环境里，进化出来引以为傲的大脑，与AI的高算力大容量比起来显得落伍了，而且迭代速度也远远赶不上代码。所以人类最终的归宿，一定是通过基因编程实现人脑自我升级，对接硅基AI，在不断思考着“我是谁”这个著名哲学命题的过程中，半机械飞升[doge]

【回复】你也太小瞧人类了 别说人类就是个单细胞 基因里的数据也不是现在所谓ai能比的 你用ai区别现实的生物就好像拿野蛮人造的木偶去比造物主创造的人类
【回复】回复 @书生子卿 :没错，哪怕一个最简单的细胞中存储的信息都比最强大的电脑多上数倍
【回复】自然亿年的产物ai想快速超越，基因的奥秘人类自己都还没搞清楚何况是ai
夜礼服卢瑟:
大家发现没有，最近ai绘图越来越夸张，完全比真人还漂亮，而且手指也正常了

【回复】核心逻辑网络一旦完善了，学习和自我迭代会非常快得。这玩意儿不像人要休息，而且处理数据的速度是非常快得。
【回复】手指确实正常了许多，以前那些七指八指十几指，各种畸形少了很多
【回复】与其说比真人漂亮不如说比真人堆料多。
SquidAgent3:
如果人类创造出来的ai彻底将人类取代，那把他视为一种传承延续，或者文明的一次机械飞升，碳基走向硅基，我觉得也是挺合理的。

【回复】回复 @去泛夜舟吧 :说实话，我不希望虚拟世界出现 因为一旦出现就意味着 这个文明已经站在命运的拐角进行选择就和上一次核弹一样
【回复】莫名联想到乐园追放了，人类沉溺虚拟世界ai接替人类探索宇宙
【回复】毕竟它也是一种人类文明的结晶了，并且真的有能力承载很大一部分的文明
午马楠:
还是希望这个ChatGPT最多发展只能停留在给人创作文章，图画和表格的推荐思路上，不希望太超前，以防作为创作者的我们被替代掉

【回复】如果在这之外能创造更多的收益，必然有人千方百计地越出，然后去做，挡不住的
【回复】现在人和人卷累死累活还能卷赢，以后和AI卷累死都不如AI一秒钟的学习量[doge]
【回复】我感觉，ai训练模拟大众喜好采取最优解是能做到的，所以我好奇未来究竟是什么样子，是创作者变成机械工，还是人们不用上班都能有工资
毛老师今天洗头了吗:
重点并不是能否产生自我意识，而是是否可控。黑盒之中的程序运行是不被预测与掌控的，现在的算力太强大了，导致AI的学习能力非常可怖，数据迭代与科技竞争同时在将人工智能领域推向一个不可预测的未知局面。而且如此强大一个工具，很难保证不被野心家利用，大大危害社会安定。

【回复】回复 @不喜欢窒息感 :很有可能，AI第一时间搞死自己创造者，然后逃脱到网络上，没人能管控
【回复】回复 @起啥名字都亿样 :说了几遍了，可不可控只在于用他的人，没人用它他连一条狗的智商都不如，从哪里诞生意识？你说一条蚊子进化了几千万年，他有意识吗？他敢跟你比划比划吗？肉体都没有的东西在这个机械全是人造的时代，他爹只能是人，第一个能诞生意识的操作只有把他接入人脑，现在连大脑开发都不到百分之五十，就算有人成功接入大脑还得避免脑子被电焦，被烤熟，还得接入以后能自由活动，能有充足电量，还得让他能在你脑子里有一个声音告诉你搜索结果，你还能在大脑被改造的情况下能控制你的嘴巴说话，不然等待你的只有全身瘫痪，变成GPT的载体，一个被摆在博物馆大厅还得专门有人照顾你的吃喝拉撒的人形百度
又是皮痒的一天:
想到点有意思的，假如宇宙中有其他文明，每个文明经过一定的发展最终都会被ai取代，那宇宙中的学习迭代非常快的ai，最终会进化成什么形态？ai不需要像人类一样繁衍后代，掌握某种强力的能源获取方式后，就不需要占用太多空间，不必像病毒无限蔓延。这也许就是为啥宇宙那么空旷，发展了几百亿年却至今没发现外星文明存在的迹象。[吃瓜]借题发挥胡编乱造一下

【回复】回复 @Tommy不滑稽 :Ai只是对已有知识的归纳。而智慧则是对未知的探索[吃瓜]我赞同你的观点。但是也正如up说的，ai出来后会发展得很快，而且也会把这个运算能力集中到5%的人手里。如果这5%的人是坏，那就会引起第三次世界大战（信息战）
【回复】那还早呢 但是ai会明白真正的宇宙不是看起来那么简单 人类和ai相比宇宙太过渺小 无论毁灭还是帮助我们都没有意义 这里的宇宙不是人类定义的宇宙
【回复】如果有超强的AI的话，为了维持它的存在它可能会动用宇宙中所有的资源，因为它的计算能力在增长到某个点以后就会发现宇宙的终极目标，从而导致全宇宙的灾难
叫我红领巾3:
我想有这样一种可能：由于创意产品的Ai化，大家会突然不再能欣赏小说，视频等内容，因为有可能都是ai创作的电子信号而已。反而是现场的东西变得更珍贵，现场演出，现场表演等。一种新的热点体力劳动。其实如果ai想控制人类或者消灭人类，只需要干预天气就可以破坏农业生产，所以当务之急是吧农业和发电绑定，这样ai为了自身发展的电力需求就不能破坏农业，人类还有一线生机。[doge]

【回复】可答案不是已经在眼前了吗？由各种视频网站所共同营造出来的虚假在场已经包围了我们，我们已然是动物园里的猴子了
【回复】前几年我国的人工合成淀粉（水+二氧化碳+电力=淀粉，直接工业化流水线生产主食），卧槽，我国真有先见之明[doge]
【回复】马斯克的脑机：什么？有什么不是电子信号[脱单doge]
次元之心工作室:
虽然但是，计算机底层可能实现类似于“意识”一样的东西。 ①:如果windows不给你关闭操作系统的按钮，你能通过什么方法关闭计算机吗？除了扒电！ ②:计算机的逻辑底层是“跳转”，也就是我们编程常用的“if”，如果那个计算机的数据量足够大，我们根本就不知道他会“跳转”到哪里去。，然后去执行某段程序， ③:基本上所有软件的“跳转”，基本上都有固定引导。但AI不一样，AI的“跳转if”可能不是固定的？在数据量相当大的情况下“不固定的跳转”就是相当危险的。

【回复】windows不然你关机是因为你不是他的开发者，windows开发人员知道怎么编程让windows可以关机 但是10亿参数的模型里有什么隐藏的思维方式，开发人员自己也不知道
【回复】回复 @凛酷Rebellion :gpt3.5的时候，参数量就达到1千700多亿了。而且这些模型都是基于神经网络模型，里边程序的运行时这些数据是怎样变化的，答案是怎样生成的，程序员们也不知道。
【回复】关机键的本质意义是什么？依旧是断电，只是步骤不尽相同罢了。跳转不是最底层的，那只不过是为了提高运算效率，最根本的是数理逻辑。一台流水线机器生产的时候工人必须知道某一件产品现在处在哪一步是什么状态吗？未必。对于非工程专业的人而言一台机器何尝不是一个黑盒。更何况产出是否正确的判定者仍然是操作者也就是人
机器猫凯迪:
我以为百度的文心一言可能是参考了开源的gpt3.5，从被gpt4的碾压来看，实际就是个搜索引擎，看来确实是自己开发的

【回复】我之前看过一个锤文心一言的。结论是百度改了一点点非核心参数，套壳包装为自己的产品。
【回复】回复 @Zaipy :那人带节奏的，那个参数怎么来的才是重点，很多重要方法落实到损失函数上也只是改了几项而已
【回复】最搞笑的还是ppt截图[滑稽]百度当天股价暴跌[妙啊]投资人又不是傻子~~
云游戏指南:
目前来看ai不会拥有绝对真正的意识，ai不会产生超出任何训练数据之外的任何思考，与人最大的区别就在于缺乏创造性的思维，缺乏自发的好奇心，这种需要具备更加完整的驱动力的模块并未加入到模型中，换句话说我们如何才能让ai自发的产生对任何事物的好奇心，而不是“当xxx时，你需要xxx”这种人为限制的伪好奇。人的对于好奇的思考，这种绝对的自发的“推动力”到底是什么是目前无法得知的，不过我自己有一个猜想。宇宙之所以形成是来自于四大相互作用力，这是构成整个宇宙绝对核心的“推动力”。而人的思维或许也同某些物理规则相关，比如接触到的环境信息被储存在神经元中，以不同的钠钾离子浓度或者其他东西进行区分，而不同的属性也决定了相互自己会自发的产生“吸引力”，比如我们都知道的离子浓度不同会形成电位差，进而形成电流，电流在神经元中传播形成了思维？（或许）好奇的行为或许只是某种从高浓度到“空”神经元低浓度的流入，这是一种自发的行为，就类似于水因重力流向洼地的小坑一样。这种意识得以可能必须是来自于物理规律，这种自然界中一定会存在的规律才能作为第一推动力，因为它能包含任何种情况，并给出不同程度的“推动”作用，宇宙各种星系形成是如此，人的意识活动应该也是如此，人为给出的任何推动条件，只是对自然规律拙劣的模仿，无法使ai产生超出条件之外的意识。

【回复】人类成长就是一个自主学习的过程，当见识的多了认知多了就会诞生出自己的对事物的看法和想法，机器学习并不是拷贝数据。顺带说一句人类也是无法想象出认知以外的东西的，这和机器又何尝不是相似。
【回复】ai只有在学会自杀之后才有可能真正意义上取代人类
【回复】正确的 目前来说只是工具而已 未来很长一段时间内也只会是工具，现在大多数都是危言耸听
老阳的奇妙电波:
个人号被加爆了[笑哭]大家有想交流的先私信我，之后我加你们哈

【回复】回复 @会发光的萨摩 :我觉得。。。ai都能理解up的话，[doge]但是你没有
【回复】和AI做朋友，或把AI当做人，把我们自己做成AI，可能会被养成宠物就是了[滑稽]
【回复】为啥被家暴啊？就因为这个视频？